Vamos falar sobre o Discord? Quando a arquitetura se torna um problema de Estado
Entre comunidades legítimas e redes de ódio, exploração e violência, o Discord expõe uma questão incontornável: até onde pode ir o poder de uma plataforma privada sem uma regulação à altura de sua arquitetura?
por Reynaldo Aragon
O Discord não criou o ódio, o extremismo ou a exploração infantil. Mas construiu uma poderosa arquitetura de comunidades que também pode ser apropriada por redes criminosas. De Charlottesville aos casos brasileiros, este artigo investiga quando o problema deixa de ser apenas o conteúdo e passa a estar na própria estrutura da plataforma, colocando regulação, responsabilidade e soberania no centro do debate.
O Discord que o Brasil precisa conhecer
Para milhões de pessoas, o Discord é uma ferramenta extraordinariamente útil. Nascido em 2015 e popularizado inicialmente entre jogadores, tornou-se uma infraestrutura de convivência digital usada por comunidades de programação, estudo, cultura, entretenimento, trabalho e incontáveis grupos organizados em torno de interesses comuns. Sua força está numa ideia aparentemente simples: permitir que qualquer pessoa crie um espaço próprio, convide outras e organize ali uma comunidade. Um servidor pode conter dezenas de canais diferentes, conversas reservadas, fóruns, salas de voz, vídeo, transmissões ao vivo, bots, cargos, hierarquias e permissões específicas para cada integrante. Não se trata, portanto, de uma rede social convencional. No Facebook, Instagram ou X, o usuário entra fundamentalmente em um fluxo de conteúdos. No Discord, ele pode entrar em uma estrutura social.
É justamente aí que começa a discussão que o Brasil precisa fazer. A qualidade que tornou o Discord tão eficiente para reunir pessoas também pode torná-lo eficiente para reuni-las em torno do crime. Uma comunidade pode ser criada para ensinar programação, organizar um grupo de estudos ou aproximar jogadores espalhados pelo mundo. Mas a mesma capacidade de criar espaços persistentes, segmentados e relativamente privados pode ser apropriada para organizar redes de ódio, exploração sexual, coerção, extremismo e violência. O problema não está na existência de servidores, canais, mensagens privadas ou salas de voz, assim como uma rua não se torna criminosa porque um crime ocorreu nela. A questão muda de natureza quando determinadas capacidades tecnológicas deixam de ser cenário e passam a desempenhar uma função material na formação, organização, proteção ou continuidade de comunidades dedicadas ao dano.
Essa distinção é decisiva porque impede duas simplificações igualmente perigosas. A primeira é demonizar o Discord, como se milhões de usuários legítimos fossem responsáveis pelo que grupos criminosos fazem dentro dele. A segunda é tratar a plataforma como um recipiente neutro, como se a empresa apenas fornecesse uma tela sobre a qual terceiros agem e toda responsabilidade terminasse no indivíduo que praticou o crime. Nenhuma tecnologia social dessa escala é apenas recipiente. Quem desenha os espaços, estabelece as permissões, determina as possibilidades de interação, introduz ou remove obstáculos, define mecanismos de segurança e decide quais comportamentos seus sistemas conseguem enxergar participa da construção das condições materiais em que aquelas relações acontecem.
O próprio Discord sabe disso. Desde que supremacistas brancos utilizaram a plataforma na organização relacionada ao Unite the Right, em Charlottesville, em 2017, a empresa ampliou radicalmente suas estruturas de Trust & Safety e desenvolveu mecanismos de detecção e combate ao extremismo, à exploração infantil e a outras violações. Hoje, suas políticas proíbem explicitamente organizações extremistas violentas, grooming, sextorsão e exploração sexual de menores, e a companhia mantém sistemas de denúncia, detecção automatizada, moderação e cooperação com autoridades. Reconhecer isso não enfraquece a crítica. Ao contrário: demonstra que a própria história da plataforma obrigou a empresa a reconhecer que arquitetura comunitária exige arquitetura de segurança.
É nesse ponto que o debate deixa de ser apenas tecnológico. O Discord construiu uma das arquiteturas comunitárias mais sofisticadas da internet contemporânea e, exatamente por isso, adquiriu responsabilidades proporcionais à capacidade que colocou no mundo. A pergunta relevante já não é se existem criminosos no Discord. Existem, como existem em outras plataformas e fora delas. A pergunta que interessa a uma sociedade democrática é muito mais difícil: o que acontece quando uma arquitetura criada para organizar comunidades humanas é apropriada por comunidades organizadas para produzir dano? É dessa pergunta, e não de uma cruzada contra uma plataforma, que deve começar qualquer discussão séria sobre Discord no Brasil.
A arquitetura não é neutra
Para compreender o problema do Discord é preciso abandonar uma ideia confortável: a de que plataformas são recipientes vazios e de que apenas o conteúdo colocado dentro delas produz consequências. Arquitetura também é poder. Um sistema tecnológico determina quem pode encontrar quem, como grupos se formam, quais portas permanecem abertas ou fechadas, quem administra cada espaço, que comportamentos encontram obstáculos e quais podem acontecer quase sem atrito. No Discord, essa arquitetura é especialmente poderosa porque a unidade fundamental não é a postagem, mas a comunidade. Servidores podem ser divididos em canais, subdivididos por funções e protegidos por permissões; administradores distribuem cargos e poderes; usuários transitam entre texto, mensagens diretas, voz e vídeo; bots automatizam tarefas; convites conectam novos participantes. A plataforma não determina o que uma comunidade será, mas fornece a infraestrutura que permite que ela exista, adquira organização e permaneça funcionando.
Essa diferença importa. Uma publicação extremista perdida num fluxo aberto pode alcançar milhares de pessoas, mas uma comunidade persistente pode produzir algo qualitativamente distinto: pertencimento, hierarquia, linguagem própria, reconhecimento, disciplina interna e continuidade. É nesse ponto que a mediação se transforma em algo mais profundo. O Discord não apenas conecta indivíduos que já existem socialmente fora dele; organiza as condições técnicas pelas quais novas relações, identidades coletivas e estruturas de autoridade podem ser construídas dentro da plataforma. É o que podemos chamar de metaintermediação: a empresa não controla necessariamente cada conversa, mas controla a arquitetura anterior à conversa, o campo de possibilidades dentro do qual ela acontecerá.
Nada disso torna um servidor criminoso. Ao contrário, explica por que o Discord funciona tão bem para comunidades legítimas. A questão estratégica está na reversibilidade dessas capacidades. Hierarquia pode organizar uma equipe de desenvolvimento ou distribuir funções numa rede de exploração. Um canal reservado pode proteger a intimidade de amigos ou reduzir a visibilidade de uma comunidade violenta. Bots podem combater spam e automatizar moderação ou ampliar outras capacidades de uma comunidade. Voz e vídeo podem aproximar pessoas separadas por continentes ou transportar coerção para o tempo real. Privacidade protege liberdade e intimidade, mas também pode elevar o custo de detectar abusos. A ferramenta não contém a finalidade de quem a utiliza, mas sua arquitetura altera aquilo que o usuário é capaz de fazer.
É aqui que aparece uma segunda dimensão pouco discutida: a fricção. Boa parte da história das plataformas digitais foi construída em torno da eliminação de obstáculos. Entrar mais rápido, clicar menos, comunicar instantaneamente, permanecer conectado, reduzir espera, transformar procedimentos em gestos quase invisíveis. A fricção zero é vendida como conveniência, mas todo obstáculo retirado modifica também a estrutura de decisão. Em ambientes de risco, alguma fricção pode cumprir função protetiva: exigir verificação, limitar mensagens de desconhecidos, estabelecer tempo mínimo antes de determinadas ações, restringir funcionalidades segundo idade ou interromper comportamentos anômalos. O próprio Discord permite aos administradores estabelecer diferentes níveis de verificação para seus servidores, indo de nenhuma exigência a requisitos relacionados a e-mail, tempo de conta, permanência no servidor e telefone verificado. A arquitetura, portanto, sabe criar portas. A questão política é decidir onde elas precisam existir e quando não podem depender apenas da vontade de quem administra a sala.
Esse ponto é ainda mais importante porque a governança do Discord é parcialmente descentralizada. A empresa estabelece regras gerais e mantém seus próprios sistemas de segurança, mas grande parte da vida cotidiana de cada servidor é administrada por proprietários e moderadores locais. Em comunidades saudáveis, essa estrutura multiplica a capacidade de proteção: pessoas próximas ao contexto conseguem estabelecer normas, expulsar abusadores e adaptar a moderação às necessidades do grupo. O problema aparece quando a finalidade do próprio grupo é nociva. Nesse caso, aquilo que normalmente funciona como camada adicional de governança pode inverter sua função: a hierarquia deixa de proteger a comunidade contra o abuso e passa a proteger o abuso como prática da comunidade. É por isso que moderação comunitária, embora indispensável, não pode substituir responsabilidade corporativa sobre riscos graves e previsíveis.
Chegamos então ao ponto central. Não existe uma linha reta entre uma funcionalidade e um crime. Discord não produz automaticamente extremistas porque possui servidores privados, não produz exploradores porque oferece mensagens diretas, nem produz violência porque permite transmissões. Causalidade tecnológica tão simplista seria intelectualmente indefensável. O que existe é algo mais concreto: uma distribuição de capacidades. Toda arquitetura facilita determinadas ações, dificulta outras e estabelece custos diferentes para organizar, entrar, permanecer, observar, denunciar ou interromper uma comunidade. Quando essas capacidades são apropriadas por redes criminosas, o debate deixa de ser apenas sobre aquilo que alguém publicou e passa a incluir aquilo que a infraestrutura tornou possível organizar.
Essa distinção muda completamente a pergunta regulatória. O Estado não precisa decidir como cada comunidade deve conversar nem transformar comunicação privada em espaço de vigilância permanente. Precisa exigir que capacidades tecnológicas venham acompanhadas de salvaguardas proporcionais aos riscos previsíveis que carregam. Quanto mais poderosa a arquitetura para organizar relações humanas, maior a responsabilidade de quem a projeta para demonstrar que também consegue protegê-las. A arquitetura não é culpada pelo crime. Mas tampouco pode ser declarada inocente antes que se investigue o papel material que desempenhou. É exatamente isso que a história do Discord começaria a ensinar ao mundo em 2017.
De Charlottesville às redes de violência: quando comunidade vira infraestrutura
O primeiro grande alerta veio cedo. Em agosto de 2017, quando supremacistas brancos marcharam em Charlottesville, na Virgínia, no Unite the Right, o Discord já havia sido utilizado por organizadores para planejar atividades relacionadas à mobilização. Não é uma acusação construída retrospectivamente por adversários da empresa. O próprio Discord reconhece Charlottesville como um divisor de águas de sua história: naquele momento, sua equipe de Trust & Safety era composta por uma única pessoa; depois do episódio, a companhia passou a desenvolver estruturas específicas para identificar usuários que tentassem recrutar ou organizar extremistas violentos dentro da plataforma. Charlottesville revelou algo maior que a presença de racistas na internet. Mostrou que uma comunidade digital podia fornecer organização, coordenação e pertencimento para uma mobilização extremista destinada a transbordar da tela para a rua.
Cinco anos depois, Buffalo mostrou uma relação diferente entre arquitetura privada e violência. Em maio de 2022, o supremacista branco que assassinou dez pessoas negras em um supermercado manteve em um servidor privado do Discord um diário com seus planos. A própria investigação da empresa concluiu que aquele espaço permanecera acessível somente ao autor até pouco antes do massacre, quando ele distribuiu convites em mensagens e outros servidores privados; 15 usuários chegaram a acessá-lo. O Discord afirmou não ter recebido denúncias anteriores e não ter encontrado referências ao planejamento do ataque fora daquele servidor. A precisão é indispensável: não há base para dizer que o Discord radicalizou o assassino de Buffalo. O caso demonstra outra coisa. Uma arquitetura comunitária também pode funcionar como arquivo privado e persistente de preparação da violência, permanecendo praticamente invisível até que algum sinal atravesse seus limites.
Mas o fenômeno que emergiu nos anos seguintes é ainda mais perturbador porque dissolve fronteiras tradicionais entre extremismo, exploração sexual, tortura psicológica e comunidade digital. O FBI passou a alertar para o crescimento internacional de redes violentas online como a 764, que procuram deliberadamente crianças e pessoas vulneráveis e empregam ameaça, chantagem e manipulação para obrigá-las a produzir ou transmitir automutilação, violência, atos sexuais e até tentativas de suicídio. O material obtido é recirculado para ampliar a coerção e o controle. O Departamento de Justiça dos Estados Unidos classifica a 764 como uma rede de extremistas violentos niilistas e acusa integrantes de transformar exploração de menores, material de abuso sexual, violência extrema e sofrimento humano em instrumentos de recrutamento, prestígio e poder dentro da própria rede.
É importante não cometer aqui o erro que enfraqueceria toda a análise. A 764 não é produto do Discord nem existe apenas nele. Trata-se de um fenômeno transnacional e multiplataforma. Seus integrantes transitam por diferentes serviços, aplicações de mensagens e ambientes digitais. Mas há processos em que a função material do Discord está documentada. Em 2024, por exemplo, um integrante admitiu ter utilizado a plataforma para persuadir uma menor a produzir conteúdo sexual e operar servidores associados à rede, que buscava induzir e extorquir crianças para práticas sexuais, violência e automutilação. O que interessa não é apropriar-se da existência da 764 para culpar uma empresa. É compreender como redes contemporâneas aprendem a combinar as capacidades disponíveis em diferentes plataformas para construir seus próprios ecossistemas de poder.
O caso de Greggy’s Cult torna essa transformação particularmente visível. Em dezembro de 2025, promotores federais norte-americanos acusaram cinco homens de liderar uma organização de exploração infantil que, segundo a denúncia, operava em uma série de servidores do Discord. As autoridades afirmam que integrantes encontravam vítimas tanto no Discord quanto em jogos como Roblox e Counter-Strike, levavam menores para chamadas de vídeo, exigiam atos sexualmente explícitos ou degradantes, registravam as imagens e as redistribuíam entre servidores. Vítimas eram coagidas a se automutilar, declarar-se propriedade de integrantes e produzir marcas corporais como demonstração de submissão. A acusação registra ainda que Greggy’s Cult antecedeu a 764 e que futuros integrantes proeminentes dessas redes passaram por aquele ambiente. Aqui a plataforma já não aparece incidentalmente na biografia de um criminoso. Segundo a acusação, servidores, chamadas, circulação de arquivos, recrutamento e hierarquia comunitária integravam a própria operacionalidade do grupo.
É nesse ponto que precisamos atualizar nossa imagem mental do crime organizado digital. Estamos acostumados a procurar uma organização com nome, comando, território, cadeia hierárquica e objetivo relativamente definido. Parte da violência contemporânea funciona de outra maneira. Redes podem nascer, fragmentar-se, recombinar-se e atravessar plataformas; reconhecimento interno pode ser conquistado pela produção de sofrimento; violência pode converter-se em moeda de status; crianças podem simultaneamente ser vítimas, alvos de recrutamento e instrumentos para alcançar outras vítimas. O que externamente parece um conjunto caótico de perfis pode possuir códigos, reputações, arquivos, rituais, administradores e mecanismos próprios de pertencimento. A comunidade deixa de ser apenas o lugar onde o crime é discutido e pode tornar-se uma das formas pelas quais o crime se organiza.
Essa transformação explica por que a discussão sobre Discord não pode terminar na remoção de uma postagem ilegal. Conteúdo é apenas a superfície visível. Em Charlottesville, a função relevante foi a organização; em Buffalo, o armazenamento privado da preparação; em Greggy’s Cult e em segmentos associados à 764, aparecem recrutamento, coerção, distribuição, hierarquia e pertencimento. São fenômenos distintos, e justamente por isso não podem ser comprimidos numa causalidade falsa segundo a qual “Discord gera violência”. O que a sequência histórica demonstra é mais incômodo: uma arquitetura suficientemente poderosa para organizar comunidades legítimas também pode ser apropriada para conferir estrutura comunitária ao dano.
Essa história não termina nos Estados Unidos. Enquanto autoridades norte-americanas aprendiam a reconhecer novas formas de extremismo e exploração digital, investigações brasileiras começavam a encontrar fenômenos assustadoramente semelhantes. O problema que parecia distante já estava atravessando nossas próprias telas.
O Brasil já está dentro dessa história
No Brasil, o debate sobre o Discord deixou de ser abstrato. Antes de a plataforma chegar ao centro da discussão pública em 2026, autoridades brasileiras já encontravam seus servidores em investigações envolvendo crianças, automutilação, exploração sexual, coerção, discurso de ódio e violência. Em julho de 2023, a Polícia Federal resgatou no Rio Grande do Sul uma menina de 12 anos que mantinha contato, pelo Discord, com adolescentes investigados por incitação à automutilação e abuso infantil. A própria PF registrou que se tratava de “mais um resgate” de vítima relacionada à plataforma. O episódio importa menos como caso isolado do que como primeiro sinal de uma sequência que, nos anos seguintes, obrigaria o Estado brasileiro a mudar a natureza da pergunta.
A escala das investigações aumentou. Na Operação Banhammer, coordenada pelo Ministério da Justiça e Segurança Pública, autoridades investigaram grupos digitais envolvidos com automutilação, instigação ao suicídio, crimes sexuais, discurso de ódio e formas de coerção de adolescentes que incluíam a chamada “escravização virtual”. Depois, a Operação Mão de Ferro 2 mobilizou forças de segurança em 11 estados contra redes relacionadas à produção e circulação de material de abuso sexual infantil, automutilação, ameaças e apologia ao nazismo. Em fevereiro de 2026, a Polícia Civil do Rio de Janeiro voltou a encontrar Discord e Telegram nas chamadas “panelas”, comunidades investigadas por exploração sexual infantojuvenil, extorsão, maus-tratos contra animais, automutilação e violência extrema. Segundo a polícia, vítimas eram submetidas a coerção psicológica e obrigadas inclusive a transmitir agressões contra o próprio corpo. O padrão começava a ficar difícil de tratar como acidente.
Foi, porém, a Operação Lívia que transformou essa sucessão de investigações em problema regulatório de Estado. O caso envolveu uma adolescente submetida, segundo as autoridades, a um ambiente de violência extrema dentro de uma comunidade no Discord, com transmissões audiovisuais relacionadas a automutilação e indução ao suicídio. Ao analisar o episódio, a Autoridade Nacional de Proteção de Dados concluiu preliminarmente que havia evidências robustas de insuficiência das salvaguardas preventivas da plataforma para crianças e adolescentes e identificou um problema particularmente grave nas funcionalidades de transmissão ao vivo. A investigação deixou de perguntar apenas quem estava do outro lado da tela. Passou a perguntar por que aquela arquitetura não conseguiu interromper o que estava acontecendo dentro dela.
A resposta técnica tornou o caso ainda mais importante. Desde março de 2026, áudio e vídeo em chamadas e transmissões do Discord passaram a operar com criptografia ponta a ponta. Isso significa que, nesses ambientes, a empresa não dispõe do conteúdo audiovisual centralmente para analisá-lo enquanto a comunicação ocorre. A proteção da privacidade é legítima e não deve ser confundida com o problema. O que a ANPD questionou foi outra coisa: se a arquitetura escolhida impede determinada forma de detecção, quais salvaguardas alternativas existem para identificar situações de alto risco? Segundo a análise da autoridade, os sinais comportamentais utilizados pelo Discord não foram capazes de acionar adequadamente seus mecanismos de segurança no caso da Operação Lívia, e depender de uma denúncia produzida por alguém que já esteja dentro daquele ambiente pode tornar a proteção ineficaz justamente quando a vítima não consegue pedir ajuda.
Esse é o momento em que o caso brasileiro se torna decisivo para toda a discussão deste artigo. A ANPD não determinou o bloqueio do Discord. Tampouco exigiu o fim da criptografia ou o acesso indiscriminado às comunicações privadas. Em agosto de 2026, adotou uma medida cautelar dirigida às capacidades que considerou associadas ao risco: determinou a suspensão das transmissões de vídeo e do compartilhamento de tela, incluindo a funcionalidade Go Live, até que a empresa demonstrasse salvaguardas adequadas. O Discord começou a desativar essas funções no Brasil em 17 de agosto, mantendo mensagens, servidores e canais de áudio disponíveis. Pela primeira vez nessa trajetória, o centro da intervenção estatal não era apenas o criminoso nem o conteúdo depois de produzido. Era a funcionalidade.
O contraditório torna o episódio ainda mais instrutivo. O Discord sustenta que investe extensamente em segurança, que possui mecanismos automatizados e humanos de detecção, que coopera com autoridades e que tomou medidas contra o servidor relacionado ao caso. A empresa também informou às autoridades que havia removido no Brasil quase 260 mil contas e cerca de 9,7 mil servidores relacionados a conteúdos violentos ou ilegais entre 2024 e junho de 2026. Esses números não significam que existam 260 mil criminosos na plataforma e não podem ser utilizados como medida direta de prevalência do crime; refletem também políticas, categorias e capacidade de detecção da própria companhia. Mas revelam a dimensão operacional do problema que seus sistemas de segurança precisam administrar. No episódio que motivou a intervenção da ANPD, informações prestadas pela empresa indicaram ainda que o sistema automatizado atribuiu ao servidor pontuação de risco muito inferior ao limiar utilizado para determinados alertas automáticos.
É exatamente por isso que a decisão brasileira possui relevância para além do Discord. O Estado não declarou guerra a uma tecnologia. Identificou uma capacidade específica, avaliou um risco concreto e determinou uma restrição cautelar dirigida àquela capacidade. Em vez da falsa escolha entre deixar tudo funcionar ou bloquear toda a plataforma, aparece um terceiro caminho: regular a arquitetura proporcionalmente ao risco. Uma transmissão pode ser suspensa sem que mensagens sejam proibidas; uma proteção de idade pode ser exigida sem que adultos sejam impedidos de utilizar o serviço; uma empresa pode preservar criptografia e, ainda assim, ser obrigada a demonstrar mecanismos alternativos de segurança.
A Operação Lívia marca, portanto, uma mudança histórica no debate brasileiro. Depois de anos perseguindo indivíduos, grupos e servidores, o Estado começou a olhar para aquilo que existia antes deles: as condições técnicas que organizavam suas possibilidades de ação. A pergunta já não era somente quem praticou o crime, mas quais responsabilidades cabem a quem desenhou e administra o ambiente no qual ele conseguiu adquirir forma comunitária. E essa pergunta conduz inevitavelmente ao paradoxo que nenhuma regulação séria pode evitar: como proteger crianças e enfrentar redes criminosas sem transformar privacidade, criptografia e liberdade em vítimas colaterais da própria proteção?
O paradoxo Discord: privacidade, segurança e fricção
Seria fácil, depois dos casos brasileiros, concluir que a solução está em tornar o Discord mais transparente para a própria empresa e para o Estado. Seria também um erro. Uma sociedade democrática não deve combater ambientes criminosos transformando milhões de cidadãos em suspeitos permanentes. Comunicações privadas, criptografia e espaços protegidos são conquistas fundamentais de uma vida que se tornou inevitavelmente digital. Jornalistas, pesquisadores, movimentos sociais, empresas, famílias, adolescentes e cidadãos comuns precisam conversar sem que cada palavra, imagem ou chamada seja permanentemente observada. O desafio regulatório começa justamente porque dois direitos legítimos podem entrar em tensão: preservar a privacidade de quem não comete crime e impedir que essa mesma proteção seja instrumentalizada por quem produz violência.
O Discord aprofundou essa escolha ao tornar obrigatória, em março de 2026, a criptografia ponta a ponta para áudio e vídeo em mensagens diretas, grupos, canais de voz e transmissões Go Live. A empresa publicou seu protocolo, o DAVE, submeteu componentes da tecnologia a auditoria externa e passou a impedir que o próprio Discord tenha acesso central ao conteúdo audiovisual dessas comunicações durante sua realização. Isso não constitui uma falha que precise ser corrigida. É uma proteção que precisa ser preservada. O problema aparece quando se imagina que a impossibilidade técnica de observar determinado conteúdo encerra também a responsabilidade sobre os riscos previsíveis produzidos naquele ambiente.
É exatamente aí que segurança precisa deixar de significar apenas vigilância de conteúdo. Uma plataforma pode observar sinais sem necessariamente ouvir uma conversa: idade provável dos participantes, criação e crescimento anormal de comunidades, padrões de convites, reincidência de contas, conexões com servidores já removidos, denúncias anteriores, comportamento de administradores e outras informações que não exigem transformar cada chamada privada numa sala monitorada. Há limites jurídicos e técnicos para o tratamento desses dados, e falsos positivos podem atingir inocentes. Por isso, nenhum indicador isolado pode funcionar como sentença. Mas entre ler tudo e não conseguir agir até que alguém denuncie, existe um enorme campo de engenharia de segurança, avaliação de risco e intervenção humana que precisa ser continuamente aperfeiçoado.
A própria história do Discord demonstra que esse campo existe. A companhia mantém sistemas automatizados e equipes especializadas contra exploração infantil, extremismo violento, fraude e outras violações; encaminha casos de exploração sexual infantil ao National Center for Missing & Exploited Children, coopera com autoridades e publica relatórios de transparência. Em períodos anteriores, melhorias em suas ferramentas de detecção elevaram fortemente a identificação proativa de servidores contendo material de abuso sexual infantil. Isso é uma evidência particularmente importante porque demonstra que segurança por design não é abstração regulatória: quando a tecnologia de proteção muda, a capacidade de encontrar o dano também pode mudar.
É nesse terreno que a ideia de fricção ganha significado político. A economia digital passou décadas prometendo eliminar esperas, confirmações, obstáculos e segundos desnecessários. Quanto menos passos entre desejo e ação, melhor a experiência, maior a circulação, mais intensa a permanência. Mas aquilo que parece ineficiência para um produto pode ser proteção para uma sociedade. Uma porta é uma fricção. Uma idade mínima é uma fricção. Uma confirmação antes de falar com um desconhecido é uma fricção. Um período de espera antes de exercer determinada permissão é uma fricção. Em ambientes de baixo risco, obstáculos desnecessários apenas pioram a experiência. Em ambientes capazes de produzir danos graves, retirar toda fricção significa retirar também momentos em que o dano poderia ser dificultado, identificado ou interrompido.
O próprio Discord já opera nessa lógica. A plataforma oferece níveis progressivos de verificação para servidores, separa determinadas mensagens de desconhecidos, estabelece proteções específicas para adolescentes e vem adotando mecanismos de garantia etária em diferentes jurisdições. No Brasil, usuários passaram a encontrar configurações protetivas relacionadas à idade e mecanismos adicionais para acesso a determinados espaços e funcionalidades. Nada disso elimina grooming, sextorsão, extremismo ou coerção. Crianças podem mentir a idade, sistemas podem errar, adultos podem contornar controles e criminosos podem migrar para outras plataformas. Fricção não extingue o crime. Ela altera seu custo. E aumentar o custo de alcançar uma criança, construir uma rede abusiva ou manter uma interação de alto risco já é uma função legítima de segurança.
Isso também estabelece um limite para a própria regulação. Verificação etária não pode se converter em coleta indiscriminada de documentos; sistemas de inferência não podem ser tratados como infalíveis; monitoramento comportamental não pode justificar vigilância generalizada; preservação de evidências precisa respeitar lei, finalidade e proporcionalidade. A experiência internacional mostra que controles de idade podem ser contornados e que sua eficácia varia conforme tecnologia e contexto. O objetivo, portanto, não pode ser construir uma fantasia de risco zero. Nenhuma arquitetura conseguirá impedir todos os crimes. O dever razoável é outro: identificar riscos previsíveis, reduzir probabilidades, dificultar práticas nocivas, responder rapidamente e demonstrar, sob escrutínio independente, que as salvaguardas são proporcionais às capacidades oferecidas.
Essa é a síntese do paradoxo Discord. Não precisamos escolher entre uma plataforma privada completamente opaca e uma praça digital permanentemente vigiada. Podemos exigir privacidade por design e segurança por design ao mesmo tempo. Quanto maior a proteção criptográfica de uma superfície, mais sofisticadas precisam ser as salvaguardas que não dependem de quebrá-la. Quanto maior a capacidade de uma funcionalidade, maior deve ser a proteção correspondente. E quanto maior o risco para crianças, menor pode ser a tolerância a uma arquitetura desenhada exclusivamente para eliminar obstáculos.
No fundo, a disputa sobre fricção revela algo maior. Quem decide quais portas existirão, quais permanecerão abertas, quem precisará se identificar, quais comportamentos acionarão proteção e quanto risco uma sociedade deverá aceitar não está tomando decisões meramente técnicas. Está estabelecendo regras para relações humanas. Quando uma corporação privada passa a desenhar essas regras para comunidades distribuídas por dezenas de países, a questão deixa de ser apenas como o Discord modera seus servidores. Passa a ser quem governa o território digital em que esses servidores existem.
Quem governa o território digital?
Toda plataforma gosta de parecer apenas uma ferramenta. A imagem é conveniente porque separa o poder de suas consequências: a empresa fornece a tecnologia, os usuários decidem o que fazer com ela e o Estado intervém quando alguém viola a lei. O Discord mostra por que essa divisão já não descreve adequadamente o mundo digital. Dentro de sua infraestrutura, a companhia determina quais formas de comunidade podem existir, quais capacidades estarão disponíveis, como serão distribuídas permissões, quais comportamentos violam suas regras, quais mecanismos poderão detectá-los e quais sanções serão aplicadas. Administradores governam servidores, mas governam dentro de uma arquitetura que não lhes pertence. Por trás de cada território aparentemente autônomo existe uma soberania técnica privada que define os limites do possível.
Isso não transforma o Discord em Estado. Estados possuem território, população, instituições, poder coercitivo e legitimidade política que nenhuma plataforma reproduz integralmente. Mas empresas digitais contemporâneas adquiriram algo historicamente relevante: capacidade de estabelecer normas e administrar espaços relacionais que atravessam fronteiras nacionais. Discord escreve regras, concede poderes, reconhece autoridades locais, remove indivíduos, dissolve comunidades, modifica unilateralmente funcionalidades, preserva determinados dados e estabelece procedimentos para responder a governos. Em outras palavras, exerce governança privada transnacional sobre uma infraestrutura onde milhões de pessoas constroem relações sociais reais. O fato de essa governança ser implementada por código, termos de serviço e sistemas automatizados, em vez de decretos e tribunais, não elimina sua natureza material.
É aqui que a genealogia do company-state se torna útil, desde que não seja transformada em caricatura histórica. As grandes companhias coloniais dos séculos XVII e XVIII receberam prerrogativas extraordinárias e chegaram a administrar territórios, monopolizar comércio, manter forças armadas e exercer funções que hoje associamos ao Estado. A continuidade está em outro lugar: na velha tensão entre poder privado e autoridade pública. No século XXI, determinadas corporações não precisam conquistar territórios físicos para condicionar a vida coletiva. Elas controlam infraestruturas, protocolos, dados, sistemas e ambientes digitais que determinam como parcelas crescentes da sociedade podem comunicar-se, organizar-se e agir. O poder contemporâneo pode governar menos pela posse formal do território do que pelo controle das condições materiais dentro das quais a ação se torna possível.
Essa mudança ajuda a compreender por que o debate sobre Discord não pode ser reduzido à moderação. Quando uma empresa decide introduzir criptografia, alterar regras de idade, restringir mensagens, modificar transmissões, eliminar um servidor ou desenvolver um sistema de detecção, está redistribuindo capacidades entre usuários, administradores, criminosos, vítimas, investigadores e a própria companhia. Cada escolha produz ganhadores, perdedores, proteções e vulnerabilidades. Código não substitui política; código materializa escolhas políticas, mesmo quando essas escolhas são apresentadas como decisões de produto.
A questão se torna ainda mais sensível porque essas decisões são tomadas por uma empresa norte-americana e aplicadas a sociedades organizadas por contratos constitucionais diferentes. Nos Estados Unidos, a Primeira Emenda consolidou uma tradição excepcionalmente ampla de proteção da expressão contra interferência estatal. Mesmo ali, entretanto, a proteção não é absoluta: ameaças verdadeiras, determinadas formas de incitação e outras categorias permanecem sujeitas a limites jurídicos. Na Europa, a liberdade de expressão convive mais explicitamente com proteção da dignidade, igualdade e ordem democrática, e a jurisprudência admite restrições proporcionais em casos envolvendo incitação ao ódio, discriminação e violência. O Brasil também não reconhece liberdade de expressão como autorização para racismo, ameaça, perseguição ou outras condutas ilícitas, e o Supremo Tribunal Federal já afirmou reiteradamente que esse direito não pode funcionar como escudo para discurso de ódio racial ou incitação à discriminação e à violência.
Essa diferença é decisiva porque uma plataforma global carrega consigo uma cultura empresarial, uma concepção de liberdade e uma arquitetura regulatória formadas em determinado ambiente histórico. Ela pode defendê-las. Pode contestar decisões estatais. Pode recorrer aos tribunais. Pode demonstrar que uma exigência ameaça privacidade, é tecnicamente impossível ou produz efeitos piores que aqueles que pretende evitar. O que não pode fazer é converter sua origem norte-americana em extraterritorialidade política. Quando decide oferecer seus serviços no Brasil, entra num território governado pela Constituição brasileira e pelas leis brasileiras, não numa extensão virtual do Vale do Silício.
É nesse ponto que a discussão sobre liberdade encontra a soberania. Durante décadas, parte da ideologia tecnolibertária vendeu a internet como um espaço que deveria permanecer além das fronteiras e, portanto, além da autoridade dos Estados. A promessa continha uma dimensão emancipadora: governos autoritários realmente podem usar regulação para censurar, perseguir dissidentes e controlar informação. Esse risco precisa permanecer no centro de qualquer arquitetura democrática de proteção. Mas existe uma diferença fundamental entre limitar o poder do Estado para preservar direitos e transferir poder político para corporações privadas sem mandato democrático. Uma internet livre não pode significar uma internet na qual empresas escolhem quais leis nacionais merecem obedecer.
O Discord torna essa contradição particularmente visível porque seus servidores parecem territórios próprios. Têm nomes, símbolos, administradores, hierarquias, regras, membros, expulsões e fronteiras de acesso. Mas nenhuma dessas comunidades é soberana. Nem seu administrador, nem seus integrantes, nem a empresa que fornece a infraestrutura possuem poder para suspender a ordem jurídica do país onde suas consequências materiais acontecem. Um servidor pode ser privado; não pode ser extraterritorial.
A verdadeira disputa, portanto, não é entre Estado e tecnologia. É sobre quem possui legitimidade para estabelecer os limites últimos do poder. A empresa governa sua arquitetura. O usuário governa suas escolhas dentro dela. A comunidade administra seus espaços. Mas quando essas escolhas produzem riscos graves para crianças, integridade física, igualdade, segurança ou outros direitos protegidos, a decisão final sobre as condições legítimas de funcionamento não pode pertencer exclusivamente a uma corporação privada. Pertence às instituições democráticas da sociedade em que ela decidiu operar.
Essa fronteira precisa ser defendida nos dois sentidos. O Estado não pode utilizar proteção como pretexto para vigilância ilimitada ou censura arbitrária. Mas a plataforma também não pode utilizar liberdade, privacidade ou inovação como argumentos automáticos contra qualquer obrigação pública. Nem o Estado pode tudo porque regula, nem a corporação pode tudo porque programa. É justamente para administrar essa tensão que existe regulação democrática.
E é aqui que toda a investigação converge. Se arquitetura distribui capacidades, se determinadas capacidades produzem riscos previsíveis e se quem controla a arquitetura exerce poder material sobre relações sociais, então responsabilidade não pode terminar no usuário que apertou o botão. Ela alcança também quem desenhou o botão, definiu suas possibilidades e decidiu as salvaguardas que o acompanhariam. A pergunta final deixa de ser quem governa o Discord. A pergunta passa a ser sob quais condições democráticas o Discord tem o direito de governar sua própria arquitetura dentro do Brasil.
Regular o Discord não é censurá-lo
Regular o Discord não significa declarar guerra à plataforma, proibir comunidades privadas ou entregar ao Estado a chave das conversas de milhões de cidadãos. Significa reconhecer uma regra elementar da vida democrática: quanto maior o poder de uma infraestrutura sobre relações humanas, maior deve ser sua responsabilidade pelas capacidades que coloca em circulação. O Discord pode continuar sendo espaço de amizade, jogos, trabalho, estudo, criação e organização coletiva. O que não pode existir é um regime em que os benefícios de sua arquitetura permaneçam privados enquanto os custos previsíveis de seus riscos sejam transferidos integralmente para crianças, famílias, vítimas e Estados.
Essa responsabilidade precisa começar antes do crime. Durante décadas, grande parte da governança das plataformas foi construída sobre uma lógica reativa: publica-se primeiro, denuncia-se depois; lança-se a funcionalidade, descobrem-se seus riscos em escala e então se corrigem seus efeitos. Para tecnologias capazes de mediar relações de alto risco, esse modelo é insuficiente. Segurança por design significa incorporar proteção à própria engenharia do produto. Funcionalidades com capacidade elevada de exposição, transmissão, contato privado ou organização comunitária precisam ser submetidas a avaliações prévias e periódicas de risco, sobretudo quando crianças podem utilizá-las. Não se trata de exigir risco zero, uma impossibilidade técnica e social, mas de impedir que a sociedade seja convertida em laboratório involuntário de produtos cujos danos previsíveis só serão enfrentados depois das vítimas.
O segundo princípio é proporcionalidade. Nem todo servidor exige o mesmo grau de proteção, nem toda interação justifica identificação, nem toda suspeita autoriza intervenção. Mas riscos diferentes exigem fricções diferentes. Crianças falando com desconhecidos, transmissões audiovisuais de alto risco, contas reincidentes e comunidades conectadas a ambientes anteriormente removidos não podem necessariamente receber o mesmo desenho de segurança de uma conversa cotidiana entre adultos. A regulação deve estabelecer objetivos e obrigações verificáveis, preservando espaço para inovação técnica, mas impedindo que a redução de atrito seja tratada como valor superior à proteção humana.
O terceiro princípio é privacidade com responsabilidade, e aqui qualquer solução simplista precisa ser rejeitada. Quebrar criptografia de forma generalizada criaria vulnerabilidades para todos e poderia atingir justamente aqueles que mais dependem de comunicações protegidas. A saída não é construir uma porta dos fundos para o Estado. É exigir que empresas que deliberadamente criam superfícies tecnicamente opacas ao conteúdo desenvolvam sistemas complementares de segurança compatíveis com essa escolha, respeitando proteção de dados, proporcionalidade e devido processo. A incapacidade de ler uma conversa não pode transformar-se automaticamente na incapacidade de reconhecer qualquer padrão de risco ao redor dela.
O quarto princípio é transparência auditável. Relatórios corporativos são importantes, mas uma sociedade não pode depender exclusivamente da empresa regulada para saber se sua proteção funciona. Reguladores e pesquisadores independentes precisam ter acesso, sob salvaguardas adequadas, a informações capazes de medir prevalência, reincidência, tempo de resposta, falsos positivos, falsos negativos, eficácia de sistemas etários e desempenho de mecanismos de detecção. Isso não significa publicar os parâmetros que permitiriam a criminosos aprender a contornar os sistemas. Transparência democrática não é entregar o mapa da segurança a quem pretende derrotá-la. É impedir que uma arquitetura de enorme impacto social seja auditada apenas por quem a possui.
Finalmente, precisa existir consequência. A regulação perde significado quando descumprir custa menos do que cumprir. O caminho democrático deve ser progressivo: exigir adequação, fiscalizar, determinar correções, aplicar sanções e, diante de uma funcionalidade que apresente risco grave sem salvaguardas suficientes, restringi-la até que a empresa demonstre capacidade de operá-la com segurança. Foi precisamente a lógica adotada pela ANPD ao atingir vídeo e compartilhamento de tela sem bloquear integralmente o Discord no Brasil. Regular arquitetura significa poder intervir na capacidade que produz o risco, e não necessariamente destruir toda a infraestrutura que a contém.
Mas proporcionalidade não pode virar impotência. Existe um limite. Se uma plataforma que escolheu operar no Brasil, alcançar brasileiros e construir comunidades em território brasileiro recusar de maneira grave e persistente as determinações legítimas do Estado brasileiro, depois de contraditório, recurso e devido processo, a consequência final precisa poder ser a suspensão de sua operação. Não como vingança, censura ou demonstração de força. Como última consequência de uma regra que vale para qualquer atividade econômica: nenhuma corporação possui direito adquirido de operar em um país acima das condições legais que esse país estabelece para proteger sua população.
Essa posição não é contra o Discord. É precisamente uma defesa da possibilidade de termos um Discord melhor. Uma plataforma capaz de reconhecer riscos, preservar privacidade, proteger crianças, cooperar com instituições democráticas e corrigir sua arquitetura quando evidências demonstrarem falhas será socialmente mais legítima do que uma plataforma protegida por uma ficção de neutralidade. Empresas responsáveis não deveriam temer regulação competente; deveriam temer uma internet na qual sucessivas tragédias destruam a confiança social necessária à própria existência de seus produtos.
O que está em jogo, portanto, ultrapassa uma empresa. Inteligência artificial, mundos virtuais, plataformas comunitárias e sistemas ainda inexistentes ampliarão radicalmente a capacidade privada de organizar relações humanas. O precedente que construirmos agora ajudará a determinar se esse poder será acompanhado por responsabilidade democrática ou se continuaremos correndo atrás dos danos depois que eles atravessarem a tela. Tecnologia pode ser global. Poder pode atravessar fronteiras. Responsabilidade, não.
O Brasil não precisa escolher entre soberania e inovação, entre segurança e liberdade, entre proteger crianças e preservar privacidade. Precisa estabelecer as condições sob as quais esses valores podem coexistir. O Discord é bem-vindo dentro delas. Se uma funcionalidade não puder atender às salvaguardas legítimas exigidas pela sociedade brasileira, que seja modificada ou suspensa. Se a plataforma cumprir as regras, que opere, cresça e seja útil. Mas se algum dia uma corporação decidir que sua arquitetura vale mais que a soberania democrática do país no qual escolheu operar, a resposta precisa ser inequívoca: não é o Estado que deve sair do caminho.
Artigo publicado originalmente em <código aberto>
Reynaldo Aragon é jornalista especializado em geopolítica da informação e da tecnologia, com foco nas relações entre tecnologia, cognição e comportamento. Editor do codigoaberto.net É pesquisador do Núcleo de Estudos Estratégicos em Comunicação, Cognição e Computação (NEECCC – INCT DSI) e integra o Instituto Nacional de Ciência e Tecnologia em Disputas e Soberania Informacional (INCT DSI), onde investiga os impactos da tecnopolítica sobre os processos cognitivos e as dinâmicas sociais no Sul Global.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
Deixe um comentário