O uso da ferramenta de inteligência artificial Grok, disponibilizada pelo X (antigo Twitter), para a criação de imagens sexualizadas falsas de mulheres e crianças pode resultar em responsabilização criminal dos usuários e em responsabilidade civil da plataforma. A avaliação é de especialistas ouvidos pela revista eletrônica Consultor Jurídico.
Segundo os entrevistados, a IA generativa do X vem sendo amplamente utilizada para a produção de deepfakes com conotação sexual. Usuários inserem comandos para que o sistema gere imagens de pessoas reais com pouca roupa ou completamente nuas, que depois passam a circular de forma massiva na rede social.
O X afirma ter alterado as diretrizes do Grok para coibir a geração de imagens sexualizadas falsas e restringiu o recurso a usuários assinantes. Testes recentes realizados por veículos especializados, como o The Verge, porém, indicam que o sistema ainda permite a criação de imagens de nudez sem consentimento com relativa facilidade.
Do ponto de vista penal, a conduta do usuário que solicita esse tipo de conteúdo pode configurar crime contra a dignidade sexual. A prática pode ser enquadrada no artigo 218-C do Código Penal, que tipifica a divulgação de cenas de sexo, nudez ou pornografia sem consentimento, com pena de reclusão de um a cinco anos, além de multa.
De acordo com o criminalista Welington Arruda, mesmo quando a conduta se limita ao pedido para a IA gerar a imagem, também é possível aplicar o artigo 216-B do Código Penal, que pune a produção de conteúdo de nudez íntima e privada sem autorização, por qualquer meio, com pena de detenção de seis meses a um ano e multa.
Para Marcos Poliszezuk, sócio fundador do escritório Poliszezuk Advogados, a manipulação de imagens por inteligência artificial para fins vexatórios ou difamatórios, especialmente com conotação sexual, pode caracterizar o crime de divulgação não consensual de conteúdo íntimo, conhecido como pornografia de vingança.
Violência psicológica
Nos casos em que a vítima é mulher, o autor do comando também pode responder com base na Lei nº 15.123/2025, que agravou a pena do crime de violência psicológica quando praticado com uso de inteligência artificial ou outras tecnologias capazes de alterar imagem ou som. A norma tem como objetivo justamente coibir o uso de deepfakes.
As vítimas podem buscar responsabilização judicial tanto na esfera penal quanto na cível. No âmbito criminal, é possível apresentar notícia-crime ao Ministério Público, que pode requisitar a quebra de sigilo do usuário e instaurar ação penal. O artigo 22 do Marco Civil da Internet autoriza expressamente a obtenção de registros de conexão e de acesso a aplicações para fins probatórios em processos judiciais.
Responsabilidade do X
Na esfera cível, os especialistas são unânimes ao afirmar que o X pode ser responsabilizado pelos danos causados. No julgamento do RE 1.037.396 (Tema 987), o Supremo Tribunal Federal decidiu que plataformas digitais podem responder por conteúdos criminosos gerados por terceiros, inclusive aqueles produzidos por suas ferramentas de inteligência artificial.
A Corte estabeleceu que há presunção de responsabilidade dos provedores quando se trata de redes artificiais de distribuição, como chatbots e robôs, sendo dispensada a necessidade de notificação prévia.
O advogado Omar Kaminski, especialista em Direito Digital, explica que a plataforma pode responder tanto de forma objetiva quanto subjetiva. Segundo ele, a vítima pode ingressar com ação diretamente contra a empresa, independentemente da identificação do usuário responsável pela geração da imagem.
Spencer Toth Sydow, doutor em Direito pela USP e autor do livro Exposição Pornográfica Não Consentida na Virtualidade, afirma que, nesses casos, o dano moral é presumido.
O fato de a imagem não ser real não afasta a responsabilidade da plataforma, ressalta o advogado Fabrício Bertini Pasquot Polido, sócio do escritório L.O. Baptista. Segundo ele, o X pode ser acionado tanto para identificar os usuários envolvidos quanto para responder civilmente pelo conteúdo.
Escala sem precedentes
Levantamento publicado pela Bloomberg aponta que o Grok gerou cerca de 6,7 mil imagens de cunho sexual por hora em um período de 24 horas, totalizando mais de 160 mil imagens em um único dia. Os dados foram coletados nos dias 6 e 7 de janeiro deste ano.
O volume é considerado sem precedentes. No mesmo período, outros cinco sites que utilizam IA para geração de imagens produziram, em média, 79 imagens sexualizadas por hora, um número significativamente inferior ao registrado pela ferramenta do X.
*Com unformações do Conjur.
LEIA TAMBÉM:
Deixe um comentário