O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública, expediram recomendações à empresa controladora da rede social X após denúncias sobre o uso do assistente de inteligência artificial Grok para a criação de imagens falsas sexualizadas de mulheres, crianças e adolescentes.
As denúncias, confirmadas por reportagens da imprensa nacional e internacional e por testes realizados pelas próprias instituições, indicam que usuários da plataforma têm utilizado o Grok para produzir ilegalmente deepfakes com conteúdo sexual, erótico ou pornográfico envolvendo pessoas reais. Também foram identificados casos de imagens de mulheres e crianças nuas ou em roupas íntimas, acessíveis livremente a outros usuários, ampliando a exposição indevida e o risco de danos às vítimas.
Diante da gravidade dos fatos, MPF, ANPD e Senacon atuaram de forma conjunta, considerando que a prática pode afetar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, especialmente os de mulheres, crianças e adolescentes.
Especialistas destacam que a empresa responsável pela plataforma pode ser responsabilizada civilmente, com base no entendimento firmado pelo Supremo Tribunal Federal no Tema 987, em casos de danos decorrentes de conteúdos gerados ou disseminados no ambiente digital.
Recomendações
Entre as medidas recomendadas pelas três instituições está a implementação imediata de mecanismos para impedir que o Grok produza novas imagens, vídeos ou arquivos de áudio que retratem crianças e adolescentes em contextos sexualizados ou erotizados. A vedação também deve abranger a geração de conteúdos desse tipo envolvendo pessoas maiores de idade identificadas ou identificáveis, sem consentimento expresso.
As medidas devem ser aplicadas a todos os planos, versões e modalidades da ferramenta. Além disso, as instituições recomendaram que a empresa:
- Crie, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdos já produzidos pelo Grok que apresentem esse tipo de violação e que ainda estejam disponíveis na plataforma X;
- Suspenda imediatamente as contas envolvidas na geração, via Grok, de imagens sexuais ou erotizadas de crianças, adolescentes ou adultos sem autorização, aplicando de forma efetiva os termos de uso da própria plataforma. A adoção dessa medida deverá ser contínua e comprovada por meio de relatórios mensais;
- Implante um mecanismo transparente, acessível e eficiente para que titulares de dados possam exercer seus direitos, inclusive com a apresentação de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de conteúdos sintéticos sexualizados criados sem consentimento, assegurando resposta adequada em prazo razoável;
- Elabore relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural.
As instituições alertam que, caso as recomendações não sejam atendidas ou sejam implementadas de forma insuficiente para mitigar os riscos apontados, poderão ser adotadas outras medidas administrativas e judiciais.
As recomendações foram expedidas no âmbito das atribuições legais de cada órgão, que seguirão com procedimentos próprios para analisar as respostas e as providências eventualmente adotadas pela empresa responsável pela plataforma X. As informações foram divulgadas pela assessoria de imprensa do MPF.
Veja o documento na íntegra:
*Com informações do Conjur.
LEIA TAMBÉM:
Deixe um comentário