O Instituto de Defesa do Consumidor (Idec) solicitou ao governo federal, nesta segunda-feira (12), a suspensão do funcionamento do Grok, ferramenta de inteligência artificial desenvolvida por Elon Musk e integrada à rede social X. Segundo a entidade, a tecnologia tem sido usada para gerar imagens íntimas falsas de mulheres e crianças sem consentimento, o que configuraria graves violações de direitos fundamentais.
Em nota, o Idec afirmou que o pedido se baseia em “evidências robustas de violações reiteradas”, com impactos diretos sobre crianças, adolescentes e mulheres. Na semana passada, o g1 revelou o caso de uma brasileira que teve uma foto de biquíni manipulada por meio da ferramenta. Ao tomar conhecimento da imagem, a vítima relatou à reportagem um “sentimento horrível”.
A prática, conhecida como deepfake, quando imagens reais são alteradas com o uso de inteligência artificial, já existe há alguns anos, mas ganhou grande disseminação no X no mês passado, tornando-se uma tendência no Brasil e em outros países.
O pedido de suspensão foi formalizado em um ofício encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne representantes do Ministério da Justiça e da Segurança Pública, do Ministério dos Direitos Humanos e da Cidadania, da Secretaria de Comunicação Social da Presidência da República e do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
De acordo com o Idec, o Grok vem sendo utilizado para a difusão de “imagens sexualizadas não consentidas, inclusive de menores de idade”, sem que haja salvaguardas mínimas de segurança, mecanismos de consentimento ou medidas eficazes de prevenção de abusos. Para a entidade, isso caracteriza um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança esperado.
O instituto também aponta possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital. No documento, o Idec lembra ainda que o caso já provocou reações em outros países, com investigações e ordens de remoção de conteúdo por autoridades da União Europeia, do Reino Unido, da França e da Índia.
Para o Idec, o episódio evidencia os riscos de uma inovação tecnológica sem responsabilidade. “Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, afirma a entidade.
LEIA TAMBÉM:
Rui Ribeiro
13 de janeiro de 2026 8:42 amPrá aumentar ainda mais a sua fortuna, o Mu$k faz com que sua IA dispa até sua mãe. Deus acima de tudo, dinheiro acima de todos. É assim que pensam os magnatas sanguessugas sociais.
Eu estou esperando a fundação do partido do Musk.