Entre deepfakes e desinformação: o desafio da IA nas eleições brasileiras (Parte 1)
por: Anna Luiza Coli, Diego Matheus de Menezes, Gabriel Avritzer e Stella Ferreira Gontijo (Cátedra Darcy Ribeiro[1] IEAT/UFMG)[2]
No mês de abril, em um contexto sociopolítico turbulento e às vésperas de uma eleição que se anuncia altamente competitiva, as campanhas políticas se organizam para alcançar o maior número possível de eleitores/as e assegurar vantagem em um cenário marcado por incertezas. Nesse ambiente, uma questão passou a centralizar o debate sobre o processo eleitoral já em curso: o uso de inteligência artificial como ferramenta de impulsionamento de campanhas e candidatos. Destacamos dois acontecimentos recentes.
Primeiro, a federação do PT, PV e PCdoB acionou o TSE contra o perfil nas redes sociais da personagem Dona Maria, mulher preta e periférica que vocaliza críticas ao governo Lula de uma posição social “insuspeita”. O que sustenta a ação, segundo advogados do PT, é a compreensão de que o perfil representa uma ferramenta de propaganda política antecipada e propagadora de desinformação, praticando crimes contra a honra de setores vinculados ao governo Lula e ao STF, ao mesmo tempo em que elogia figuras ligadas ao bolsonarismo. Além disso, argumentam que há ilegalidade na ausência de rótulo de uso de inteligência artificial nos conteúdos veiculados e na utilização de personagem anônima para propaganda política.
O segundo acontecimento envolve o ex-governador de Minas Gerais e pré-candidato à presidência, Romeu Zema, que vem utilizando a IA generativa para criar uma série de vídeos intitulada “Os intocáveis”, com desenhos animados do presidente Lula e dos ministros do STF conversando sobre variados assuntos em alta. Após a série, o ministro Gilmar Mendes solicitou a inclusão do ex-governador no inquérito das fake news. Como resposta, Zema manteve a sátira em novo episódio publicado no final de abril, ampliando o tensionamento com o STF e testando como reagirá a legislação no que tange a esta regulamentação.
A utilização de redes sociais e de tecnologias para disseminar informações falsas, confundir o eleitor e incidir no cenário eleitoral, não é nenhuma novidade. Podemos retomar o uso de fake news e desinformação nas eleições presidenciais de 2022 e, posteriormente, em 2024. Segundo o relatório produzido pelo “Observatório IA nas Eleições”, “Balanço IA nas Eleições 2024”, o impacto da desinformação nas eleições de 2024 não foi ainda devido à utilização de IA generativa, o que tende a se alterar neste ano de 2026: o relatório prevê que “o uso de tecnologias e aplicações de IA tende a se integrar cada vez mais no dia a dia das pessoas e na produção e consumo de informação por elas.”
Diante disso, oTSE criou uma série de regras para tentar lidar com o uso de inteligência artificial na disputa eleitoral. Contudo, já é possível perceber sua insuficiência para enfrentar a dimensão real do problema, especialmente se levarmos em conta o que acontece no lado oculto da eleição, fora das campanhas oficiais.
Além disso, como afirma ainda o relatório do Observatório, sistemas de IA não dizem respeito apenas da produção direta de conteúdo que chega ao usuário, mas de “uma tecnologia que pode ser utilizada em conjunto com outras, […] em diversas etapas do processo de produção e circulação de informação.”
Nesse cenário, um “novo” ator se torna determinante: as Big Techs. Em artigo recente, Mark Coeckelbergh sustenta que os sistemas de inteligência artificial não são neutros e tampouco meras ferramentas técnicas. Desenvolvidas por grandes corporações em contextos políticos e mercadológicos específicos, eles são forjados sob lógicas econômicas que, não raro, se aliam a questões ideológico-políticas para obterem vantagens e financiamento.
A coroação desta aliança ganhou contornos históricos nas imagens da posse de Trump em 2024. Sistemas de IA, afirma o especialista em entrevista recente, não se limitam a refletir ou a apresentar a realidade, ao contrário do que frequentemente se sugere. Em vez disso, organizam-na de maneira a participar ativamente da formação de percepções, julgamentos e interpretações da realidade e, consequentemente, das próprias decisões políticas.
Ao que tudo indica, a utilização de IA nessas eleições ocorrerá de múltiplas formas, como no planejamento e na elaboração de estratégias de comunicação; no uso de inteligência artificial generativa nas campanhas oficiais; e na produção de conteúdos não oficialmente vinculados às campanhas, muitas vezes produzidas pelo próprio eleitor/a de maneira espontânea. No primeiro caso, a dinâmica das campanhas políticas pode ser profundamente transformada pelo uso massivo de IA no planejamento e na elaboração das estratégias comunicativas, com o emprego ativo dessas tecnologias na segmentação de conteúdo. Já os conteúdos não vinculados à campanha oficial, apesar de menos visíveis à justiça eleitoral, não são menos impactantes, visto que transformações na dinâmica da comunicação política têm consequências para o próprio funcionamento da esfera pública.
A produção de material com auxílio de IA generativa, é o espectro mais visível, de modo que, como no caso da Dona Maria, a criação e replicação de personagens estrategicamente produzidos para convencer o/a eleitor/a esbarram em questionamentos éticos sobre os limites do uso das IAs na comunicação política. Não é novidade que é a partir da divulgação anônima, via redes sociais e aplicativos de mensagens instantâneas, que se organizam campanhas massivas de desinformação. Assim, o uso de inteligência artificial generativa, ao tornar mais acessível a produção de imagens e vídeos, reduz o custo de produção desses materiais, ampliando potencialmente seus impactos.
Esse tipo de interferência, em princípio abstrata, se deixa ilustrar no que Patrícia Campos Mello caracterizou como o “terremoto” que a IA já tem provocado nas campanhas eleitorais brasileiras de 2026: não se trata apenas de conteúdo sintético hiperrealista. A dataficação, que transforma grande parte das nossas atividades em dados, métricas e perfilizações, alcança um poderio quase ilimitado de customização de conteúdos. A prática já leva a alcunha de “nanosegmentação”, tamanha sua capacidade tanto de mapear temas quentes e públicos-alvo adequados, quanto de monitorar a “sentimentalização” e a capacidade de determinado conteúdo viralizar. No cenário de disputa eleitoral, contudo, “viralizar” pode ser sinônimo de “manipular”.
Sendo assim, o uso sistemático de IA, sem o devido controle por parte do Estado, tende a ser um elemento central no processo de erosão democrática em curso. Vícios inescapáveis de parâmetros e desenhos dos sistemas algorítmicos, uma vez combinados com falhas do “desenho institucional” brasileiro e com “predisposições autoritárias em parcelas das elites e da sociedade”, contribuem de modo decisivo para o acirramento da crise democrática no Brasil, corroborando a tese de Leonardo Avritzer e Lucio Rennó. Se considerarmos a “convergência de dinâmicas institucionais, políticas e sociais”, em um cenário de uso indiscriminado de IA como ferramenta política, em uma sociedade despreparada para compreender seu funcionamento e seu impacto, tem-se um terreno fértil para o estabelecimento de práticas autoritárias – o que Coeckelbergh caracterizou como tecnofascismo.
Numa eleição cada vez mais disputada nas franjas afetivas de uma população cronicamente online, em que os temas clássicos dos debate político cedem lugar aos apelos hiperrealistas e manipulatórios das mensagens de medo, de indignação e de violência – comprovadamente o tipo de ingrediente que mais causa engajamento e, por conseguinte, lucro às Big Techs – os sistemas algorítmicos precisam ser entendidos pelo que eles de fato são: máquinas cada vez mais eficientes de manipulação emocional cujo modelo de negócio depende da amplificação de narrativas simplificadas e polarizantes, além da supressão das condições de debate e deliberação política qualificada. Seria preciso entender que as redes sociais – e todo tipo de medição que é feito através dela, como o “eleitor sintético” da SVA Solutions–Galaxies – não podem ser legitimamente pensadas como um espaço público: elas não são sua “nova configuração” nem devem ser tomadas como sua expressão legítima, sob o risco de a política passar a acontecer cada vez mais afastada das questões reais.
Como argumentam Avritzer e Rennó, uma das formas de “enclave autoritário” — ou mecanismos e valores autoritários que sobrevivem em regimes democráticos — é sociocultural, manifestando-se na deslegitimação do processo eleitoral num cenário geral de crise de confiança institucional. Assim, podemos concluir que o uso de IA encontra terreno fértil para atuar em prol do enfraquecimento de instituições, atores políticos, alterando as dinâmicas políticas e reconfigurando, de forma perigosa, o lugar outrora ocupado pela esfera pública.
Ao alterar as dinâmicas de acesso e divulgação da informação, e as formas de estabelecer o diálogo público, a inteligência artificial tem impactos profundos no funcionamento de uma democracia em crise. Dessa forma, podemos concluir com apontamentos para o que há de vir, acreditando que a sociedade civil deva construir saídas para legitimação de projetos políticos e formas de governo que dêem conta dos novos desafios que enfrentamos. Nesse cenário, a IA pode ser uma aliada, bem como um vetor de erosão democrática, especialmente via desinformação, segmentação de debates e manipulação emocional.
[1] A Cátedra Darcy Ribeiro é uma iniciativa do IEAT para estudar Política, Educação e Soberania em suas mais diversas interdisciplinaridades. Sua realização é possível graças ao apoio e financiamento do Deputado Federal Patrus Ananias. Este artigo não reflete a opinião do IEAT ou da UFMG. E-mail para contato: [email protected]
[2] Bolsistas de pós-doutorado da Cátedra (IEAT/UFMG), Anna Luiza Coli é filósofa, Diego é cientista político e Stella Ferreira Gontijo é historiadora. Bolsista de Iniciação Científica da Cátedra (IEAT/UFMG), Gabriel Avritzer é graduando em Ciências Sociais na UFMG. E-mails para contato: [email protected]; [email protected]; [email protected]; [email protected].
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
Deixe um comentário