EUA querem vigiar os resultados gerados por sua IA
por James Görgen
Na quarta-feira, a Comissão Federal de Comércio (FTC, na sigla em inglês) abriu uma consulta pública sobre uma futura declaração de política pública que aponta bem o grau de controle que o governo dos Estados Unidos quer exercer sobre o desenvolvimento de sistemas e modelos de inteligência artificial. Em um primeiro olhar, a manifestação da FTC parte de uma premissa simples ao recomendar que empresas de IA não podem prometer objetividade, precisão e adequação ao usuário enquanto, na prática, moldam seus sistemas para atingir objetivos ideológicos subliminares. O documento sustenta que esse tipo de distorção pode enganar consumidores e violar a Seção 5 do FTC Act, especialmente quando o produto é apresentado como uma ferramenta confiável para gerar respostas neutras e úteis.
Para tanto, a comissão de comércio enquadra sua atuação aos produtos que possam vir a oferecer “resultado enganoso” ou com “viés ideológico”. O órgão delimita que há engano quando a empresa representa, direta ou indiretamente, que a IA busca o melhor resultado para o usuário, mas na prática a orienta para outro objetivo não informado. Isso inclui situações em que o sistema é moldado para inserir viés ideológico, evitar certos tipos de respostas ou reduzir a precisão para cumprir uma agenda externa. O ponto-chave não é apenas a existência de erro, mas a divergência intencional entre o que o consumidor espera e o que o sistema foi projetado para fazer.
Um trecho a destacar no texto é a crítica às leis estaduais de IA, que estão sendo combatidas fortemente pela Casa Branca. A intenção é barrar regras que possam pressionar empresas a alterar saídas para evitar impacto desigual ou discriminação algorítmica. A FTC argumenta que, se uma lei estadual constrange a empresa a enganar o consumidor sobre a finalidade do sistema, isso entra em conflito com a lei federal. O documento trata isso como um problema de compatibilidade jurídica e sustenta que a empresa não recebe um salvo-conduto federal apenas porque está tentando seguir uma obrigação estadual.
Essa formulação por parte da administração de Donald Trump abre uma zona muito ampla de incerteza regulatória. Se não está claro quem define o que é “resultado enganoso” ou “viés ideológico”, o risco é que a agência passe a arbitrar disputas substantivas sobre conteúdo, e não apenas sobre fraude ou publicidade falsa. Em um mercado de IA, onde respostas podem variar por contexto, treinamento e parâmetros de segurança, a linha entre correção técnica, moderação legítima e orientação política é particularmente difícil de traçar.
Isso ajuda a entender por que a medida pode ser percebida como uma espécie de censura indireta ao desenvolvimento de IA nos Estados Unidos. Quando o regulador sinaliza que sistemas que evitem discriminação ou que ajustem saídas para refletir certas salvaguardas podem “cair em conflito” com a lei, as empresas passam a operar sob risco de punição por escolhas de design que ainda não têm critérios estáveis de avaliação. Na prática, isso pode produzir autocensura: modelos mais conservadores, menos responsivos e mais alinhados ao menor denominador comum jurídico.
O ponto mais sensível é justamente a ausência de um padrão objetivo e universalmente reconhecível para identificar “viés ideológico”. Em temas políticos, históricos, morais ou sociais, qualquer resposta pode ser acusada de parcialidade dependendo do recorte adotado. Se a FTC não delimita com precisão o que é manipulação e o que é uma decisão legítima de arquitetura do sistema, e isso pode ser algo inalcançável, a consequência é aumentar a discricionariedade regulatória, o que é ruim para previsibilidade e inovação.
O debate, no fundo, revela uma disputa sobre quem controla os limites da IA – o que está por trás de diversas decisões de Washington a respeito da tecnologia nos último meses. Quem controla os rumos da IA dos EUA é o mercado, o usuário, o legislador ou a autoridade administrativa? Se a definição de resultado enganoso depender demais da interpretação do regulador, a política pode acabar funcionando como filtro sobre o que os modelos podem dizer ou deixar de dizer. Se, ao contrário, a agência exigir padrões claros, baseados em transparência e prova objetiva, a crítica de censura perde força e a regulação fica mais defensável. Considerando as evidências da conjuntura atual, no momento em que um decreto obriga as principais plataformas a submeterem seus modelos a um escrutínio governamental antes de seu lançamento, o segundo objetivo da norma da FTC não parece que será a escolha do governo estadunidense.
Mesmo não sendo uma regra aplicável a outras nações, é preciso levar em conta que estas empresas possuem padrões e alcance globais. Censura praticada na origem terá um efeito nocivo na ponta. Para ficar apenas em uma questão, quando um país adotou uma regulação por nível de risco – como está previsto no projeto de lei em discussão no Brasil – a empresa deve seguir qual marco normativo para adaptar suas salvaguardas sobre viés algorítmico? Dos Estados Unidos ou do território onde o serviço é consumido?
Quando a linguagem normativa se torna aberta demais, e é executada por um governo com apetite vigilantista, ela deixa de parecer proteção ao consumidor e passa a soar como controle do conteúdo tecnológico. E ideológico de sinal contrário ao que alega querer defender.
James Görgen é Especialista em Políticas Públicas e Gestão Governamental e Assessor no Ministério do Desenvolvimento, Indústria, Comércio e Serviços
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
Deixe um comentário