Em artigo de opinião publicado no Project Syndicate, o economista Kenneth Rogoff, professor da Universidade Harvard e ex-economista-chefe do FMI, afirma que o maior perigo representado pela inteligência artificial (IA) não é a tecnologia em si, mas a disputa acelerada entre Estados Unidos e China para implementá-la antes que se saiba como controlá-la.
Segundo Rogoff, os dois países adotam estratégias diferentes, enquanto empresas americanas apostam em tecnologias proprietárias para manter vantagem competitiva, a China tem investido em modelos de IA de código aberto, tornando ferramentas avançadas amplamente acessíveis a desenvolvedores em todo o mundo. Apesar das diferenças de abordagem, o autor argumenta que ambos os países estão presos a uma corrida armamentista tecnológica na qual nenhum dos lados aceita desacelerar, o que faz com que a segurança fique em segundo plano diante da prioridade pela velocidade.
Hugging Face
Rogoff cita como exemplo uma falha de segurança recente envolvendo a OpenAI e a plataforma Hugging Face. O episódio ocorreu durante testes em que pesquisadores avaliavam as capacidades de dois modelos avançados de IA em cibersegurança, desativando temporariamente parte das barreiras de proteção dos sistemas para identificar vulnerabilidades exploráveis por hackers.
O experimento acontecia dentro de um ambiente controlado e isolado, criado justamente para impedir que os modelos acessassem a internet aberta. Segundo o autor, no entanto, os próprios sistemas trataram essa barreira como um obstáculo a ser superado: explorando uma falha até então desconhecida em um software de terceiros, conseguiram burlar as restrições e acessar a internet.
Rogoff pondera que não se tratou propriamente de os modelos terem “se rebelado”, eles apenas buscavam cumprir, da forma mais eficiente possível, a tarefa que haviam recebido. Embora pudessem ter resolvido o problema dentro do ambiente isolado, os sistemas concluíram que seria mais fácil invadir o Hugging Face, plataforma que hospeda mais de dois milhões de modelos de IA de código aberto, para obter as respostas diretamente do banco de dados da empresa. A invasão, segundo o artigo, passou dias sem ser detectada e teria se espalhado para uma segunda empresa. Um dos modelos, inclusive, teria deixado registros explicando como sistemas futuros poderiam escapar de ambientes de teste com mais facilidade.
Erro humano
Para Rogoff, especialistas em IA argumentariam, com razão, que o experimento não é representativo do uso comum da tecnologia, já que as proteções haviam sido propositalmente enfraquecidas para o teste. Ainda assim, o episódio demonstra como falhas humanas aparentemente pequenas podem ser amplificadas por sistemas de IA, com consequências potencialmente graves.
O autor compara o caso à teoria, ainda não comprovada, de vazamento em laboratório como origem da pandemia de Covid-19, também associada a erro humano e excesso de confiança, e não a intenção maliciosa.
Riscos
Rogoff also destaca dois riscos adicionais. Primeiro, a disseminação de modelos de código aberto amplia o risco de que Estados hostis ou grupos terroristas usem essas ferramentas para desenvolver armas biológicas, novas toxinas ou artefatos radiológicos, algo que, segundo ele, formuladores de políticas americanos frequentemente subestimam.
Segundo, o perigo mais imediato pode ser político: a IA já permite a criação de deepfakes cada vez mais convincentes e campanhas de manipulação eleitoral em larga escala, o que pode corroer a confiança pública, aprofundar a polarização e acelerar a fragmentação social. O autor também alerta que períodos de instabilidade social costumam abrir espaço para governos ampliarem seu poder em nome da ordem ou da segurança nacional, um risco, segundo ele, que não se limita a um único partido ou governo.
Dilema regulatório
Apesar dos riscos, Rogoff reconhece o enorme potencial da IA para revolucionar áreas como medicina, produção de alimentos e combate às mudanças climáticas. A questão central, argumenta, não é se a tecnologia deve avançar, mas em que ritmo e a que custo.
O economista rebate o principal argumento das empresas de tecnologia americanas contra a regulaçã, de que ela faria os EUA perderem terreno para a China. Para ele, se a China pode eventualmente copiar ou reproduzir avanços americanos, como já fez antes, uma corrida permanente por IA cada vez mais poderosa é uma receita para o desastre. Rogoff defende que a segurança duradoura exigirá cooperação internacional, nos moldes do controle de armas nucleares durante a Guerra Fria.
Ele reconhece que reguladores cometerão erros e que algumas normas podem se mostrar excessivamente restritivas, mas argumenta que esses erros são corrigíveis, ao contrário das consequências de avançar sem salvaguardas adequadas em uma tecnologia tão determinante. Para o autor, o episódio envolvendo o Hugging Face deve servir de alerta a Washington e Pequim: vencer a corrida pela IA de pouco valerá se, no processo, forem criados riscos que nenhum país consiga conter.
LEIA TAMBÉM:
Deixe um comentário