produtos
Conheci os “padrinhos da IA” em Paris – eis o que eles me disseram para realmente me preocupar, por Alexander Hurst
Eu era um tecnófilo na minha adolescência, às vezes desejando ter nascido em 2090, em vez de 1990, para poder ver toda a incrível tecnologia do futuro. Ultimamente, porém, tenho me tornado muito mais cético sobre se a tecnologia com a qual mais interagimos está realmente nos servindo – ou se nós estamos servindo a ela.
Então, quando recebi um convite para participar de uma conferência sobre o desenvolvimento de IA segura e ética antes da cúpula de IA de Paris , eu estava totalmente preparado para ouvir Maria Ressa, jornalista filipina e ganhadora do prêmio Nobel da Paz de 2021 , falar sobre como as grandes empresas de tecnologia, impunemente, permitiram que suas redes fossem inundadas com desinformação, ódio e manipulação de maneiras que tiveram um impacto muito real e negativo nas eleições.
Mas eu não estava preparado para ouvir alguns dos “padrinhos da IA”, como Yoshua Bengio, Geoffrey Hinton, Stuart Russell e Max Tegmark, falarem sobre como as coisas podem sair muito mais dos trilhos.
No centro de suas preocupações estava a corrida em direção à AGI (inteligência geral artificial, embora Tegmark acredite que o “A” deva se referir a “autônomo”), o que significaria que, pela primeira vez na história da vida na Terra, haveria uma entidade diferente dos seres humanos, possuindo simultaneamente alta autonomia, alta generalidade e alta inteligência, e que poderia desenvolver objetivos que estão “desalinhados” com o bem-estar humano.
Talvez isso aconteça como resultado da estratégia de segurança de um estado-nação, ou da busca por lucros corporativos a todo custo, ou talvez por conta própria.
“Não é com a IA de hoje que precisamos nos preocupar, é com a do ano que vem”, Tegmark me disse. “É como se você estivesse me entrevistando em 1942 e me perguntasse: ‘Por que as pessoas não estão preocupadas com uma corrida armamentista nuclear?’ Só que elas acham que estão em uma corrida armamentista, mas na verdade é uma corrida suicida.”
Isso me lembrou da releitura de Battlestar Galactica de Ronald D Moore em 2003, na qual um oficial de relações públicas mostra aos jornalistas: “coisas que parecem estranhas, ou até mesmo antiquadas, aos olhos modernos, como telefones com fios, válvulas manuais estranhas, computadores que mal merecem esse nome”. “Tudo foi projetado para operar contra um inimigo que poderia se infiltrar e interromper todos os sistemas de computador, exceto os mais básicos… estávamos tão assustados com nossos inimigos que literalmente olhamos para trás em busca de proteção.”
Talvez precisemos de uma nova sigla , pensei. Em vez de destruição mutuamente assegurada, deveríamos estar falando sobre “ destruição autoconfiante” com uma ênfase extra: SAD! Uma sigla que pode até chegar a Donald Trump.
A ideia de que nós, na Terra, podemos perder o controle de uma AGI que então se volta contra nós parece ficção científica – mas será que é realmente tão absurdo considerando o crescimento exponencial do desenvolvimento de IA? Como Bengio apontou, alguns dos modelos de IA mais avançados já tentaram enganar programadores humanos durante os testes, tanto em busca de seus objetivos designados quanto para escapar de serem deletados ou substituídos por uma atualização.
Quando os avanços na clonagem humana estavam ao alcance dos cientistas, os biólogos se uniram e concordaram em não persegui-la, diz Stuart Russell, que literalmente escreveu o livro didático sobre IA. Da mesma forma, tanto Tegmark quanto Russell são a favor de uma moratória na busca por AGI e uma abordagem de risco em camadas — mais rigorosa do que a Lei de IA da UE — onde, assim como no processo de aprovação de medicamentos, os sistemas de IA nas camadas de maior risco teriam que demonstrar a um regulador que não cruzam certas linhas vermelhas, como ser capaz de se copiar para outros computadores.
Mas mesmo que a conferência parecesse ponderada em direção a esses medos movidos pelo futuro, havia uma divisão bastante evidente entre os principais especialistas em segurança e ética de IA da indústria, academia e governo presentes. Se os “padrinhos” estavam preocupados com a AGI, um grupo demográfico mais jovem e diverso estava pressionando para colocar um foco equivalente nos perigos que as IAs já representam para o clima e a democracia.
Não precisamos esperar que uma AGI decida, por conta própria, inundar o mundo com datacenters para evoluir mais rapidamente – Microsoft, Meta, Alphabet, OpenAI e suas contrapartes chinesas já estão fazendo isso. Ou que uma AGI decida, por conta própria, manipular eleitores em massa para colocar políticos com uma agenda de desregulamentação no poder – o que, novamente, Donald Trump e Elon Musk já estão buscando. E mesmo nos estágios iniciais atuais da IA, seu uso de energia é catastrófico: de acordo com Kate Crawford, presidente visitante de IA e justiça na École Normale Supérieur, os datacenters já respondem por mais de 6% de todo o consumo de eletricidade nos EUA e na China, e a demanda só vai continuar aumentando.
“Em vez de tratar os tópicos como mutuamente exclusivos, precisamos que os formuladores de políticas e os governos levem em conta ambos”, disse-me Sacha Alanoca, pesquisador de PhD em governança de IA em Stanford. “E deveríamos dar prioridade a questões empiricamente orientadas, como danos ambientais, que já têm soluções tangíveis“.
Para esse fim, Sasha Luccioni, líder de IA e clima na Hugging Face – uma plataforma colaborativa para modelos de IA de código aberto – anunciou esta semana que a startup lançou uma pontuação de energia de IA , classificando 166 modelos em seu consumo de energia ao concluir diferentes tarefas. A startup também oferecerá um sistema de classificação de uma a cinco estrelas, comparável ao selo de energia da UE para eletrodomésticos, para orientar os usuários em direção a escolhas sustentáveis.
“Há o orçamento científico do mundo, e há o dinheiro que estamos gastando em IA”, diz Russell. “Poderíamos ter feito algo útil, e em vez disso estamos despejando recursos nessa corrida para cair da beira de um precipício.” Ele não especificou quais alternativas, mas apenas dois meses no ano, cerca de US$ 1 trilhão em investimentos em IA foram anunciados , tudo isso enquanto o mundo ainda está muito aquém do que é necessário para ficar dentro de 2°C de aquecimento, muito menos 1,5°C.
Parece que temos uma oportunidade cada vez menor de estabelecer incentivos para que as empresas criem o tipo de IA que realmente beneficia nossas vidas individuais e coletivas: sustentável, inclusiva, compatível com a democracia, controlada. E além da regulamentação, “para garantir que haja uma cultura de participação incorporada no desenvolvimento da IA em geral”, como Eloïse Gabadou, consultora da OCDE em tecnologia e democracia, colocou.
No final da conferência, eu disse a Russell que parecíamos estar usando uma quantidade incrível de energia e outros recursos naturais para nos precipitarmos em direção a algo que provavelmente não deveríamos estar criando em primeiro lugar, e cujas versões relativamente benignas já estão, de muitas maneiras, desalinhadas com os tipos de sociedades em que realmente queremos viver.
“Sim”, ele respondeu.
Alexander Hurst é um escritor baseado na França e professor adjunto na Sciences Po, o Instituto de Estudos Políticos de Paris e colunista do Guardian Europe.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: www.catarse.me/jornalggn“
Faça login para comentar Você pode fazer o Jornal GGN ser cada vez melhor.
Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.
“Fantasia” foi uma das produções Disney que mais me encantaram. Numa das partes do desenho, Mickey figura como Aprendiz de Feiticeiro do Mago Merlin. Quer ter poder, não quer trabalhar e acha que manda em tudo. Os homens de agora, com a varinha de condão na mão fazem a mesma coisa. Quando os baldes não pararem mais de carregar água e as vassouras sem cabeças começarem a varrer o mundo sem parar eles esperarão que o Mago Merlin desfaça a bagunça?