Governança global de IA no atacado, caças autopilotados e Tigrinho no varejo
por Fábio de Oliveira Ribeiro
No dia 17 de setembro de 2024 foi anunciado com pompa e circunstância o relatório da ONU sobre governança global da tecnologia de IA.
É verdade que o “…acelerado desenvolvimento de IA concentra poder e riqueza em escala global, como implicações geopolíticas e geoeconômicas” como diz o item 1, VII. Todavia, a concentração de poder e de riqueza não é um fenômeno novo, nem tampouco tem sido realmente tratado como um problema a ser resolvido pela ONU. Afinal, a própria instituição foi criada com uma clara distinção entre os membros em geral da instituição e as potências com poder de veto no Conselho de Segurança.
O poder de veto das potências vitoriosas na II Guerra Mundial congelou as relações internacionais de maneira extremamente vantajosa para alguns países. E não me parece que aqueles que lideram a corrida pela IA abrirão mão dessa vantagem comparativa que lhes permite dominar os outros povos com subornos, ameaças e invasões militares ilegais.
É possível concordar com a afirmação feita no item 1, IX, no sentido de que o “…desenvolvimento, implantação e uso dessa tecnologia não pode ficar apenas nas mãos do mercado.” Na China, o desenvolvimento e utilização de IA é regulado de maneira forte. Na Europa, a regulação também foi adotada mas com menos restrições estatais do que aquelas que existem entre os chineses. O Brasil caminha para regular o desenvolvimento de IA de maneira mais ou menos semelhante àquela definida pelos países europeus. Mas existe um grande problema.
Nos EUA a questão da regulação é um pesadelo, porque a política norte-americana é quase totalmente controlada por corporações privadas que financiam os candidatos dos dois maiores partidos. Mesmo que os EUA concorde na ONU com a governança forte de IA não me parece que isso irá se refletir em ações concretas dentro daquele país. Já vimos isso acontecer em relação a outros temos, como a redução de poluição causada pelo uso de derivados de petróleo por exemplo. E para piorar as coisas, é justamente nos EUA que essa tecnologia está sendo desenvolvida com mais rapidez e rapacidade por empresas privadas que dificilmente abrirão mão do poder que já tem e do acréscimo de poder que pretendem conquistar.
O item 3, XXI, afirma que é preciso uma linha do tempo imparcial e cientificamente confiável acerca do desenvolvimento da tecnologia. “Uma abordagem para governar IA começa com o entendimento comum de suas capacidades, oportunidades, riscos e incertezas.” Infelizmente, as incertezas em relação a tecnologia de IA são abissais. Nem mesmo quem criou e está desenvolvendo aceleradamente a tecnologia sabe exatamente como funciona a Caixa Preta, sendo certo que o emprego militar dela será mais rápido do que qualquer linha do tempo que possa ser discutida. Mas uma coisa sobre as oportunidades e riscos podem ser mencionadas aqui.
Em pouco tempo os militares dos EUA conseguiram treinar uma IA para pilotar caças em ambiente virtual. Concluída essa fase de desenvolvimento, testes com o uso da nova tecnologia em caças verdadeiros começaram a ser realizados. Os resultados desses testes estão sendo considerados positivos e encorajadores. Dificilmente, os comandantes militares e os políticos norte-americanos abrirão mão dessa nova vantagem tecnológica conquistada. Por que eles fariam isso? Depois que passaram a fabricar machados de metal, os seres humanos não voltaram a fazer guerras utilizando machados de pedra lascada.
O uso de IA por israelenses para cometer um genocídio em Gaza não pode deixar de ser mencionado aqui. Isso tem motivado uma série de manifestações de empregados do Google, empresa que fornece as ferramentas e a capacidade de processamento de dados às Forças Armadas de Israel. Ucrânia e Rússia também estão utilizando IA no conflito que travam no coração da Europa. Não há nada que possa ser feito para impedir países em guerra de desenvolver, adquirir e utilizar armamentos novos e tecnologias mais sofisticados para obter a desejada vitória no campo de batalha.
A característica humana acima mencionada (a rápida adoção de inovações que permitem maior probabilidade de sucesso militar) é totalmente incompatível com a pretensão da ONU de “… definir a estrutura para a cooperação internacional e alinhar melhor os esforços da indústria e nacionais com as normas e princípios globais.” O único princípio que orienta as ações dos Estados nacionais é a preservação de seu próprio interesse, algo que passa necessariamente pelo desenvolvimento de suas capacidades militares de defesa e ataque. Enquanto os diplomatas discutem a questão na ONU, a IA já está sendo transformada numa peça vital do novo arsenal militar dos EUA (China e Rússia certamente não deixarão de correr atrás do melhor machado empoderado por IA, porque seria estupidez perder a próxima guerra utilizando machados de metal comuns).
O relatório da ONU é amplo e muito detalhado. Os interessados podem ir direto à fonte. Portanto, antes de terminar me limitarei a fazer alguns comentários que considero pertinentes e indispensáveis.
A ONU não consegue forçar Israel a cumprir dezenas de Resoluções contra a invasão, ocupação e colonização ilegais de áreas palestinas. O mesmo pode ser dito sobre Resoluções sobre mudanças climáticas. Violações de direitos humanos dentro dos EUA e da UE ou cometidas em outros países por europeus e norte-americanos têm apenas uma consequência na ONU: discussões diplomáticas sonolentas que não resultam em nada, discursos vazios que não convencem ninguém e demonstrações de hipocrisia diplomática em favor da impunidade para os EUA e a UE.
Sendo assim, me parece claro que a iniciativa da ONU sobre governança global da IA está fadada ao fracasso. Ela não interromperá a utilização crescente de IA nem na guerra da Ucrânia nem no genocídio dos palestinos em Gaza. Mas há um cenário em que a iniciativa pode ser bem-vinda e diplomaticamente bem-sucedida: os debates acerca da governança global da IA poderão ser utilizados para desviar a atenção do público mundial do fracasso institucional permanente da ONU, permitindo que esse zumbi continue existindo e garantindo os empregos e vidas chiques dos diplomatas.
Existe uma coisa muito esquisita sobre o Teste de Turing, geralmente referido pelos especialistas em IA. Quando ele foi idealizado, esse teste era apenas um experimento mental feito por um matemático muito capacitado e criativo num ambiente em que os computadores (ou máquinas de pensar) não existiam como coisas utilizados largamente por Estados, corporações pequenas e grandes e bilhões de pessoas ao redor do mundo todos os dias.
Obviamente o umbral para medir se uma máquina pensante pode ou não ser encarada como um ser humano e enganar seu interlocutor já não é o mesmo. Na verdade, ele não tem sido o mesmo há décadas. Mesmo assim as pessoas sempre se referem ao Teste de Turing como se ele pudesse revelar algo de significativo.
A questão que acredito ser indispensável fazer aqui é: Nós podemos no estágio atual de desenvolvimento tecnológico saber realmente o que caracteriza uma máquina pensante e o que distingue uma IA de um ser humano? Não faria sentindo um homem da Idade do Bronze testar qual seria o machado de pedra lascada mais eficiente, porque é autoevidente que um machado de bronze seria mais eficiente e durável. Talvez também não faça mais sentindo imaginar que o Teste de Turing, que foi criado num contexto em que os computadores não eram utilizados há décadas, pode revelar resultados consistentes na atualizada.
As IAs já comandam quase tudo no mercado financeiro internacional, setor em que elas podem produzir um estrago imenso. Em diversos países, os problemas sociais, políticos e econômicos causados pelos jogos online empoderados por IA é uma triste realidade. No Brasil eles explodiram nos últimos meses. De certa maneira, nós todos já estamos sendo tangidos como gado por IAs, mas não temos condições de saber isso porque as ferramentas que utilizados para distingui-las de humanos são inúteis ou inadequadas.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para dicasdepautaggn@gmail.com. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: www.catarse.me/jornalggn “
Deixe um comentário