Como evitar o apocalipse da Inteligência Artificial, por Seth Baum

no Project Syndicate

Como evitar o apocalipse da Inteligência Artificial

por Seth Baum

Tradução de Caiubi Miranda

NOVA YORK – Os avanços recentes no campo da inteligência artificial foram absolutamente impressionantes. A IA está transformando praticamente todos os setores da sociedade, desde o transporte até a medicina e a defesa. Portanto, vale a pena considerar o que acontecerá quando se tornar ainda mais avançada do que já é.

A visão apocalíptica é que as máquinas acionadas por IA serão mais inteligentes que a humanidade, dominar o mundo e matar todos nós. Este cenário aparece frequentemente na ficção científica e é bastante fácil de descartar, considerando que os seres humanos continuam a exercer um controle firme. Mas muitos especialistas em IA levam a sério a perspectiva apocalíptica, e eles estão certos em fazê-lo. O resto da sociedade deveria imitá-los.

Para entender o que está em jogo, considere a distinção entre “AI estreito” e “inteligência artificial geral” (IAG). A AI estreita pode funcionar apenas em um domínio ou em alguns domínios por vez, de modo que, embora possa superar os humanos em certas tarefas, permanece sob controle humano.

O IAG, no entanto, pode raciocinar em uma ampla gama de domínios e, portanto, poderia replicar muitas capacidades intelectuais humanas, mantendo todas as vantagens de computadores, como a recuperação de memória perfeita. Com hardware de computador sofisticado, o IAG poderia superar a cognição humana. Na verdade, é difícil conceber um teto para os avançados que poderiam se tornar o IAG.

Como as coisas estão, a maior parte da IA ​​é estreita. By the way, até mesmo os sistemas mais avançados de hoje só têm quantidades limitadas de generalidade. Por exemplo, enquanto o sistema Google DeepMind AlphaZero foi capaz de se impor em Go, xadrez e shogi – o que o torna mais geral do que a maioria dos outros sistemas de inteligência artificial, que só pode ser aplicado a uma única atividade específica – mesmo assim. demonstrou capacidade apenas dentro dos limites limitados de certos jogos de tabuleiro altamente estruturados.

Muitas pessoas entendem a perspectiva de um IAG avançado. Alguns, como Selmer Bringsjord, do Rensselaer Polytechnic Institute, e Drew McDermott, da Universidade de Yale, argumentam que é impossível para a IA ultrapassar a humanidade. Outros, como Margaret A. Boden, da Universidade de Sussex e Oren Etzioni do Instituto Allen para a Inteligência Artificial, AI argumentam que nível humano pode ser possível no futuro distante, mas é muito cedo para começar a lidar com ele agora.

Esses céticos não são figuras marginais, como os rabugentos que tentam questionar a ciência da mudança climática. Eles são acadêmicos ilustres em ciência da computação e áreas afins, e suas opiniões devem ser levadas em conta.

No entanto, outros estudiosos ilustres entre eles David J. Chalmers University of New York, Allan Dafoe Yale University e Stuart Russell, da Universidade da Califórnia, Berkeley, Nick Bostrom Oxford University e da Yampolskiy Roman Universidade de Louisville – na verdade, eles temem que o IAG possa representar uma ameaça séria ou mesmo existencial à humanidade. Com especialistas de ambos os lados do debate, o resto de nós deve manter a mente aberta.

Além disso, o IAG é o foco de pesquisa e desenvolvimento significativos. Recentemente, realizei uma pesquisa com projetos de P & D do IAG e identifiquei 45 em 30 países em seis continentes. Muitas iniciativas ativas começam com grandes corporações, como Baidu, Facebook, Google, Microsoft e Tencent, e de universidades de elite, como Carnegie Mellon, Harvard e Stanford, assim como a Academia Chinesa de Ciências. Não seria sensato supor que nenhum desses projetos será bem-sucedido.

Outra maneira de pensar sobre a ameaça potencial do IAG é compará-lo com outros riscos catastróficos. Na década de 1990, o Congresso dos Estados Unidos considerou apropriado para a NASA rastrear grandes asteroides que poderiam colidir com a Terra, embora as chances de isso acontecer sejam de um em cada 5.000 por século. Com o IAG, as chances de uma catástrofe no próximo século poderiam ser uma em 100, ou mesmo uma em cada dez, a julgar pelo ritmo da P & D e pela magnitude da preocupação dos especialistas.

A questão, então, é o que fazer sobre isso. Para começar, precisamos garantir que a P & D seja realizada de maneira responsável, segura e ética. Isso exigirá um diálogo mais profundo entre aqueles que trabalham no campo da IA ​​e legisladores, cientistas sociais e cidadãos interessados. Aqueles que trabalham no campo conhecem a tecnologia e eles a projetarão de acordo com os padrões acordados; mas eles não devem decidir sozinhos quais serão esses padrões. Muitas pessoas que estão desenvolvendo aplicativos de IA não estão acostumadas a pensar sobre as implicações sociais de seu trabalho. Para que isso mude, eles devem ser expostos a perspectivas externas.

Os formuladores de políticas também terão que lidar com as dimensões internacionais do IAG. Atualmente, a maior parte da P & D no IAG ocorre nos Estados Unidos, na Europa e na China, mas grande parte do código é aberto, o que significa que, potencialmente, o trabalho pode ser feito de qualquer lugar. Consequentemente, o estabelecimento de normas e regras básicas é, em última análise, uma tarefa para a comunidade internacional como um todo, embora os centros de P & D devam assumir a liderança.

Olhando para o futuro, alguns esforços para abordar os riscos colocados pela IAG pode se juntar iniciativas políticas que foram implementadas ao IA estreita, como o novo bipartidária Caucus IA lançado por John Delaney, congressista democrata de Maryland. Existem muitas oportunidades de sinergia entre aqueles que trabalham nos riscos de curto prazo IA e aqueles que pensam no longo prazo.

No entanto, independentemente de o IA estreito e o IAG serem considerados em conjunto ou separadamente, o que mais importa é que tomemos medidas construtivas agora para minimizar o risco de uma catástrofe no futuro. Não é uma tarefa que podemos esperar concluir no último minuto.