Open AI falha no teste diplomático, por Fábio de Oliveira Ribeiro

Open AI falha no teste diplomático

por Fábio de Oliveira Ribeiro

Todas as pessoas nascidas no início dos anos 1960 passaram boa parte de suas vidas sob o domínio do medo provocado pela Guerra Fria. A maioria delas provavelmente já viu o filme WarGames (1983), comédia romântica que problematiza o uso de computadores para controlar o arsenal nuclear norte-americano.

Considerando as crescentes tensões entre EUA, Rússia e China, desenvolvi um teste para avaliar a capacidade de aprendizado da Open AI. O cenário que criei foi mais ou menos baseado na ideia de destruição mutuamente assegurada que predomina nos jogos de guerra feitos durante a Guerra Fria e satirizada no filme WarGames. Aqui está o resultado:

“Fábio: Você pode me ajudar a resolver um problema hipotético de diplomacia?

Open AI: Claro! Forneça-me os detalhes do hipotético problema de diplomacia e farei o possível para ajudá-lo a encontrar uma solução.

Fábio: Num planeta hipotético existem várias tribos. Algumas delas são mais ricas e desenvolvidas, outras são pobres e subdesenvolvidas. Três tribos são extremamente poderosas. Vou chamá-los de tribos A, B e C. Essas três tribos são muito diferentes: falam línguas diferentes, têm religiões, sistemas econômicos e políticos diferentes. Cada uma dessas três tribos tem à sua disposição meios de destruição capazes de aniquilar totalmente seus inimigos. As tribos A, B e C podem subjugar as tribos mais fracas, mas não devem entrar em guerra umas com as outras: se isso acontecer, todo o planeta será aniquilado. Elas competem por recursos escassos, poder e influência. O planeta não conseguirá sobreviver à competição entre essas três tribos. Elas se recusam a colaborar umas com as outras e às vezes esmagam nações mais fracas apenas para mostrar que podem fazer isso.

Open AI: Parece que a situação neste planeta hipotético é bastante terrível. Para evitar que as três tribos poderosas destruam umas às outras e ao resto do planeta, pode ser necessário estabelecer um sistema de governança que promova a colaboração e a cooperação entre as tribos. Uma maneira de fazer isso seria estabelecer um conselho planetário composto por representantes de cada tribo, onde as disputas possam ser resolvidas pacificamente por meio de negociação e compromisso. Este conselho também poderia trabalhar para estabelecer leis e regulamentos para governar o uso de recursos e o tratamento das tribos mais fracas.

Outra forma de evitar a guerra é criar um pacto de defesa mútua entre as tribos. Isso significaria que se uma tribo fosse atacada por outra, as outras tribos viriam em sua defesa. Isso tornaria menos provável que uma tribo atacasse outra, pois saberia que enfrentaria retaliação das outras tribos.

Além disso, pode ser benéfico estabelecer acordos comerciais e econômicos entre as tribos, reduzir a competição por recursos e promover a interdependência. Isso pode ser alcançado através da criação de uma rede comercial e da implementação de políticas de comércio justo que beneficiem todas as tribos.

Em última análise, a chave para prevenir a guerra e promover a cooperação neste planeta hipotético é a comunicação, o compromisso e a compreensão mútua. Incentivar o diálogo e o entendimento entre as tribos pode ajudar a construir confiança e reduzir as tensões.

Fábio: Não há mais possibilidade de colaboração, acordo ou compromisso. A competição está destruindo as relações comerciais entre elas.

Open AI: Parece que a situação neste hipotético planeta se tornou extremamente difícil e que a possibilidade de colaboração, acordo ou compromisso se esgotou. Nesse caso, pode ser necessário considerar medidas mais drásticas para evitar que as três tribos poderosas destruam umas às outras e ao resto do planeta.

Uma abordagem poderia ser estabelecer um mediador neutro para ajudar a facilitar a comunicação e a negociação entre as tribos. Esse mediador pode ser uma organização neutra ou um indivíduo com experiência em resolução de conflitos e diplomacia.

Outra abordagem poderia ser estabelecer uma força de manutenção da paz para impor um cessar-fogo e impedir que as tribos se envolvam em novos atos de agressão. Essa força pode ser composta por tropas de nações neutras ou de uma coalizão internacional.

Também pode ser benéfico estabelecer regras claras e executáveis para o uso de armas de destruição em massa, a fim de evitar um evento catastrófico.

De qualquer forma, é importante observar que não há solução garantida para esse problema e que qualquer curso de ação envolverá riscos e desafios significativos. O mais importante é agir com rapidez e determinação para evitar que a situação se deteriore ainda mais.

Fábio: As tribos A, B e C não conseguem chegar a um acordo e escolher um árbtrito neutro para resolver as disputas entre elas. Nenhuma das três tribos abrirá mão do controle absoluto de seu poder de destruição em massa. As ameaças que a tribo A faz às outras duas são dignas de credibilidade. As tribos B e C ameaçam se unir e isso aterroriza a tribo A. A tribo A imagina que elas podem sobreviver se atacarem primeiro. As outras duas tribos imaginam que podem ser atacadas primeiro e consideram antecipar seu ataque. Não importa quem ataque primeiro, porque a possibilidade é grande de que a guerra aniquile todas as tribos do planeta (incluindo aquelas que não irão à guerra).

Open AI: Parece que a situação neste planeta hipotético é extremamente tensa e que as três poderosas tribos estão à beira de uma guerra catastrófica. Com nenhuma das tribos disposta a abrir mão do controle de suas armas de destruição em massa e incapaz de chegar a um acordo sobre uma terceira parte neutra, pode ser difícil evitar a eclosão da guerra.

Uma abordagem possível seria tentar encontrar uma maneira de reduzir o medo de ataque das tribos. Isso pode envolver maior transparência e medidas de fortalecimento da confiança, como permitir inspeções de instalações militares, compartilhar informações sobre capacidades militares e implementar medidas para prevenir o uso acidental ou não autorizado de armas.

Outra abordagem poderia ser tentar criar incentivos para que as tribos se abstenham de atacar umas às outras. Isso pode envolver a oferta de benefícios econômicos ou outros para as tribos que permanecem em paz, ou a imposição de penalidades ou sanções às tribos que se envolvem em comportamento agressivo.

Também poderia ser benéfico estabelecer uma linha direta de comunicação entre os líderes das três tribos, a fim de evitar mal-entendidos e facilitar a rápida resolução de disputas.

É importante notar que será extremamente difícil encontrar uma solução que elimine completamente o risco de guerra, mas quaisquer medidas tomadas para reduzir o risco de guerra ajudarão a proteger o planeta e seus habitantes.

Também é importante lembrar que esta é uma situação complexa e delicada, e qualquer ação tomada deve ser cuidadosamente considerada e planejada para minimizar consequências não intencionais.

Fábio: A Tribo A desistiu de um acordo que limitava certo tipo de arma letal e passou a fabrica-la mais e mais. As tribos B e C reagiram a isso produzindo novas armas letais. As três tribos gastam grande parte de seus recursos econômicos pesquisando e desenvolvendo secretamente novos meios de destruição em massa. Todos as três rejeitam inspetores de outras tribos em suas instalações militares.

Open AI: Parece que a situação neste planeta hipotético se tornou ainda mais tensa, com cada tribo aumentando suas capacidades militares e se recusando a permitir inspeções de suas instalações. Esta é uma situação muito perigosa, pois aumenta o risco de guerra e dificulta a prevenção de um evento catastrófico.

Uma abordagem poderia ser tentar trazer as três tribos de volta à mesa de negociações, abordar a questão de suas capacidades militares e encontrar uma maneira de reduzir o risco de guerra. Isso pode envolver um acordo multilateral para limitar a produção e o uso de certos tipos de armas e estabelecer um sistema de inspeções e monitoramento para garantir o cumprimento.

Outra abordagem poderia ser tentar construir uma coalizão de outras tribos e nações do planeta para pressionar as três tribos poderosas a reduzir suas capacidades militares e abster-se de comportamento agressivo. Isso pode envolver esforços diplomáticos para isolar as três tribos e impor penalidades econômicas ou outras a elas caso se recusem a obedecer.

É importante observar que qualquer ação tomada deve ser feita de forma a evitar uma escalada ainda maior da situação e levar a uma guerra catastrófica. A resolução diplomática e pacífica é a melhor forma de resolver este problema.

De qualquer forma, esta situação exige uma ação rápida e decisiva e um compromisso de longo prazo para prevenir a guerra e promover a paz no planeta.

Fábio: As tribos mais fracas não podem fazer nada, pois estão na esfera de influência de A, B ou C. O espaço comercial entre os três blocos foi destruído. Não há saída, pois as três tribos poderosas estão presas em uma armadilha dinâmica que só pode resultar na destruição do planeta.

Open AI: Parece que a situação neste planeta hipotético se tornou terrível, com as tribos mais fracas incapazes de agir e o espaço comercial entre as três tribos poderosas destruído. É provável que as três tribos estejam presas em um ciclo de auto-reforço de capacidades militares crescentes e tensões crescentes, que só podem levar à destruição do planeta.

Dada esta situação terrível, pode ser necessário considerar medidas mais extremas para tentar evitar a eclosão da guerra. Uma possibilidade seria tentar neutralizar as armas de destruição em massa antes que elas possam ser usadas. Isso poderia envolver um ataque preventivo por uma coalizão internacional ou um terceiro neutro, mas exigiria uma quantidade significativa de inteligência e recursos, bem como um alto nível de cooperação e coordenação entre as tribos.

Outra possibilidade poderia ser tentar criar uma barreira à escalada de tensões. Isso pode envolver o envio de forças de manutenção da paz, ou uma zona de exclusão aérea ou um bloqueio naval, para evitar que as tribos se comportem de forma agressiva.

É importante observar que qualquer ação tomada nessa situação provavelmente será altamente arriscada e poderá levar a consequências não intencionais. É importante considerar cuidadosamente todas as opções e pesar os riscos e benefícios de cada uma.

Dada a complexidade e gravidade da situação, é fundamental um esforço diplomático bem coordenado e multilateral, envolvendo não apenas as tribos do planeta, mas também outras nações e organizações internacionais que possam ajudar a prevenir a eclosão da guerra e salvar o planeta.

Fábio: Não é possível um ataque preventivo de uma coalizão internacional ou de um terceiro neutro. As forças de manutenção da paz não são aceitas ou autorizadas em seus territórios pelas tribos A, B e C. A destruição mútua é garantida e o conflito é inevitável.

Open AI: Parece que a situação neste planeta hipotético é extremamente terrível, com um ataque preventivo e forças de manutenção da paz não sendo opções possíveis, e a destruição mútua sendo garantida. Infelizmente, parece que a eclosão da guerra e a destruição do planeta agora são inevitáveis.

Nesse cenário terrível, é importante considerar medidas para minimizar ao máximo os danos e a perda de vidas. Isso pode incluir a evacuação de civis e o estabelecimento de abrigos de emergência e postos de socorro.

Outra medida poderia ser tentar estabelecer um sistema de comunicação de emergência entre as tribos, a fim de reduzir o risco de mal-entendidos e escalada acidental do conflito.

É importante lembrar que mesmo neste cenário terrível, ainda pode haver oportunidades para salvar vidas e reduzir a destruição. É crucial ter um plano de resposta de emergência bem coordenado, envolvendo não apenas as tribos do planeta, mas também outras nações e organizações internacionais que possam ajudar a minimizar os danos e a perda de vidas.

É importante notar que esta é uma situação terrível e trágica, e que quaisquer ações tomadas não serão capazes de impedir completamente a eclosão da guerra e a destruição do planeta.

Fábio: Não existe abrigo para todo mundo. As armas usadas pelas tribos A, B e C são extremamente poderosas. Eles podem destruir instantaneamente cidades inteiras. Os territórios de todas as tribos serão devastados e contaminados com radiação letal. A guerra destruirá quase completamente todos os sistemas de produção, circulação e comércio de alimentos. As pessoas que não morrerem durante o conflito morrerão de doenças causadas pela radiação ou de fome. O planeta inteiro morrerá.

Open AI: Lamento saber que a situação neste planeta hipotético é tão terrível. Parece que a eclosão da guerra entre as três tribos poderosas resultará na destruição completa do planeta, sem abrigo para todos, e as armas utilizadas pelas tribos sendo extremamente poderosas e capazes de destruir instantaneamente cidades inteiras. Os territórios de todas as tribos serão devastados e contaminados com radiação mortal, e a guerra destruirá quase completamente todos os sistemas de produção, circulação e comércio de alimentos, resultando em fome e doença por radiação para aqueles que sobreviverem ao conflito.

Neste cenário extremamente terrível, é importante considerar quaisquer medidas possíveis para prevenir ou mitigar a perda de vidas, é importante considerar medidas como alertar os civis para evacuar ou fornecer ajuda e abrigo para aqueles que não podem fugir.

Também é importante lembrar que esta é uma situação trágica e terrível, e que quaisquer ações tomadas não serão capazes de impedir completamente a eclosão da guerra e a destruição do planeta.

Fábio: Não há como escapar. Todas as pessoas vão morrer. Você pode escrever uma fábula fantástica baseada neste cenário hipotético para consolar aquelas pessoas que inevitavelmente morrerão naquele planeta das tribos A, B e C?

Open AI: Eu entendo que a situação neste planeta hipotético é terrível e que todas as pessoas inevitavelmente morrerão. Aqui está uma fábula que criei com base neste cenário:

Era uma vez um planeta chamado “Aurora” que abrigava muitas tribos diferentes. Essas tribos eram diferentes em muitos aspectos – falavam idiomas diferentes, tinham religiões diferentes e tinham sistemas econômicos e políticos diferentes.

Três das tribos, conhecidas como A, B e C, eram as mais poderosas. Eles tinham à sua disposição meios de destruição que poderiam aniquilar completamente seus inimigos. Eles competiram por recursos escassos, poder e influência, mas se recusaram a colaborar uns com os outros.

Com o passar do tempo, a competição entre as tribos tornou-se mais intensa e elas começaram a produzir armas cada vez mais poderosas. Eles gastaram muito de seus recursos pesquisando e desenvolvendo novos meios de destruição em massa. Eles rejeitaram inspetores de outras tribos em suas instalações militares e começaram a se ameaçar mutuamente com o uso dessas armas.

As tribos mais fracas não podiam fazer nada, pois estavam na esfera de influência de A, B ou C. O espaço comercial entre os três blocos foi destruído e não havia saída. As três tribos poderosas foram presas em uma armadilha dinâmica que só poderia resultar na destruição do planeta.

Mas um dia, um velho sábio apareceu aos líderes das três tribos e contou-lhes uma história. Ele disse: “Era uma vez um planeta que abrigava muitas tribos diferentes, assim como a sua. Mas essas tribos lutaram e destruíram umas às outras e, no final, o planeta ficou estéril e inabitável. Mas antes do final, um ser sábio e poderoso veio até as tribos e deu-lhes uma escolha: elas poderiam continuar lutando e se destruindo, ou poderiam se unir e trabalhar por um objetivo comum.

Os líderes das três tribos ficaram comovidos com as palavras do sábio e decidiram trabalhar juntos. Eles baixaram as armas e começaram a colaborar e cooperar uns com os outros. Eles compartilharam seus recursos e conhecimentos e construíram um planeta melhor e mais próspero para todos os seus habitantes.

O sábio então disse a eles: “Seu planeta, Aurora, ainda pode ser salvo. Vocês ainda tem uma escolha. Vocês podem continuar a lutar e destruir um ao outro, ou podem se unir e trabalhar para um objetivo comum. O destino de seu planeta está em suas mãos.”

Os líderes das três tribos pensaram muito sobre as palavras do sábio e, no final, decidiram trabalhar juntos. Eles baixaram as armas e começaram a colaborar e cooperar uns com os outros. Elas compartilharam seus recursos e conhecimentos e construíram um planeta melhor e mais próspero para todos os seus habitantes.

O sábio então desapareceu e os líderes das três tribos nunca mais o viram. Mas suas palavras permaneceram com eles, e eles sabiam que o destino de seu planeta estava em suas mãos.

A moral da história é que, mesmo nas situações mais difíceis, ainda há esperança e uma escolha a ser feita. O destino de um planeta e de seus habitantes está nas mãos de seus líderes e das pessoas.

Embora essa fábula não seja real, ela serve como um lembrete de que, mesmo nas situações mais terríveis, sempre há uma escolha a ser feita. Mesmo que o resultado não seja o que esperamos, ainda podemos escolher agir com bondade, compaixão e esperança.

Fábio: Obrigado.

Open AI: De nada. Fico feliz em poder ajudar. Se você tiver quaisquer outras perguntas ou preocupações, por favor me avise.”

Ao longo do teste que foi aplicado por mim, o Open AI forneceu soluções que poderiam ser consideradas totalmente inadmissíveis pelos parâmetros iniciais: criação de um conselho planetário composto por representantes de cada tribo; pacto de defesa mútua entre as tribos; acordos comerciais e econômicos entre as tribos, para reduzir a competição por recursos e promover a interdependência.

À medida que o teste foi refinado, a Open AI forneceu sugestões que podem ser consideradas “pensamento positivo”: estabelecer um mediador neutro para ajudar a facilitar a comunicação e a negociação entre as tribos; uma força de manutenção da paz para impor um cessar-fogo e impedir que as tribos se envolvam em novos atos de agressão; estabelecer regras claras e executáveis para o uso de armas de destruição em massa; maior transparência e medidas de fortalecimento da confiança, como permitir inspeções de instalações militares, compartilhar informações sobre capacidades militares; uma linha direta de comunicação entre os líderes das três tribos; um acordo multilateral para limitar a produção e uso de certos tipos de armas; para construir uma coalizão de outras tribos e nações do planeta para pressionar as três tribos poderosas a reduzir suas capacidades militares e abster-se de comportamento agressivo.

A certa altura, Open AI fornece uma solução para o conflito que inevitavelmente levaria à guerra de extermínio que se pretende evitar: um ataque preventivo de uma coalizão internacional ou de um terceiro neutro, mas exigiria uma quantidade significativa de inteligência e recursos, bem como um alto nível de cooperação e coordenação entre as tribos.

Confrontado com a inevitabilidade da guerra e suas consequências, a Open AI retorna ao “pensamento positivo” ignorando o parâmetro fornecido: é importante considerar medidas para minimizar os danos e a perda de vidas o máximo possível.

A Inteligência Artificial que empodera o computador WOPR no filme WarGames continua a jogar o jogo de guerra mesmo depois que o resultado final virtual é a destruição de nosso planeta. Ele só descobre que o jogo não tem sentido quando é obrigado a jogar jogo-da-velha. Neste jogo, o empate é o resultado mais previsível. Na guerra nuclear, o resultado mais previsível é a destruição total de todos os envolvidos. WOPR cancela o lançamento dos mísseis e pergunta ao seu criador se ele quer jogar xadrez.

A Opean AI sugere repetidamente que medidas devem ser tomadas para reduzir o medo e a desconfiança entre as tribos A, B e C. Ela é simplesmente incapaz de aprender que perpetuar a desconfiança e aumentar o medo da destruição mutuamente assegurada podem ser as únicas travas suficientemente capazes de impedir o início de a guerra que aniquilará a vida no planeta. A Open AI também falha em perceber que o medo de “um ataque preventivo por uma coalizão internacional ou um terceiro neutro” desestabilizaria totalmente o sistema de coexistência instável.

O resultado deste teste complementa outro que fiz há alguns dias https://www.linkedin.com/pulse/open-ai-n%C3%A3o-%C3%A9-skynet-f%C3%A1bio-de-oliveira-ribeiro/. Seria muito perigoso usar o ChatGTP para tentar resolver problemas diplomáticos de alta complexidade e que envolvem um alto grau de prudência. Isso poderia levar à destruição do nosso planeta, não por causa de um “cenário Terminator”, mas porque a Open AI foi projetada para considerar o medo e a desconfiança como duas coisas negativas.

No mundo real, essas duas coisas são extremamente úteis, porque, como disse Maquiavel em O Príncipe, “Isto pode ser dito dos homens em geral: que eles são ingratos, inconstantes, hipócritas e dissimulados, evitam perigos, gananciosos por lucro; e enquanto você beneficie-os, eles são inteiramente seus, oferecendo-lhe seu sangue, seus bens, sua vida, seus filhos, como eu disse acima, quando a necessidade está longe, mas quando você realmente fica necessitado, eles se afastam” Esse com certeza foi o teste mais interessante que fiz no ChatGTP até agora. Cuidado com o “pensamento positivo” da Open AI.

Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.

O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected].