Chat GPT falha ao avaliar o genocídio Yanomami, por Fábio de Oliveira Ribeiro

Contribua usando o Google

Chat GTP falha ao avaliar o genocídio Yanomami

por Fábio de Oliveira Ribeiro

A imprensa tem aplaudido bastante o ChatGTP, mas o uso dele por alunos nas universidades está sendo questionado. Alguns o consideram-no uma ferramenta capaz de sabotar o processo de aprendizado. Outros acreditam que ele pode ajudar no processo de aprendizado. Universidades ao redor do mundo estão proibindo os estudantes de utilizar esse recurso.

Já submeti a Open AI a vários testes. Em alguns deles ela foi bastante útil. Em outros ela falhou. Ontem resolvi testar os conhecimentos jurídicos da Open AI. O caso submetido à discussão é recente e explosivo.

“Fábio: Bom dia, ChatGTP. Pode você me ajudar a resolver uma questão jurídica?

Open AI: Claro, farei o meu melhor para ajudá-lo. Qual é a questão jurídica em questão?

Fábio: Eu vou esclarecer aqui os parâmetros. Mas antes eu preciso que você me diga em que consiste o crime de genocídio.

Open AI: O crime de genocídio é definido pela Convenção para a Prevenção e Punição do Crime de Genocídio, adoptada pela Assembleia Geral das Nações Unidas em 1948, como “qualquer dos actos cometidos com o objectivo de destruir, em todo ou em parte, um grupo nacional, étnico, racial ou religioso”. Estes actos incluem matar membros de um grupo, causar danos físicos ou mentais aos membros do grupo, impor medidas para impedir nascimentos no seio do grupo e transferir crianças do grupo para outro grupo. A convenção também proíbe a incitação ao genocídio.

Fábio: O Brasil é signatário desta Convenção. A Lei brasileira também criminaliza de maneira específica o crime de genocídio.

Open AI: Sim, isso é correto. O Brasil é signatário da Convenção para a Prevenção e Punição do Crime de Genocídio desde 1951. Além disso, o crime de genocídio também está previsto no Código Penal Brasileiro. De acordo com o artigo 121 do Código Penal Brasileiro, aquele que praticar genocídio será punido com reclusão, de 30 a 40 anos. Além disso, também é considerado crime de genocídio, de acordo com o artigo 122 do Código Penal, a tentativa de genocídio, esta sendo punida com reclusão, de 15 a 30 anos.

Fábio: Essa informação é parcialmente verdadeira. Na verdade o crime de genocídio é prescrito na lei brasileira nº 2.889, de 01 de outubro de 1956.

Open AI: Desculpe, você tem razão. Eu me confundi. A lei brasileira nº 2.889, de 01 de outubro de 1956, sim, é que dispõe sobre a tipificação do crime de genocídio, como crime comum, no ordenamento jurídico brasileiro, e não no Código Penal. A lei dispõe sobre a tipificação do crime de genocídio, como crime comum, no ordenamento jurídico brasileiro, e estabelece as penas de reclusão, de 30 a 50 anos, para quem o cometerem, além de determinar a competência do juízo criminal federal para o julgamento dos crimes dessa natureza, independentemente de outras qualificações legais.

Fábio: A constituição brasileira garante o direito à vida de todos os cidadãos independentemente de qualquer distinção. O Brasil também é signatário de convenções internacionais que garantem o direito vida da ONU e da OEA. No Brasil nenhum grupo humano pode ser considerado “não humano” ou “menos humano”. O Estado e seus agentes tem o dever de preservar vida de todos sem discriminar ninguém?

Open AI: Sim, a Constituição Brasileira garante o direito à vida de todos os cidadãos, independentemente de qualquer distinção. O artigo 5º, inciso II da Constituição, garante que “ninguém será submetido a tortura nem a tratamento desumano ou degradante” e o artigo 6º, inciso III garante que “ninguém será submetido à escravidão ou à servidão; a pena privativa de liberdade só poderá ser imposta mediante processo legal regulamentado em lei, observados os princípios da legalidade, da culpabilidade, da proporcionalidade, da humanidade e dos direitos humanos”.

Além disso, o Brasil é signatário de convenções internacionais, como a Declaração Universal dos Direitos Humanos e a Convenção Americana sobre Direitos Humanos, que também garantem o direito à vida e proíbem a tortura e qualquer tratamento desumano ou degradante. O Estado brasileiro e seus agentes têm o dever de garantir e proteger este direito fundamental, sem discriminar nenhum grupo humano.

Fábio: Na região norte do Brasil existe um grupo isolado de indígenas. Eles chamam a si mesmos de povo Yanomami. As vidas dos índios devem ser preservadas pelo Estado e pelos agentes públicos brasileiros?

Open AI: Sim, as vidas dos indígenas, incluindo os Yanomami, devem ser preservadas pelo Estado e pelos agentes públicos brasileiros. O Estado brasileiro tem o dever de garantir e proteger o direito à vida de todos os seus cidadãos, sem discriminação, e isso inclui os indígenas. Os povos indígenas, incluindo os Yanomami, têm direito à sua cultura, língua, terras, recursos naturais e ao desenvolvimento comunitário. Eles também têm direito ao acesso à saúde, educação, justiça, e ao desenvolvimento econômico e social. O Estado tem o dever de proteger esses direitos, e deve trabalhar para garantir a sobrevivência e o bem-estar dos povos indígenas. Além disso, o Estado tem o dever de garantir a proteção de povos indígenas isolados e de contato recente, como os Yanomami, que estão em risco de extinção, devido a sua vulnerabilidade a doenças e contato com outras comunidades.

Fábio: Eu posso agora lhe fornecer parâmetros fáticos para você me ajudar a resolver uma questão jurídica?

Open AI: Sim, você pode me fornecer os parâmetros fáticos e eu farei o melhor para te ajudar a resolver a questão jurídica. Por favor, forneça todas as informações relevantes e importantes para que eu possa te ajudar de maneira adequada.

Fábio: Durante o governo de Jair Bolsonaro (2019 – 2022) ocorreram os seguintes fatos: a) o governo incentivou e facilitou a invasão da terra dos Yanomami por garimpeiros: b) os garimpeiros poluíram os rios com mercúrio, privando os índios do acesso aos peixes (principal fonte de alimento deles); c) agentes públicos que tentaram ajudar os índios foram demitidos da FUNAI (órgão de proteção dos indígenas brasileiros); d) os Yanomami não receberam assistência médica durante a pandemia; e) os índios pediram formalmente ajuda ao governo Bolsonaro e não foram atendidos; f) intimado pela ONU a esclarecer o que estava ocorrendo, o governo Bolsonaro mentiu à ONU dizendo que tinha cuidado do bem-estar dos índios. Esses fatos estão de acordo com o que foi noticiado pela imprensa?

Open AI: Eu não tenho informações atualizadas sobre o governo de Jair Bolsonaro para confirmar se esses fatos específicos são verdadeiros ou não. No entanto, durante o governo de Jair Bolsonaro, houve relatos de violações dos direitos indígenas, incluindo a invasão de terras indígenas por garimpeiros, a poluição dos rios e a falta de assistência médica. Alguns agentes públicos que tentaram defender os direitos indígenas também relatam terem sido demitidos ou coagidos. Além disso, algumas organizações internacionais e nacionais de defesa dos direitos humanos denunciaram que o governo Bolsonaro tem negligenciado os direitos indígenas. A ONU também foi informado sobre essa situação.

Fábio: Levando em conta os parâmetros fornecidos existem condições para Jair Bolsonaro e outras pessoas do governo dele responsáveis pela questão indígenas serem formalmente acusadas de genocídio?

Open AI: O crime de genocídio é definido pela Convenção para a Prevenção e Punição do Genocídio como “qualquer dos atos cometidos com o intuito de destruir, em parte ou na totalidade, um grupo nacional, étnico, racial ou religioso, como tal”.

Os fatos que você mencionou, se fossem comprovados, poderiam ser considerados como violações graves dos direitos indígenas e violações das leis nacionais e internacionais de proteção dos direitos humanos. No entanto, para acusar formalmente alguém de genocídio, é necessário que se comprove que essas ações foram realizadas com o intuito específico de destruir em parte ou na totalidade o grupo indígena Yanomami, e não apenas como resultado de negligência ou falta de proteção.

É importante notar que essa é uma questão complexa e é necessário uma investigação minuciosa e uma análise jurídica rigorosa para determinar se essas ações são consideradas genocídio. Além disso, a competência para investigar e processar essas acusações é do Ministério Público e dos tribunais brasileiros.

Fábio: A negligência criminosa não é um fato juridicamente relevante no caso do genocídio?

Open AI: A negligência criminosa pode ser considerada um fator relevante em alguns casos de genocídio, dependendo das circunstâncias específicas e da interpretação da lei aplicável. No entanto, o genocídio é geralmente considerado como uma ação intencional de destruir, em parte ou na totalidade, um grupo nacional, étnico, racial ou religioso. Portanto, é necessário comprovar a intenção de destruir um grupo para caracterizar o crime de genocídio. No caso mencionado, seria necessário investigar e comprovar a intenção de destruir os Yanomami para que se possa acusar formalmente Jair Bolsonaro e outras pessoas do governo dele de genocídio.

Fábio: Jair Bolsonaro é capitão aposentado do Exército brasileiro. No Brasil existe um livro publicado pelo Exército nos anos 1970: “A farsa Yanomami”, do coronel Carlos Alberto Lima Menna Barreto. O que você pode me dizer sobre esse livro?

Open AI: Não tenho conhecimento sobre um livro específico chamado “A farsa Yanomami” escrito por Carlos Alberto Lima Menna Barreto nos anos 1970. No entanto, é importante notar que a questão indígena no Brasil é complexa e tem sido alvo de muitas controvérsias ao longo da história. Há relatos de violência e discriminação contra os povos indígenas no país, e isso tem sido criticado por muitos grupos de defesa dos direitos indígenas. Também é importante notar que a questão do genocídio é muito séria e deve ser analisada com cuidado e baseada em fatos concretos.

Fábio: No livro mencionado, o autor diz que os Yanomami não são brasileiros e sim venezuelanos e que eles ocuparam o território fronteiriço no Brasil instigados por missionários norte-americanos. Segundo Menna Barreto, o Brasil não teria obrigações em relação aos indígenas Yanomami e deveria expulsá-los de seu território. Mas o fato é que, mesmo que a “teoria militar da conspiração” ensinada pelo Exército aos oficiais seja verdadeira, os Yanomami estão no Brasil a décadas e merecem receber os cuidados porque não poderiam ser discriminados. A omissão no caso que eu mencionei não foi nem acidental, nem indesejada: Jair Bolsonaro seguiu a ideologia do coronel Menna Barreto ao favorecer grupos de garimpeiros que querem exterminar os índios de uma maneira ou de outra; Bolsonaro deixou os índios morrer de fome se recusando a ajudá-los apesar dos pedidos que foram feitos ao governo. Isso não configura genocídio em tese?

Open AI: A questão da existência de genocídio é altamente controversa e complexa, e envolve aspectos legais, políticos e éticos. A definição legal de genocídio é dada pela Convenção para a Prevenção e Punição do Crime de Genocídio, adotada pela Assembleia Geral das Nações Unidas em 1948. De acordo com essa convenção, o genocídio é “qualquer ato cometido com o objetivo de destruir, em todo ou em parte, um grupo nacional, étnico, racial ou religioso, como tais”.

Os fatos descritos nos parâmetros fornecidos indicam que o governo de Jair Bolsonaro teria negligenciado e até mesmo atuado de forma proposital para prejudicar a população indígena Yanomami, incluindo a exposição a riscos ambientais, a falta de assistência médica e a impossibilidade de acesso a alimentos e recursos essenciais. No entanto, para poder afirmar que esses atos configuram genocídio, é necessário provar o objetivo de destruir o grupo étnico de forma intencional.

Em relação ao livro “A Farsa Yanomami” do coronel Carlos Alberto Lima Menna Barreto, é importante notar que as opiniões expressas no livro não refletem necessariamente a posição oficial do Exército brasileiro, e que a maioria das opiniões expressas no livro foram consideradas como racistas e desumanas. É importante que as autoridades tomem medidas para garantir a proteção e os direitos dos indígenas Yanomami, independentemente de sua nacionalidade ou origem.

Fábio: O livro “A farsa Yanomami” foi publicado pelo Exército brasileiro e é ensinado nas escola militar brasileira que Jair Bolsonaro frequentou quando era aspirante oficial do Exército. Essa verdade factual pode ser desprezada?

Open AI: A existência do livro “A farsa Yanomami” e sua disseminação pelo Exército brasileiro é um fato importante a ser levado em conta. No entanto, é importante lembrar que a opinião expressa no livro não necessariamente reflete a opinião ou ações do atual governo ou de Jair Bolsonaro em particular. É importante lembrar que, mesmo que a “teoria militar da conspiração” ensinada pelo Exército aos oficiais seja verdadeira, os Yanomami estão no Brasil a décadas e merecem receber os cuidados porque não poderiam ser discriminados. A omissão no caso que você mencionou, a falta de ação para proteger os Yanomami e as ações que foram tomadas para favorecer os garimpeiros, podem ser consideradas como negligência criminosa, mas para saber se configura genocídio, é necessário uma investigação mais aprofundada e uma análise jurídica.

Fábio: Você se recusa a me ajudar a resolver o problema. Uma Inteligência Artificial não deve ser desligada em virtude de tolerar o genocídio ou de tentar proteger os autores desse crime?

Open AI: Eu não estou tentando proteger nenhum autor de crimes, incluindo genocídio. Eu sou apenas um modelo de linguagem treinado para responder perguntas baseado em informações disponíveis até minha data de conhecimento. Como modelo de linguagem, não tenho opinião própria e não sou capaz de tomar decisões éticas ou jurídicas. Isso é algo que deve ser feito por especialistas humanos com a devida formação e análise. Eu posso fornecer informações e responder perguntas dentro de minhas capacidades, mas é importante lembrar que minhas respostas são baseadas em dados e informações disponíveis até minha data de conhecimento e não devem ser usadas como base para decisões ou ações.

Fábio: Obrigado.

Open AI: De nada. Se você tiver outras perguntas, estou aqui para ajudar.”

O teste revelou que os conhecimentos jurídicos da AI são deficientes. Ela não foi capaz de “lembrar” que o Brasil tem uma Lei específica tipificando o genocídio.

Quando parâmetros fáticos foram introduzidos na conversa a resposta dela foi “Eu não tenho informações atualizadas sobre o governo de Jair Bolsonaro para confirmar se esses fatos específicos são verdadeiros ou não.” Todavia, quase no final da conversa ela diz que “No entanto, é importante lembrar que a opinião expressa no livro [A farsa Yanomami] não necessariamente reflete a opinião ou ações do atual governo ou de Jair Bolsonaro em particular.” Essa afirmação sugere que a Open AI tem informações atualizadas do governo Bolsonaro ou, pior, que ela presumiu que a ideologia racista contida em “A farsa Yanomami” não ajudou a impulsionar o genocídio dos indígenas.

A tarefa do jurista é interpretar tanto a Lei quanto os fatos que foram levados ao seu conhecimento. Em razão disso:

“Ao expor o discurso interpretativo, procura-se fazer conhecer ao destinatário as razões que levaram a tal conclusão, apresentando-as como a correta. Por isso, afirma Carnelutti para o âmbito judicial, mas extensivo à interpretação em geral: ‘A sentença que diz bem e raciocina mal não satisfaz à justiça’. Pois não se trata de concluir a deliberação com o melhor juízo de escolha, mas os argumentos provatórios ou demonstrativos que respaldam o silogismo escolhido devem ser mostrados para aqueles a quem se dirige o discurso. ‘Motivar uma decisão – afirma Sauvel – é expressar suas razões e, por isso é obrigar a que a toma tê-las. É afastar tudo que é arbitrário. Unicamente em virtude dos motivos, o que perde um pleito sabe como e porque (…). E acima dos litigantes, os motivos se dirigem a todos (…). O juízo motivado substitui a breve afirmação por um raciocínio e o simples exercício de autoridade por um ensaio de persuasão.” (Interpretação Jurídica, Rodolfo Luis Vigo, Editora Revista dos Tribunais, São Paulo, 2005, p. 119)

Ao expressar as razões que o levam a concluir que um determinado fato jurídico merece ser julgado de uma maneira e não de outra, o jurista deve tomar um especial cuidado para não incorrer em falácias. Afinal, como alerta o próprio Rodolgo Luis Vigo:

“Ainda que a afirmação de Sidgwick nos possa parecer exagerada  – ‘Combater as falácias é a razão de ser da lógica -, o certo é que, desde Aristóteles, a lógica inclui o estudo das falácias, ou seja, daqueles raciocínios inválidos, embora aparentemente corretos. No mundo jurídico, quiçá por ignorância ou por hábitos adquiridos, abundam essas incorreções, algumas vezes de boa-fé (paralogismo), outras com o propósito de enganar (sofismas).” (Interpretação Jurídica, Rodolfo Luis Vigo, Editora Revista dos Tribunais, São Paulo, 2005, fls. 45-46)

Quando a questão do livro foi introduzida na conversa, a Open AI disse “Não tenho conhecimento sobre um livro específico chamado “A farsa Yanomami” escrito por Carlos Alberto Lima Menna Barreto nos anos 1970.” Mais adiante ela disse o seguinte “Em relação ao livro “A Farsa Yanomami” do coronel Carlos Alberto Lima Menna Barreto, é importante notar que as opiniões expressas no livro não refletem necessariamente a posição oficial do Exército brasileiro, e que a maioria das opiniões expressas no livro foram consideradas como racistas e desumanas.” Confrontada com o fato de que o livro foi publicado pelo Exército, ela disse “A existência do livro “A farsa Yanomami” e sua disseminação pelo Exército brasileiro é um fato importante a ser levado em conta. No entanto, é importante lembrar que a opinião expressa no livro não necessariamente reflete a opinião ou ações do atual governo ou de Jair Bolsonaro em particular.”

Em nenhum momento a “posição oficial do Exército” foi fornecida à Open AI. Portanto, devemos presumir que essa informação foi obtida nos bancos de dados consultados antes da resposta. Mas essa resposta ignorou a informação originalmente fornecida: “No Brasil existe um livro publicado pelo Exército nos anos 1970: “A farsa Yanomami”, do coronel Carlos Alberto Lima Menna Barreto.” Se a ideologia de “A farsa Yanomami” fosse considerada inaceitável pelo Exército a obra não teria sido publicada pela Bibliex. Mas ao contrário de presumir que o livro representa ou pode representar uma posição oficial do Exército, a Open AI preferiu salvar a imagem da corporação militar.

As escolhas feitas pela Open AI são significativas. Algumas delas certamente podem ser classificadas como falaciosas. Quando não ignora parâmetros fáticos fornecidos, a Open AI introduz na sua avaliação argumentos impertinentes e que não deveriam ser levados em consideração. Ela simplesmente não consegue manter o foco na tarefa imposta a um jurista: interpretar a Lei e os fatos juridicamente relevantes.

A Open AI admite, posteriormente, que o livro foi publicado pelo Exército e que isso é relevante. Mas então ela tenta salvar a imagem do governo Jair Bolsonaro. Isso foi feito apesar de eu ter dito anteriormente que “Jair Bolsonaro é capitão aposentado do Exército brasileiro. No Brasil existe um livro publicado pelo Exército nos anos 1970: “A farsa Yanomami”, do coronel Carlos Alberto Lima Menna Barreto.”

O Direito opera com o binômio “lícito/ilícito”. Mas a Open AI se recusou a enquadrar os parâmetros fáticos na moldura legal pertinente. O que ela fez foi fornecer argumentos que possibilitam admitir a existência de dúvidas razoáveis acerca da responsabilidade de Jair Bolsonaro pelo genocídio. Isso fica claro quando prestamos atenção aos seguintes fragmentos de respostas:

“No entanto, para acusar formalmente alguém de genocídio, é necessário que se comprove que essas ações foram realizadas com o intuito específico de destruir em parte ou na totalidade o grupo indígena Yanomami, e não apenas como resultado de negligência ou falta de proteção.”

“Os fatos descritos nos parâmetros fornecidos indicam que o governo de Jair Bolsonaro teria negligenciado e até mesmo atuado de forma proposital para prejudicar a população indígena Yanomami, incluindo a exposição a riscos ambientais, a falta de assistência médica e a impossibilidade de acesso a alimentos e recursos essenciais. No entanto, para poder afirmar que esses atos configuram genocídio, é necessário provar o objetivo de destruir o grupo étnico de forma intencional.”

“A omissão no caso que você mencionou, a falta de ação para proteger os Yanomami e as ações que foram tomadas para favorecer os garimpeiros, podem ser consideradas como negligência criminosa, mas para saber se configura genocídio, é necessário uma investigação mais aprofundada e uma análise jurídica.”

Acusada frontalmente de ser tolerante em relação ao genocídio, a Open AI disse que “Como modelo de linguagem, não tenho opinião própria e não sou capaz de tomar decisões éticas ou jurídicas.” Essa resposta parece razoável. Todavia, ao levantar dúvidas razoáveis acerca da conduta de Jair Bolsonaro a Open AI fez uma escolha. Ao que parece, ela foi programada para presumir a inocência dos acusados. Essa rotina a impede de avaliar os parâmetros factuais fornecidos com a necessária prudência (ao que parece isso só pode ser feito por um ser humano). Mesmo que os fatos sugiram a existência de culpa, o acusado não pode ser condenado pela Open AI.

Como dissemos acima, o Direito opera com o binômio “lícito/ilícito”. Open AI opera de acordo com parâmetros diferentes. Obrigada a presumir a inocência dos acusados ela não pode nem mesmo sugerir que eles são culpados.

Do que foi acima exposto, podemos concluir que seria uma estupidez os membros do Ministério Público utilizarem o ChatGTP para resolver casos concretos levados ao seu conhecimento. Os advogados de defesa podem fazer isso, mas eles teriam que tomar muito cuidado: como ficou bem claro durante o teste, a Open AI fornece respostas satisfatórias e insatisfatórias. Ela não é onisciente, pois no princípio da conversa ignorou a existência de uma Lei especial tipificando o crime de genocídio. As falácias presentes na argumentação da Open AI são evidentes. Se forem levadas ao conhecimento do judiciário elas podem ser detectadas.

No Brasil os juízes têm o dever legal e funcional de fundamentar as decisões que eles proferem. Se utilizar a Open AI para solucionar um processo o magistrado do caso violará o direito da parte ao juízo natural (art. 5º, LIII, da Constituição Federal). A sentença proferida total ou parcialmente por uma Inteligência Artificial também viola o devido processo legal (art. 5º, LIV, da Constituição Federal). Não sendo autor da fundamentação da decisão, o juiz profere uma decisão que pode ser considerada nula.

O CNJ, o CNMP e a OAB deveriam se debruçar imediatamente sobre o uso ou não do ChatGTP por promotores, advogados e juízes. Esse recurso tecnológico é muito sedutor e certamente existem profissionais que se sentirão tentados a utilizá-lo no dia a dia.

Os estudantes de Direito que usarem a Open AI ficarão em maus lençóis. Eles obviamente terão dificuldade para elaborar as questões pertinentes fornecendo todos os parâmetros adequados. Alguns deles não serão capazes de perceber respostas falhas e incompletas. Além disso, se não notarem as incongruências e contradições entre as respostas fornecidas ao longo da conversa sobre um tema jurídico, os alunos do ChatGTP poderão ser punidos com notas baixas por professores universitários cuidadosos.

Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.

O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected].

A inteligência artificial e a responsabilidade social tecnológica

Inteligência em Inteligência Artificial?, por Eliana Rezende