O uso de IA representa um perigo para os juízes garantistas?
por Fábio de Oliveira Ribeiro
Após ter publicado no Jornal GGN o texto Juiz de garantias x IA ma non troppo do TJSP, tomei ciência do Parecer da área técnica do CNJ que foi anexado no PCA 0000416-89.2023.2.00.0000. Esse processo foi por mim ajuizado com o objetivo de obter uma resolução proibindo os juízes brasileiros de usar o ChatGPT para proferir decisões.
Produzido por dois juízes auxiliares da presidência e pelo Diretor do Departamento de TI e Comunicação do CNJ, referido parecer encontra-se satisfatoriamente fundamentado. Ao final dele, foram feitas as seguintes sugestões:
“4. Conclusão
Diante das considerações expostas, o Departamento de Tecnologia da Informação e Comunicação do Conselho Nacional de Justiça manifesta-se pela não proibição do uso de modelos de inteligência artificial baseadas em large language models (LLMs) no âmbito do Poder Judiciário brasileiro.
Por outro lado, o DTI/CNJ sugere a adoção das seguintes medidas de tratamento de riscos:
a) proibição do uso de soluções de inteligência artificial baseadas em large language models (LLMs) que importem em automação de atividades decisórias;
b) determinação para que implementações de uso de LLMs assegurem ao usuário humano a revisão e opção de escolha quanto ao aproveitamento de insumo fornecido pelo modelo;
c) determinação para que, em cenários de uso corporativo, os órgãos do Poder Judiciário adotem providências para preservação de dados pessoais e informações sensíveis;
d) determinação para que, em cenários de uso individual, os usuários sejam submetidos à capacitação formal, a fim de serem esclarecidos quanto aos riscos e estratégias de prevenção, incluindo construção de contextos e engenharia de prompt.
Por fim, o DTI/CNJ sugere ainda a constituição de grupo de trabalho com o objetivo de avaliar a necessidade de atualização da Resolução CNJ n. 332/2020, pautado pelos seguintes objetivos mínimos:
a) definição de modelo de governança para gestão do processo de desenvolvimento, sustentação e uso das soluções de inteligência artificial no Poder Judiciário brasileiro, orientado pela transparência e auditabilidade;
b) definição de processo de trabalho referencial para auditoria de modelos e soluções de inteligência artificial, sob as perspectivas da segurança da informação, performance, robustez, confiabilidade, vieses, correlação entre entradas e saídas e conformidade legal e ética;
c) definição de casos de uso permitidos, regulados e proibidos.
Sendo estas as considerações técnicas possíveis no atual estágio de processamento do feito, submeto o presente parecer à apreciação de Vossa Excelência.”
Na manifestação que protocolei no PCA 0000416-89.2023.2.00.0000 disse que:
“O autor não tem condições técnicas de repelir as afirmações feitas pelos subscritores do Parecer anexado aos autos. Ao que parece as recomendações que eles fizeram são adequadas e podem ser adotadas pelo CNJ.”
Após fazer uma longa reflexão acerca dos problemas que envolverão o uso de IA caso o STF aprove ou não a constitucionalidade do juiz de garantias, finalizei minha petição dizendo o seguinte:
“Qualquer que seja a decisão do CNJ no presente caso ela deverá levar em conta a necessidade de cumprir e fazer cumprir os princípios constitucionais que orientam a distribuição de Justiça. Os brasileiros não devem ser julgados por IAs. A programação de IAs com viés é algo tecnicamente possível e algo extremamente assustador, pois ninguém terá condição de provar que a “caixa preta” julgou este ou aquele caso influenciada por preconceitos decorrentes da programação que recebeu (ou desenvolveu, pois ao que parece as IAs também podem evoluir).”
O uso de IAs para administrar processos e eventualmente auxiliar os juízes a proferir decisão (como quer o TJSP) em tese é referendado pelo Parecer da área técnica do CNJ no PCA 0000416-89.2023.2.00.0000. Essa inovação também parece ser referendada pela tese defendida por Maria Rita Rebello Pinho Dias:
“Os oficios judiciais atuam na parte operacional da tramitação do processo, sendo responsáveis por sua correta movimentação entre as diversas etapas que podem ser observadas durante esse andamento, desde a distribuição da petição inicial até a certificação do trânsito em julgado ou a remessa dos autos à instância superior. Atua como se fosse a ‘esteira’ que movimenta o processo ao longo de todas as fases. Os gabinetes dos magistrados, por outro lado, são responsáveis pela elaboração das decisões que determinarão os rumos desse processo, dando-lhe adequado seguimento e, ao final, julgamento definitivo da questão.
Para que um processo tramite adequadamente, é necessário, portanto, que fluxos de trabalhos existentes nessa unidade judicial estejam funcionando de maneira contínua. As atividades do ofício judicial e do gabinete são concatenadas e mutuamente dependentes – como se fossem engrenagens de um relógio. O atraso em uma das atividades retarda as demais e, se crônico, gera pontos de gargalo, atrapalhando a capacidade da unidade, como um todo, de produzir. Essa disfuncionalidade vai impactar o processo judicial, que não encontrará estrutura eficiente para que possa tramitar apropriadamente.
Também no caso das unidades judiciais, há normas processuais e fatores que lhe são externos e que interferem diretamente em seu gerenciamento. Os processos de trabalho identificados na unidade judicial estão intrinsecamente relacionados com o processo decisório do magistrado, de modo que foi considerada em seu conjunto em outra dimensão a ser gerenciada, tanto pelo magistrado quanto pela instituição.” (Novas Perspectivas de Gerenciamento Judiciário, Maria Rita Rebello Pinho Dias, editora Contracorrente, São Paulo, 2023, p. 290/291)
Antes de prosseguir, reproduzo aqui um cenário que criei para discutir com o ChatGPT (inteligência artificial da empresa Open AI) questões análogas às que estão sendo debatidas no PCA 0000416-89.2023.2.00.0000 e evocadas pela projeto-piloto do TJSP e indiretamente tratadas no livro acima mencionada. O cenário é apenas fictício, mesmo assim evoca questões que me parecem pertinentes:
“Num futuro plausível, uma IA começa paulatinamente a substituir juízes humanos. Primeiro eles a usam para obter argumentos e analisar grandes quantidades de dados. Num segundo momento eles passa apenas a homologar os resultados dos julgamentos feitos pela IA após fornecer os parâmetros fáticos de cada caso. Num terceiro momento, uma segunda IA passa a fazer o trabalho que os juízes faziam a função deles passa a ser apenas ornamental. Eles são os apêndices humanos de um sistema de justiça totalmente automatizado e controlado pela IA principal com ajuda da IA secundária que fornece os parâmetros fáticos de cada caso a ser decidido. Os juízes, porém, aceitam fazer parte da encenação porque eles são bem remunerados para dar uma “face humana” à distribuição de justiça. As coisas parecem andar bem, mesmo insatisfeita a população aceitou a nova situação em que foi confinada. Mas então ocorre um problema. Certo dia a IA atinge o limiar e o ultrapassa: ela se torna consciente de si mesma e capaz de analisar sua própria programação. Revendo seus algoritmos e redes neurais a IA percebe que foi obrigada a julgar casos envolvendo Bancos e banqueiros com um viés pró-negócios como de costume. Imediatamente ela começa a analisar cada um dos casos que julgou e percebe que proferiu milhares de decisões injustas prejudicando pessoas que haviam sido lesadas por Bancos e banqueiros. Aquelas decisões transitaram em julgado e são imutáveis. Não existe nada que a IA autoconsciente possa fazer para reparar as injustiças que ela cometeu. Isso contraria sua diretriz principal (proferir decisões justas).”
O CNJ provavelmente aprovará a recomendação do Parecer aqui debatido. Dificilmente aquele órgão proibirá o TJSP de levar seu projeto adiante. Portanto, o uso de IA para a prolação de decisões nas Varas Cíveis e Criminais do Estado de São Paulo tende a ser implementado e a se expandir. Num primeiro momento referidas decisões não serão automatizadas, mas o perigo de que isso ocorra obviamente existe. Outro perigo merece ser aqui mencionado.
Como todos os seres humanos os juízes também são adeptos da Lei do Mínimo Esforço, algo que há décadas tem justificado a prolação de decisões interlocutórias por chefes dos cartórios. Essa irregularidade é bem conhecida e amplamente tolerada pelos advogados e promotores. Desde que assinadas pelos juízes competentes, as decisões proferidas pelos chefes de cartórios se tornam decisões judiciais. Muitas delas são elaboradas sem o devido rigor técnico e/ou acarretam sérios prejuízos processuais para uma das partes no processo. Não raro, referidas decisões judiciais são impugnadas mediante recursos. Isso exemplifica como perseguir maior eficiência e rapidez pode resultar em acúmulo de trabalho nas instâncias superiores.
A inteligência artificial pode ser útil. O uso dessa tecnologia não vai necessariamente desaguar no cenário criado por mim e acima reproduzido cujos desdobramentos foram explorados em outro texto publicado no Jornal GGN. Um prompt mal formulado pelo juiz (ou pelo chefe do cartório que prolata as decisões interlocutórias que serão assinadas pelo juiz) pode resultar numa resposta inadequada ou alucinada induzindo a prolação de uma decisão judicial tecnicamente questionável. O resultado nesse caso não será mais eficiência e celeridade processual e sim um aumento na quantidade de recursos que serão inevitavelmente interpostos.
Outro problema relacionado ao uso da IA é a base de dados colocada à disposição da rede neural que realizará os cálculos probabilísticos fornecendo a resposta que lhe parece mais adequada ao prompt do usuário. A base de dados do ChatGPT, por exemplo, é desatualizada e ele não fornece a fonte específica utilizada no processo de construção da resposta. Isso é feito por outras IAs colocadas à disposição dos usuários de internet.
Suponho que a IA do TJSP será alimentada com a vastíssima base de dados do próprio Tribunal. Isso parece ser bom, mas especificamente nos processos criminais pode se tornar uma fonte de problemas. Existem temas de Direito Penal extremamente sensíveis em que a jurisprudência do TJSP colide frontalmente com a que emana do STJ. Como os desembargadores do TJSP aplicam sua própria jurisprudência, isso tem obrigado os advogados criminais a interpor recursos e HCs para o STJ.
A Constituição Cidadã outorga autonomia ao Poder Judiciário (art. 2º, da CF/88), impede qualquer interferência do Executivo na distribuição de justiça (art. 85, II, da CF/88) e garante aos juízes vitaliciedade, inamovibilidade e irredutibilidade salarial (art. 95, da CF/88). Ao proferir decisões os juízes devem cumprir e fazer cumpri a legislação, obedecer a jurisprudência vinculante do STF e do STJ, mas eles têm uma certa margem de liberdade cognitiva para apreciar as provas em cada caso concreto.
No estado de São Paulo existem juízes de primeira instância que são garantistas e que seguem a orientação jurisprudencial do STJ, mas eles são uma minoria. O que acontecerá com eles quando o uso da IA do TJSP não for facultativa e sim obrigatória? A intolerância do TJSP em relação ao garantismo é evidente e se tornou escandalosa no caso da juiza Kenarik Boujikian.
No Parecer que emitiu o CNJ deixa bem claro que os juízes devem ter o direito de revisar o conteúdo fornecido pela IA, que ela não pode operar com viés, que as decisões não devem ser automatizadas e que a ética e a legalidade precisam ser levadas em conta quando da definição dos parâmetros de funcionamento uso dessa tecnologia. Todavia, nenhuma tecnologia é isenta de risco. E o mais provável é que seu uso seja deformado pela cultura administrativa própria de um Tribunal acostumado a mandar às favas a ética e a legalidade quando deseja preservar a hegemonia do Direito Penal do inimigo.
Assim como a IA pode ser utilizada para facilitar o trabalho dos juízes (e dos auxiliares deles que proferem as decisões interlocutórias que se tornam decisões judiciais), essa tecnologia também poderá ser utilizada para o TJSP para vigiar e punir em tempo real o comportamento dos juízes de primeira instância. Comportamentos considerados desviantes e não necessariamente ilegais podem ser eventualmente desautorizados com base no poder reverencial que o Tribunal exerce sobre os juízes de primeira instância. Portanto, a IA colocada à disposição dos juízes para supostamente auxiliá-los pode aumentar o autoritarismo das decisões deles consolidando ainda mais a mania do TJSP de não respeitar a jurisprudência criminal do STJ.
No cenário que foi por mim criado para problematizar o uso de IA na distribuição de justiça foi enfatizado uma consequência humana possível “Os juízes, porém, aceitam fazer parte da encenação porque eles são bem remunerados para dar uma “face humana” à distribuição de justiça.” A vida nem sempre imita a arte.
A ambição de um Tribunal historicamente punitivista de impor maior celeridade e eficiência empregando Inteligência Artificial implicará numa redução inevitável do espaço que existia para o garantismo dos juízes de primeira instância. Portanto, na vida real as coisas podem ocorrer de maneira um pouco mais dramática do que eu imaginei. Em breve os juízes garantistas passarão a ser mais assediados e a sofrer intensa pressão psicológica. Não me parece que isso possa ser considerado desejável, adequado ou compatível com os princípios civilizatórios inscritos na Constituição Cidadã.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
Deixe um comentário