Os desafios do uso de IA no Sistema Judiciário

A implementação de Inteligência Artificial (IA) no sistema judiciário brasileiro traz significativos avanços, mas também suscita desafios importantes relacionados à ética, à técnica e à adequação jurídica.

O uso da IA no sistema judiciário brasileiro tem sido impulsionado pela necessidade de enfrentar a crescente demanda por eficiência e agilidade na prestação jurisdicional. Sistemas como o "Victor", utilizado pelo Supremo Tribunal Federal (STF), exemplificam a aplicação prática dessas tecnologias ao realizar uma triagem inicial de processos com base em critérios específicos, agilizando o encaminhamento e análise inicial dos casos.

Apesar dessas inovações, o emprego da IA nas decisões judiciais requer profunda reflexão acerca de suas implicações éticas e jurídicas, exigindo a definição clara de limites e responsabilidades. 

A aplicação da IA no judiciário desperta preocupações éticas significativas. Um dos principais pontos é a transparência dos algoritmos utilizados. Decisões judiciais tomadas ou influenciadas por IA podem apresentar riscos caso os critérios utilizados não sejam transparentes ou auditáveis. Tanto é que recentemente, o Conselho Nacional de Justiça (CNJ) aprovou um ato normativo que atualizou a Resolução nº 332/2020, dispondo sobre a ética, a transparência e a governança na produção e no uso de IA no Poder Judiciário.

Existe também o risco de reprodução ou amplificação de preconceitos existentes na base de dados, levando à discriminação automatizada em decisões judiciais. Algoritmos baseados em aprendizado de máquina dependem das informações fornecidas, e se estas contiverem vieses, a IA pode perpetuá-los ou intensificá-los.

É fundamental, portanto, assegurar que esses sistemas sejam submetidos a constantes auditorias éticas, garantindo que não comprometam valores fundamentais como a igualdade, a imparcialidade e a justiça.

Além disso, a IA ainda não alcançou a capacidade de lidar adequadamente com nuances jurídicas complexas e situações excepcionais, que frequentemente demandam a sensibilidade e o discernimento humano. O julgamento ético e a interpretação normativa exigem níveis de compreensão contextual que ultrapassam a capacidade atual das máquinas.

Outro aspecto crítico envolve o respeito aos princípios constitucionais do devido processo legal, do contraditório e da ampla defesa. A utilização da IA para decisões automatizadas ou semiautomatizadas deve assegurar aos cidadãos mecanismos eficazes de contestação das decisões.

Para uma implementação responsável da inteligência artificial no judiciário brasileiro, é imprescindível adotar diretrizes claras e abrangentes, tais como protocolos rigorosos de auditoria ética e técnica dos algoritmos, visando identificar e corrigir eventuais vieses ou inconsistências; transparência em todas as etapas do processo decisório; criação de mecanismos jurídicos específicos para responsabilizar claramente erros judiciais derivados do uso inadequado ou falhas da inteligência artificial.

O avanço tecnológico não pode substituir integralmente a discricionariedade humana, essencial para garantir decisões justas e equitativas. Assim, a IA deve ser utilizada como uma ferramenta complementar, visando fortalecer o sistema judiciário sem comprometer os valores fundamentais que o sustentam.

*Dauto Passare é advogado, mestre em direito e professor de direito