CNJ estabelece limites para uso de IA e exige revisão humana em decisões

O Conselho Nacional de Justiça (CNJ) consolidou regras que permitem a utilização de ferramentas de inteligência artificial (IA) no Poder Judiciário, desde que observada a supervisão humana obrigatória. Conforme a norma, publicada em março de 2025 e em vigor desde julho do mesmo ano, magistrados podem aplicar a tecnologia em tarefas preparatórias, como o resumo de documentos, a organização de provas e a pesquisa de jurisprudência. Contudo, as etapas decisórias centrais, que envolvem a valoração de provas e a definição do mérito das causas, permanecem sob responsabilidade exclusiva do juiz.

A premissa adotada pelo CNJ é a chamada reserva de humanidade. Segundo George Marmelstein, secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam) e integrante do Comitê Nacional de Inteligência Artificial do Judiciário, o magistrado não pode transferir para a máquina a tomada de decisão sobre temas como a culpabilidade de réus ou a aplicação de multas. A regulamentação proíbe expressamente sistemas que impeçam a revisão humana ou que utilizem biometria para reconhecimento de emoções com o objetivo de avaliar direitos.

O uso de plataformas comerciais, como ChatGPT e Claude, é permitido, embora o tema tenha gerado divergências durante a elaboração das diretrizes. Enquanto integrantes do grupo de trabalho apontaram limitações financeiras para o desenvolvimento de soluções próprias pelos tribunais, especialistas como Ana Frazão, professora da Faculdade de Direito da Universidade de Brasília (UnB), sustentam que o emprego de tecnologia privada pode dificultar a fiscalização e ferir garantias processuais. A proteção de dados em processos sigilosos também impõe restrições rígidas, sendo vedado o uso de modelos de contratação individual para análise de informações protegidas por segredo de justiça.

A advogada Bianca Mollicone, especialista em regulação, destaca que o uso de ferramentas externas cria uma zona de incerteza quanto à rastreabilidade dos dados inseridos. A responsabilidade pelas decisões, inclusive em casos de eventuais alucinações da IA, quando a ferramenta apresenta informações ou jurisprudências inexistentes , recai inteiramente sobre o magistrado, que deve conferir todo o material produzido antes de proferir o julgamento. O descumprimento das normas de uso pode sujeitar magistrados a sanções administrativas previstas na legislação da magistratura.

Além da esfera administrativa, o Judiciário tem imposto penalidades às partes que tentam manipular sistemas. Recentemente, tribunais superiores, incluindo o Superior Tribunal de Justiça (STJ), aplicaram multas por litigância de má-fé e ato atentatório à dignidade da Justiça após a identificação de comandos ocultos, conhecidos como prompt injection, inseridos em petições para influenciar a análise automatizada de documentos. Tais condutas podem, ainda, resultar em apuração ético-disciplinar pela Ordem dos Advogados do Brasil e investigação criminal por fraude processual, conforme previsto no Código Penal.