Uso de IA no Judiciário precisa sair das sombras, diz Bruno Zampier

O uso de inteligência artificial pelo Poder Judiciário já é uma realidade, mas precisa ocorrer de forma transparente e sob maior controle institucional. A avaliação foi apresentada por Bruno Zampier durante o Além do Direito, evento de dois anos da Lawletter.

Ao abordar o que chamou de Shadow AI, ou “IA nas sombras”, o autor e professor de Direito questionou quais ferramentas estão sendo utilizadas por magistrados e servidores, se pertencem aos próprios tribunais ou a contas pessoais e que tipo de informação processual é inserida nesses sistemas.

“Nós temos que sair das sombras. A IA tem que ganhar cada vez mais luz.”

Bruno Zampier, autor, palestrante e professor de Direito

Metade dos magistrados já utiliza IA, segundo dados apresentados

Durante a palestra, Zampier citou pesquisa do Conselho Nacional de Justiça segundo a qual 49,4% dos magistrados e 49,5% dos servidores consultados afirmaram utilizar ferramentas de inteligência artificial generativa para auxiliar no trabalho.

Ele também mencionou que 64% dos dois grupos teriam declarado utilizar IA para geração de textos.

A partir desses números, lançou uma provocação sobre um cenário em que uma peça produzida com inteligência artificial pode ser analisada por um profissional do Judiciário que também utiliza a tecnologia.

“Será que nós temos uma IA conversando com outra IA? Onde antes havia um humano conversando com outro humano?”

Bruno Zampier, autor, palestrante e professor de Direito

Contas pessoais e processos sigilosos

O ponto mais sensível levantado por Zampier foi a forma como essas ferramentas são acessadas.

Ele questionou se magistrados e servidores utilizam sistemas contratados oficialmente pelos tribunais ou contas próprias, gratuitas ou pagas.

Também levantou a hipótese de informações relacionadas a processos sob segredo de justiça serem inseridas nessas ferramentas.

Entre os exemplos, mencionou investigações criminais, processos envolvendo menores e questões sensíveis de Direito de Família.

Para Zampier, esse fenômeno configura uma forma de Shadow AI: a tecnologia está presente, mas sua utilização não é necessariamente visível para as partes.

“Quem é que está sentenciando?”

Ao tratar do problema, o professor lançou uma sequência de perguntas.

“Quem é que está sentenciando? É o juiz ou é o ChatGPT? É o ChatGPT na versão gratuita ou na versão paga?”, questionou.

Zampier também perguntou se advogados sabem quais prompts são utilizados pelos tribunais e se têm acesso às chamadas “promptecas”, bibliotecas de comandos que, segundo ele, vêm sendo desenvolvidas por algumas cortes.

A mesma preocupação foi estendida à polícia, ao Ministério Público, à Defensoria Pública e aos órgãos de controle.

Transparência como elemento do devido processo

Na avaliação apresentada, não é suficiente saber que a inteligência artificial está sendo utilizada.

Também seria necessário compreender qual ferramenta está envolvida, como funciona e quais comandos orientam seus resultados.

“O devido processo legal no âmbito da inteligência artificial ainda precisa caminhar e caminhar muito”

Bruno Zampier, autor, palestrante e professor de Direito

Para conferir a fala completa de Bruno no Evento Além do Direito, adquira a gravação completa do evento