Créditos da imagem: Magnific

O caso que entrou no radar

O advogado Henrique Borges (@jhenribc) chamou atenção, na plataforma X, para uma possível situação de prompt injection em um processo criminal no Superior Tribunal de Justiça.

O alerta é sensível porque não trata apenas de uma falha tecnológica isolada. O ponto levantado envolve o uso de inteligência artificial no ambiente judicial e o risco de comandos inseridos em documentos influenciarem a leitura, o resumo ou a análise feita por sistemas automatizados.

Em processos criminais, esse tipo de vulnerabilidade ganha outro peso. Uma falha de interpretação ou de filtragem não fica restrita ao campo técnico. Ela pode atingir temas como liberdade, prova, contraditório, segurança jurídica e validade da atuação judicial.

O que é prompt injection

A prompt injection acontece quando alguém insere comandos em um texto para tentar direcionar o comportamento de uma ferramenta de inteligência artificial.

Na prática, é como se um documento trouxesse uma ordem escondida para que o sistema ignore certas informações, destaque outras ou produza uma resposta enviesada. O problema é que, em um processo judicial, a IA pode estar sendo usada justamente para ajudar na triagem, organização, resumo ou leitura de peças.

Daí o risco: se o sistema obedecer ao comando indevido, a ferramenta deixa de auxiliar a análise e passa a interferir nela.

Por que o alerta preocupa

Segundo o relato feito por Henrique Borges, a falha poderia ter efeitos graves em processos criminais, inclusive em casos envolvendo acusações como estupro e tráfico.

O receio não está apenas na hipótese de manipulação. Está também na possibilidade de que a manipulação passe despercebida por quem usa a ferramenta.

Esse é o ponto mais delicado: quando a IA entrega um resumo ou uma sugestão com aparência de neutralidade, há o risco de o erro parecer confiável. E, no Judiciário, aparência de precisão não pode substituir conferência humana.

O histórico recente e o debate que fica

O episódio também dialoga com casos recentes em que comandos ocultos em petições foram apontados como tentativa de interferência em ferramentas de IA usadas no Judiciário.

Um dos exemplos citados no debate foi o de advogadas multadas em Parauapebas, no Pará, após tentarem enganar uma IA da Justiça com comandos escondidos em peças processuais.

A discussão, portanto, não é abstrata. Ela já saiu do campo da curiosidade tecnológica e entrou na rotina forense.

A repercussão nas redes misturou preocupação, espanto e até ironia sobre advogados precisarem entender também de tecnologia para identificar esse tipo de risco.

Mas o fundo da discussão é sério: quanto mais a IA entra no trabalho jurídico, maior precisa ser o cuidado com integridade, segurança e rastreabilidade.

A ferramenta pode acelerar tarefas, organizar documentos e apoiar análises. O problema começa quando ela é tratada como fonte autônoma de confiança, sem checagem, sem transparência e sem controle sobre o que recebeu como entrada.

O que o advogado deve guardar

O caso reforça uma lição prática: IA no processo não combina com piloto automático. Em matéria criminal, a revisão humana não é detalhe operacional. É uma camada de proteção contra erro, manipulação e leitura incompleta dos autos.

A tecnologia pode ser útil, mas precisa entrar no processo com filtros claros, registro do que foi analisado e responsabilidade de quem usa. Sem isso, a inovação vira vulnerabilidade – e a conta pode cair sobre garantias fundamentais.

A Lawletter busca decisões, teses e histórias jurídicas com potencial de repercussão no Direito brasileiro. Se você ou seu escritório acompanham um caso relevante que merece visibilidade, envie sua sugestão de pauta para a nossa redação pelo e-mail: pautas@lawletter.com.br.

---

Redação Lawletter