CNJ aprova protocolo para barrar manipulação de decisões judiciais por comandos ocultos de IA
Créditos da imagem: Rômulo Serpa/Agência CNJ
O Comitê Nacional de Inteligência Artificial no Judiciário, do Conselho Nacional de Justiça, aprovou nesta quarta-feira (27) protocolo para blindar os tribunais contra petições que contenham comandos ocultos de IA, prática conhecida como prompt injection. A manifestação técnica ainda será votada pelo plenário do CNJ em data a ser definida pelo presidente, ministro Edson Fachin.
O que é prompt injection e como tem sido usado
A prática consiste em inserir instruções escondidas em petições para induzir os sistemas de IA dos tribunais a favorecer determinada tese, ignorar argumentos relevantes ou distorcer resumos de processos. Os comandos podem estar em metadados de imagens anexadas ou escritos na cor branca, imperceptíveis a olho nu, mas legíveis pela IA se não houver supervisão adequada.
Casos já foram identificados no STJ, no TJ-SP e no TRT-8. Na 3ª Vara do Trabalho de Parauapebas (PA), um prompt oculto orientava a IA a contestar a petição contrária de forma superficial e a não impugnar documentos. O sistema Galileu, do TRT-8, detectou o conteúdo, emitiu alerta e bloqueou o processamento. O juiz multou as advogadas envolvidas em R$ 84 mil por atentado à dignidade da Justiça. Elas também foram suspensas pela OAB do Pará por 30 dias.
Em processos distribuídos nas regiões de São Paulo e Campinas, comandos ocultos instruíam a IA a deferir automaticamente pedidos de justiça gratuita e tutelas de urgência. Os advogados envolvidos estão sendo investigados nas esferas criminal e administrativa.
As medidas aprovadas
O protocolo orienta os tribunais a estabelecer filtro humano para checagem de documentos antes que sejam processados pela IA. Também prevê a criação de uma espécie de "caixa preta" para preservação dos dados fraudulentos, a fim de instruir investigações. Outra diretriz é impedir que a IA produza textos com aparência de decisão judicial, vedando expressões como "julgo procedente", "defiro o pedido" ou "condeno". O documento ainda recomenda protocolos de auditoria, testes de segurança e cursos de capacitação para magistrados e servidores.
O conselheiro Rodrigo Badaró, presidente do comitê, destacou que a IA é um "caminho sem volta" diante de um sistema com 75 milhões de processos, mas defendeu regulamentação ética e supervisão humana nas decisões.
Comentários (0)
Deixe seu comentário