A IA jurídica pode ser inteligente e, ao mesmo tempo, segura?

A inteligência artificial já deixou de ser uma promessa distante para ocupar espaço na rotina de advogados e escritórios. Ferramentas capazes de analisar documentos, pesquisar informações e apoiar a elaboração de peças oferecem ganhos importantes de produtividade. Ao mesmo tempo, porém, ampliam uma discussão que começa a ganhar força no mercado jurídico: até que ponto é possível tornar a IA mais inteligente sem comprometer a segurança?

Para Daniel Bichuetti e Vinícius Espíndula Brasileiro, da Forlex, a resposta passa por enxergar segurança de forma mais ampla. Não se trata apenas de proteger sistemas contra invasões, mas de observar a confiabilidade das informações produzidas, a forma como os dados são tratados e os riscos associados ao próprio funcionamento dos modelos.

“Quando as pessoas falam em segurança, normalmente pensam em invasão ou em uma IA cometendo um ato errado. Do ponto de vista jurídico, além de observar os riscos explorados por técnicas como prompt injection e jailbreak, também precisamos considerar a segurança jurídica”

Daniel Bichuetti

Quando o risco está escondido em um documento

Entre as ameaças que começam a chamar atenção estão técnicas como prompt injection, capazes de inserir comandos destinados a alterar o comportamento de uma inteligência artificial.

O risco pode estar, inclusive, em documentos aparentemente comuns.

Bichuetti explica que arquivos em PDF ou Word podem carregar instruções escondidas em textos, metadados ou imagens. Quando esses materiais são inseridos em uma ferramenta de IA, os comandos podem ser interpretados pelo sistema sem que o usuário perceba.

A preocupação se torna ainda maior quando a ferramenta possui conexão com Gmail, Google Drive, Slack ou outros serviços.

O especialista relata que, durante o acompanhamento de materiais distribuídos em grupos on-line, foi identificado um livro com mais de 400 páginas que continha, entre referências jurisprudenciais, uma instrução direcionada à inteligência artificial. O comando buscava fazer com que arquivos do usuário fossem enviados para um endereço externo de e-mail.

“Esse é um risco subestimado. Documentos obtidos on-line precisam ser tratados com muito cuidado”, afirma.

Para o advogado, o maior perigo pode estar justamente nas ações que acontecem fora da percepção do profissional. Uma resposta equivocada pode ser identificada durante uma revisão. Um acesso indevido a informações confidenciais, por outro lado, pode ocorrer sem produzir qualquer sinal evidente.

Supervisão humana continua indispensável

Outro problema conhecido está nas chamadas alucinações, situações em que modelos de inteligência artificial apresentam como verdadeiras informações que não existem, incluindo legislações ou jurisprudências.

Vinícius Espíndula destaca que esse risco reforça a necessidade de qualificação de quem utiliza a tecnologia:

“Quando bem utilizada por um profissional devidamente instruído, a IA se torna uma ferramenta extremamente poderosa para auxiliar clientes e instituições, tornando o trabalho mais célere e confiável”

Vinícius Espíndulo

Na avaliação dos especialistas, a inteligência artificial não elimina a responsabilidade de quem assina, utiliza ou incorpora determinada informação ao trabalho jurídico.

Para Bichuetti, a supervisão precisa ser tratada como parte central do uso profissional dessas ferramentas:

“O princípio da supervisão precisa ser respeitado, sobretudo nas profissões ligadas ao Direito.”

Daniel Bichuetti

A consequência de uma falha, afinal, pode ultrapassar o próprio advogado. Uma informação falsa inserida em uma peça ou utilizada para fundamentar determinada estratégia pode chegar ao Judiciário e influenciar decisões que atingem diretamente terceiros.

“Se a informação chega contaminada, o magistrado não tem condições de tomar uma decisão justa”, observa.

Segurança começa pela governança dos dados

Antes mesmo de analisar mecanismos específicos de proteção, Bichuetti defende que advogados e escritórios façam uma pergunta anterior: o que acontece com os dados inseridos em uma plataforma de inteligência artificial?

Isso envolve descobrir se as informações são armazenadas, utilizadas para treinamento, enviadas para outros países ou processadas por empresas terceiras.

Uma plataforma jurídica, por exemplo, pode utilizar modelos de outras companhias por meio de APIs. Nesse cenário, informações fornecidas pelo advogado podem percorrer diferentes ambientes tecnológicos antes que a resposta final seja entregue.

“Em qualquer parte do mundo, o cidadão deveria parar antes de utilizar uma IA e perguntar: para quem a plataforma envia meus dados? Como os envia? Quem os subprocessa? Qual legislação se aplica?”

Daniel Bichuetti

No mercado jurídico, essa análise ganha peso adicional porque os dados podem envolver clientes, estratégias processuais, documentos confidenciais e informações protegidas pelo dever profissional de sigilo.

Por isso, a escolha de uma ferramenta não deveria considerar somente velocidade, funcionalidades ou facilidade de uso. Termos de serviço, políticas de privacidade, tratamento internacional de dados e controles internos também passam a fazer parte da decisão.

Regulação deve avançar sem impedir inovação

À medida que a inteligência artificial assume funções cada vez mais relevantes, também cresce o debate sobre quem deve responder pelos riscos associados a essas tecnologias.

Bichuetti defende a existência de regulação estatal, mas considera que ela deve ser construída em conjunto com o mercado, sem criar obstáculos capazes de inviabilizar novos participantes.

“Não é necessário estagnar o desenvolvimento, mas é preciso fiscalizar irregularidades e punir as empresas responsáveis”, afirma.

Vinícius também considera que a criação de regras não deve ser interpretada como tentativa de controlar internamente as empresas.

“A ideia da regulação não é colocar um cabresto nem controlar internamente as empresas, mas frear eventuais abusos.”

Vinícius Espíndulo

Para Bichuetti, o debate no setor jurídico também deveria envolver a OAB, especialmente na definição de parâmetros para legaltechs que desenvolvem ou disponibilizam ferramentas baseadas em inteligência artificial.

O desafio será encontrar um equilíbrio que permita aproveitar os ganhos de produtividade sem transferir à máquina funções que dependem de julgamento, responsabilidade e sensibilidade humana.

“A OAB não deve estagnar a tecnologia, pois isso seria impossível”, afirma Bichuetti. “Contudo, não podemos permitir que, aos poucos, a máquina se torne o advogado do futuro.”

A inteligência artificial pode reduzir tarefas operacionais e devolver tempo aos profissionais. Mas, no Direito, sua evolução dificilmente poderá ser medida apenas pela velocidade ou pela capacidade de produzir respostas.

Quanto mais essas ferramentas avançarem, maior deverá ser a atenção sobre aquilo que acontece por trás delas — e sobre o papel de quem continua responsável por decidir se uma informação pode, ou não, ser considerada confiável.