Estado deve informar cidadão sobre uso de IA em decisões, defende Rafael Fassio

O cidadão deve saber quando uma decisão do Estado tiver como base a inteligência artificial, na avaliação de Rafael Fassio, procurador do Estado de São Paulo. Em entrevista à Lawletter durante a Fenalaw 2026, na capital paulista, ele defendeu essa transparência e abordou a possibilidade de revisão humana de decisões apoiadas pela tecnologia.

Para Fassio, a discussão sobre um eventual direito à revisão humana exige considerar também a organização dos recursos e dos processos administrativos. Na visão dele, a definição de como essa revisão funcionaria demandaria ajustes nesses procedimentos.

Transparência diante das caixas-pretas

Fassio afirmou que a administração pública ainda lida com ferramentas cujo funcionamento apresenta dificuldades de compreensão. Ele relacionou parte dessa opacidade à dependência brasileira de modelos e soluções desenvolvidos fora do país.

“A transparência nesse ponto, claro, é a nossa arma de defesa.”

Na avaliação do procurador, essa preocupação alcança tanto a relação do Estado com o cidadão quanto os contratos da administração com fornecedores de tecnologia. Ele defendeu que a governança contratual trate das responsabilidades envolvidas e estabeleça formas de lidar com a falta de visibilidade sobre as soluções utilizadas.

Usos na atividade consultiva e limites de conferência

Ao descrever aplicações da IA na advocacia pública, Fassio citou a revisão de contratos, a instrução de processos administrativos e a elaboração de documentos necessários à atuação da administração. Segundo ele, essas ferramentas podem ajudar a reduzir a carga burocrática.

O procurador também manifestou preocupação com a possibilidade de ampliar o uso da tecnologia além da capacidade dos agentes públicos de conferir o trabalho produzido. Para ele, os limites dessa utilização precisam ser examinados na prática, a partir dos casos concretos.

A entrevista integra a cobertura da Lawletter na Fenalaw 2026. Assista à conversa com Rafael Fassio abaixo.

Assista à entrevista com Rafael Fassio no Instagram.