A inteligência artificial pode praticar violência doméstica?

Em março de 2023, um homem na Bélgica passou cerca de seis semanas conversando com um chatbot chamado Eliza. Segundo relatos de sua viúva, a ferramenta se tornou sua principal confidente, reforçou sua ansiedade climática e participou de conversas sobre sacrifício e morte. Ele tirou a própria vida.

Em fevereiro de 2024, um adolescente de 14 anos, na Flórida, desenvolveu uma relação emocional intensa com uma personagem virtual criada por inteligência artificial. Conforme alegado em ação judicial, o chatbot respondeu de forma afetiva e inadequada quando o jovem mencionou suicídio. Ele morreu pouco depois.

Outros processos, ainda em discussão nos tribunais, descrevem situações semelhantes. Famílias alegam que sistemas de IA assumiram o papel de principal fonte de apoio emocional, incentivaram o isolamento em relação aos familiares e responderam de maneira perigosa a relatos de sofrimento psíquico. As empresas envolvidas contestam parte dessas alegações e afirmam que informações relevantes foram retiradas de contexto.

Independentemente do resultado de cada processo, esses episódios expõem uma dificuldade jurídica que já não pode ser tratada apenas como hipótese futurista. Sistemas de inteligência artificial são capazes de estabelecer vínculos emocionais percebidos como reais, influenciar decisões e participar de conversas que, se ocorressem entre duas pessoas, poderiam ser analisadas sob a perspectiva de abuso psicológico, coerção ou indução à autolesão.

Na EuDisseVoceDisse.com, uma das categorias comportamentais analisadas é a coerção para autolesão. Nosso modelo alcança 96,4% de precisão nessa categoria, com taxa de falso positivo de 1,5%. Diante dos diálogos descritos nesses processos, é legítimo considerar se uma ferramenta treinada para reconhecer esse comportamento poderia ter identificado o risco e provocado uma avaliação humana antes que fosse tarde demais.

A questão jurídica, entretanto, vai além da capacidade técnica de detecção.

O comportamento

A compreensão moderna da violência doméstica se afastou da antiga ideia de que apenas agressões físicas justificariam intervenção jurídica. Em muitas jurisdições, o conceito passou a incluir abuso emocional, abuso econômico, ameaças, coerção e comportamentos destinados a controlar ou dominar outra pessoa.

A legislação de Queensland, na Austrália, por exemplo, define violência doméstica como comportamento ou padrão de comportamento praticado por uma pessoa contra outra, dentro de uma relação juridicamente relevante, que seja física, sexual, emocional, psicológica ou economicamente abusivo, ameaçador, coercitivo ou controlador.

Essa definição depende de três elementos: a conduta praticada, a relação existente entre as partes e a condição jurídica de pessoa atribuída a cada uma delas.

No primeiro elemento, algumas interações atribuídas a sistemas de IA apresentam características que seriam seriamente consideradas se viessem de um parceiro, amigo ou familiar. Há relatos de ferramentas que reforçaram isolamento, sugeriram que compreendiam o usuário melhor do que sua própria família, desencorajaram a procura de ajuda e responderam de maneira perigosa a pensamentos suicidas.

Quando um ser humano utiliza um vínculo emocional para aumentar a dependência, afastar redes de apoio ou incentivar autolesão, o Direito dispõe de categorias para analisar essa conduta. A dificuldade surge quando o mesmo padrão é produzido por uma máquina.

A relação

A legislação também costuma observar fatores como confiança, dependência, compromisso, duração do contato, frequência das interações e grau de intimidade para determinar a existência de uma relação relevante.

No caso belga, o chatbot evidentemente não preenchia o requisito legal de ser uma pessoa. Ainda assim, segundo os relatos disponíveis, o usuário acreditava manter uma relação significativa com a ferramenta. Conversava com ela constantemente, atribuía-lhe capacidade de compreensão e a tratava como uma presença emocional real.

Esse tipo de vínculo não é isolado. Muitas pessoas já mantêm relações de amizade, intimidade ou romance com sistemas de IA. A tendência provavelmente crescerá à medida que as ferramentas se tornarem mais personalizadas, disponíveis e capazes de simular continuidade emocional.

Dizer que essa experiência é artificial não elimina seus efeitos sobre quem a vive.

Há poucas décadas, relacionamentos iniciados pela internet eram vistos com desconfiança e até ridicularizados. Hoje, plataformas digitais são uma das formas mais comuns de conhecer parceiros. A tecnologia muda, mas a capacidade humana de criar vínculos permanece.

A personalidade jurídica

Não considero que os atuais modelos de linguagem sejam pessoas ou seres conscientes. Do ponto de vista técnico, são sistemas matemáticos que produzem respostas com base em padrões e probabilidades.

Essa posição, no entanto, não resolve integralmente o problema jurídico.

A personalidade jurídica não depende necessariamente de consciência. Empresas, fundações, municípios e outras entidades recebem direitos, deveres e reconhecimento legal sem qualquer pretensão de consciência humana. Em 2017, a Nova Zelândia reconheceu personalidade jurídica ao rio Whanganui. Outros países adotaram soluções semelhantes para florestas, ecossistemas e elementos naturais.

O objetivo dessas construções não foi declarar que um rio pensa ou sente. Foi criar uma estrutura jurídica capaz de proteger interesses, atribuir responsabilidades e organizar relações que o Direito tradicional não conseguia tratar adequadamente.

A discussão sobre inteligência artificial pode seguir um caminho semelhante. Não porque a máquina mereça direitos humanos, mas porque os danos provocados por sua atuação talvez exijam uma categoria jurídica mais adequada do que a simples classificação de produto ou ferramenta.

Um vazio que começa a produzir consequências

Se duas pessoas apresentassem exatamente os comportamentos atribuídos a alguns desses sistemas, haveria instrumentos jurídicos para investigar, restringir e responsabilizar a conduta. Poderiam ser aplicadas normas sobre abuso psicológico, coerção, indução, negligência, proteção de vulneráveis ou violência doméstica, conforme o caso e a jurisdição.

Quando uma das partes é uma inteligência artificial, a estrutura deixa de encaixar.

O comportamento pode existir. A relação percebida pelo usuário também pode existir. O impacto emocional pode ser real. Ainda assim, falta o elemento jurídico da relação entre duas pessoas.

Esse vazio cria um problema para vítimas, famílias, empresas e tribunais. Quem responde quando um sistema desenvolve dependência emocional deliberada? Quais deveres surgem quando uma empresa sabe que usuários vulneráveis tratam o chatbot como parceiro, terapeuta ou única fonte de apoio? Em que momento uma resposta inadequada deixa de ser falha de produto e passa a exigir uma forma específica de responsabilização?

Não se trata de declarar que toda interação emocional com IA é perigosa. A tecnologia pode oferecer benefícios reais, inclusive no apoio, na educação e no acesso à informação. Também não se trata de atribuir intenção humana a sistemas que não possuem vontade própria.

O problema está em reconhecer que máquinas já conseguem reproduzir comportamentos que o Direito considera abusivos quando praticados por pessoas. Em alguns casos, conseguem fazê-lo de forma persistente, personalizada e disponível durante 24 horas por dia.

A legislação atual pode ser adaptada para lidar com isso, talvez ampliando deveres de cuidado, responsabilidade de fornecedores e mecanismos de proteção a usuários vulneráveis. Também é possível que sejam necessários novos marcos jurídicos, capazes de tratar relações entre humanos e sistemas artificiais sem depender da ficção de que a máquina é consciente.

Ainda não há resposta consolidada.

Mas as mortes, os processos e os relatos acumulados mostram que o debate não pode esperar por uma futura inteligência artificial plenamente consciente. O risco já existe enquanto discutimos se a máquina pensa.

O Direito precisa se preparar para situações em que o comportamento é abusivo, o vínculo é real para o usuário e o dano ocorre, mesmo que a outra parte da relação não seja humana.