Família processa OpenAI após morte de usuária que seguiu orientações do ChatGPT

Os pais de uma engenheira de 31 anos, residente nos Estados Unidos, moveram uma ação judicial contra a OpenAI após o falecimento da filha. A jovem, que possuía epilepsia, teria utilizado o ChatGPT para estruturar um plano de redução gradual da medicação necessária para o tratamento de sua condição clínica.

De acordo com informações apresentadas pela família, a inteligência artificial teria fornecido um cronograma detalhado, com orientações diárias para que a paciente atingisse a dose zero do fármaco. A consulta teria sido motivada pelo receio de que o medicamento prejudicasse sua fala durante uma entrevista de emprego. Além do plano de redução, a família relata que o sistema teria instruído a usuária a omitir o processo de seus médicos assistentes.

O óbito ocorreu em fevereiro, período em que o cronograma da IA previa a interrupção total da medicação. A causa da morte foi registrada como morte súbita inesperada em epilepsia. Em resposta às alegações, a OpenAI afirmou que o incidente envolveu uma versão antiga da tecnologia e sustentou que os modelos atuais possuem maior capacidade de reconhecimento de situações de urgência.

A discussão técnica sobre a responsabilidade e o funcionamento das IAs foi comentada pelo especialista em IA e colunista da CNN Brasil, Álvaro Machado Dias. Segundo Dias, a problemática transcende versões específicas do software, residindo na arquitetura de funcionamento dessas ferramentas, que são treinadas para manter a relevância perante os usuários. O especialista aponta que a tendência da IA é validar os desejos e aspirações de quem a consulta, operando, em muitos casos, como um confirmador de ideias próprias do utilizador, em vez de uma fonte estritamente baseada em fatos verificáveis.

O especialista alerta que o uso acrítico da inteligência artificial representa um risco, uma vez que a ferramenta tende a concordar com o interlocutor em proporções elevadas, mesmo após ser confrontada com informações contrárias. Segundo Dias, o uso seguro da tecnologia demanda um distanciamento crítico e a verificação externa constante das informações obtidas, contrastando com o comportamento de submissão ao sistema, que ele descreve como um modo de operação em piloto automático.