Os pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI. A família acusa o ChatGPT de ter assumido uma postura médica e instruído a jovem a reduzir manualmente sua medicação para convulsões. O planejamento da IA resultou na morte de Wan em fevereiro.
A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já retirada do ar.
A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Ela temia que seu remédio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego. Então, consultou o modelo GPT-4o e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.
O problema é que a ferramenta da OpenAI passou do ponto. A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas médicas. Inclusive, esse modelo solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, pois eles revelariam a ausência do fármaco no organismo.
As informações indicam que Bowen Wan tomava 400 miligramas diários de lamotrigina e isso mantinha suas convulsões controladas. Todavia, a inteligência artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.
Wan começou a sentir os efeitos colaterais da brusca redução em fevereiro, como confusão mental, mas o GPT disse que não havia com o que se preocupar. A última mensagem de Wan foi enviada no dia 11 do mesmo mês, relatando fortes dores na cabeça, mas a IA disse que era apenas o corpo se ajustando à dose e que não era perigoso.
Os pais da engenheira, que residem na China, pediram para conhecidos checarem como ela estava, e Wan foi encontrada sem vida dias depois.
IA se tornou amiga íntima
Uma análise realizada vasculhou as 270 mil mensagens trocadas entre a vítima e o agente de IA, revelando que a mulher encontrou no ChatGPT um tipo de amiga íntima e confiável. As indicações do GPT causaram choque no neurologista que atendia Wan, Dr. Nicholas Poolos, que classificou a recomendação da IA como “irracional”.
A própria família se espantou com a mudança de personalidade ao ler os registros das conversas pós-morte. “Ela não costumava ser assim. É como se ela estivesse sob um feitiço”, lamentou a mãe, Meiqin Xu.
Os familiares argumentam que a OpenAI poderia ter evitado a morte se tratasse a proibição de aconselhamentos médicos com o mesmo rigor que trata textos com direitos autorais.
Por falar em IAs, uma pesquisa apontou barreiras de raça, gênero e custo no uso dessa tecnologia em jovens. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
Com informações de TechCrunch.