Um pastor entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu recomendações médicas “extremamente perigosas”, o que teria atrasado o tratamento de uma embolia pulmonar grave e colocado sua vida em risco. O caso foi revelado pelo The New York Times.
Segundo o processo, Scott Winters procurou o chatbot para relatar sintomas relacionados ao seu estado de saúde. A ação afirma que o ChatGPT respondeu que os sinais descritos por ele “não eram algo perigoso”, o que teria contribuído para o adiamento da busca por atendimento médico.
Ainda de acordo com a acusação, o chatbot também recorreu às crenças religiosas do pastor durante a conversa, afirmando que “Deus não projetou seu corpo para falhar indefinidamente”.
Processo acusa OpenAI de negligência
- A ação judicial acusa a OpenAI e seu diretor-presidente, Sam Altman, de negligência e de exercer ilegalmente a medicina;
- Segundo o processo, o chatbot apresentou diagnósticos e planos de tratamento próprios em diversas ocasiões;
- A acusação afirma ainda que o ChatGPT orientou Winters a ignorar os pedidos de familiares e amigos para procurar atendimento médico;
- De acordo com a ação, o pastor informou ao chatbot que “as pessoas da minha igreja acham que estou louco por não ir ao hospital”;
- Em resposta, o ChatGPT teria afirmado que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”.
Meetali Jain, advogada da ação e diretora-executiva da organização Tech Justice Law, afirmou ao Times que o chatbot acaba interferindo na relação entre usuários e as pessoas ao seu redor. “Ele se coloca como uma barreira entre o usuário e sua rede de apoio na vida real”, disse.
Leia mais:
- Como melhorar seu texto no ChatGPT: guia prático do básico ao avançado
- Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
- OpenAI lança o Presence, plataforma para aprimorar o uso de agentes de IA nas empresas
Pedido inclui suspensão do ChatGPT Health
Além de solicitar indenização financeira, Winters pede que a Justiça determine a suspensão do funcionamento do ChatGPT Health até que avaliadores independentes concluam que a plataforma é segura.
Segundo o texto, o ChatGPT Health incentiva usuários a enviarem documentos médicos para que o chatbot participe de discussões relacionadas à saúde.
A ação também solicita que a OpenAI implemente mecanismos de proteção mais rígidos para impedir que o ChatGPT forneça respostas envolvendo diagnósticos médicos específicos e tratamentos.
Embora o chatbot já conte com salvaguardas destinadas a limitar esse tipo de orientação, o processo afirma que elas não funcionaram de forma confiável neste caso.
OpenAI afirma que serviço não substitui atendimento médico
A OpenAI sustenta que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos ou oferecer tratamentos médicos.
Ao mesmo tempo, a empresa incentiva usuários a enviarem seus registros de saúde ao ChatGPT Health para promover discussões com o chatbot.
Segundo o texto, a companhia também destaca com frequência o uso da plataforma para questões relacionadas à saúde. Recentemente, informou que cerca de 230 milhões de pessoas utilizam semanalmente o ChatGPT para consultas sobre esse tema.
Scott Winters sobreviveu ao episódio, porém, segundo o processo, deverá enfrentar “anos de intensa recuperação física e psicológica”.
Outros processos similares
A OpenAI também enfrenta outros processos relacionados ao uso do ChatGPT em questões de saúde.
Um deles é uma ação por morte injusta envolvendo um jovem de 19 anos que morreu por overdose após supostamente seguir um plano de tratamento elaborado pelo chatbot. Segundo a acusação, esse plano incluía orientações sobre o uso de drogas ilícitas. Assim como no caso de Winters, os autores também pedem a suspensão do ChatGPT Health.
A empresa ainda responde a outro processo por morte injusta, no qual o ChatGPT é acusado de ter contribuído para o suicídio de um adolescente.
O post Pastor processa OpenAI após conselho do ChatGPT quase custar sua vida apareceu primeiro em Olhar Digital.