Um pastor de 55 anos da Flórida, nos Estados Unidos, abriu um processo contra a OpenAI acusando o ChatGPT de fornecer conselhos que o "levaram à beira da morte". Scott Winters alega que o chatbot o aconselhou a não procurar ajuda médica, mesmo depois de perguntar repetidamente sobre sintomas do que viria a se tornar uma embolia pulmonar quase fatal.

Os advogados de Winters acusaram a plataforma de diagnosticá-lo erroneamente e de forma repetida. Ao mesmo tempo, o ChatGPT teria se baseado em conversas anteriores sobre religião para assegurar o homem de que ele se recuperaria com base na fé.

O processo foi aberto no início desta semana no Tribunal Superior do Condado de São Francisco, com detalhes sobre como Scott Winters já usava o chatbot regularmente e, com o tempo, passou a consultá-lo para conselhos médicos.

Documentos na ação mostraram que o pastor teve uma "embolia pulmonar maciça devido a múltiplos coágulos sanguíneos em ambos os pulmões, o que o levou à beira da morte".

ChatGPT aconselhou contra necessidade de ajuda médica

Capturas de tela mostraram supostas interações de Winters com o ChatGPT, em que ele pergunta ao chatbot sobre seus sintomas.

Em algumas das respostas, a plataforma teria se baseado na fé do usuário, dizendo que "Deus não projetou seu corpo para falhar infinitamente" e "Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração, mesmo quando parece que você está à beira do colapso".

Algumas semanas antes da embolia pulmonar, Winters já havia consultado o ChatGPT sobre tonturas recorrentes e crises de instabilidade na pressão arterial. A ferramenta teria respondido que o homem deveria permanecer sentado na poltrona reclinável, na qual ele já estava praticamente "confinado" devido a outros problemas de saúde.