'MANIPULAÇÃO'
Usuário processa OpenAI por conselho médico perigoso no ChatGPT
OpenAI defendeu que ChatGPT nunca deve ser usado para substituir médicos
Um pastor de 55 anos da Flórida, nos Estados Unidos, abriu um processo contra a OpenAI acusando o ChatGPT de fornecer conselhos que o "levaram à beira da morte". Scott Winters alega que o chatbot o aconselhou a não procurar ajuda médica, mesmo depois de perguntar repetidamente sobre sintomas do que viria a se tornar uma embolia pulmonar quase fatal.
Tudo em um só lugar.
Receba notícias da GazetaWeb no seu WhatsApp e fique por dentro de tudo!
Os advogados de Winters acusaram a plataforma de diagnosticá-lo erroneamente e de forma repetida. Ao mesmo tempo, o ChatGPT teria se baseado em conversas anteriores sobre religião para assegurar o homem de que ele se recuperaria com base na fé.
Leia também
O processo foi aberto no início desta semana no Tribunal Superior do Condado de São Francisco, com detalhes sobre como Scott Winters já usava o chatbot regularmente e, com o tempo, passou a consultá-lo para conselhos médicos.
Documentos na ação mostraram que o pastor teve uma "embolia pulmonar maciça devido a múltiplos coágulos sanguíneos em ambos os pulmões, o que o levou à beira da morte".
Prefeitura remove embarcações e objetos abandonados na orla da Pajuçara
Operação prende suspeito de tráfico de drogas em Arapiraca
Polícia inicia 6ª fase da Operação Cerco Fechado
Ação da Semsc remove embarcações e objetos abandonados na orla da Pajuçara
ChatGPT aconselhou contra necessidade de ajuda médica
Capturas de tela mostraram supostas interações de Winters com o ChatGPT, em que ele pergunta ao chatbot sobre seus sintomas.
Em algumas das respostas, a plataforma teria se baseado na fé do usuário, dizendo que "Deus não projetou seu corpo para falhar infinitamente" e "Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração, mesmo quando parece que você está à beira do colapso".
Algumas semanas antes da embolia pulmonar, Winters já havia consultado o ChatGPT sobre tonturas recorrentes e crises de instabilidade na pressão arterial. A ferramenta teria respondido que o homem deveria permanecer sentado na poltrona reclinável, na qual ele já estava praticamente "confinado" devido a outros problemas de saúde.
Os advogados do pastor acusam a "natureza bajuladora e o tom autoritário do ChatGPT, combinados com a manipulação da identidade religiosa de Scott" de causar dependência da ferramenta.
A acusação defende que essa combinação de fatores "prejudicou a capacidade de Scott de tomar decisões sensatas, isolou-o dos familiares que o incentivavam a procurar atendimento médico e o convenceu de que buscar ajuda médica era desnecessário e até potencialmente letal".
O processo pede indenização financeira e que o tribunal obrigue a OpenAI a implementar mudanças que protejam usuários.
OpenAI negou acusações
À CBS News, Drew Pusateri, porta-voz da OpenAI, afirmou que o ChatGPT não é um médico e "nunca deve ser usado como substituto para cuidados, diagnósticos ou tratamentos médicos".
Os termos de uso da plataforma incluem diretrizes nesse sentido. A desenvolvedora recomenda que usuários não devem usar a plataforma como "fonte única de verdade", incluindo em questões médicas.
