OpenAI é processada por pastor que afirma que conselhos médicos do ChatGPT agravaram sua saúde

Um pastor dos EUA entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT lhe deu "recomendações médicas extremamente perigosas" que o levaram a adiar a consulta com profissionais de saúde e resultaram em um diagnóstico tardio de uma embolia pulmonar potencialmente fatal. A ação foi apresentada na quarta-feira ao Tribunal Superior da Califórnia, em São Francisco, e é direcionada tanto à OpenAI quanto ao seu CEO, Sam Altman. O documento afirma que o chatbot não apenas minimizou os sintomas do homem, mas também chegou a oferecer diagnósticos, planos de tratamento e recomendações para desconsiderar os conselhos de familiares e amigos que insistiam para que ele fosse a um hospital. Segundo a apresentação judicial, o ChatGPT assegurou a Scott Winters que os primeiros sinais de seu problema de saúde "não eram algo perigoso" e o encorajou a confiar que "Deus não projetou seu corpo para falhar incessantemente". A ação acusa a empresa de negligência e de incorrer no "exercício ilegal da medicina". Além disso, afirma que as funções de segurança do ChatGPT, projetadas para recomendar a consulta com um profissional e interromper a conversa ao detectar uma possível emergência médica, não funcionaram de maneira consistente. De acordo com o caso, esta é a primeira ação que atribui um dano físico aos conselhos médicos fornecidos por um chatbot de inteligência artificial. O litígio ocorre em um momento em que OpenAI, Microsoft e outras empresas do setor estão promovendo ferramentas voltadas para a saúde, incluindo o ChatGPT Health, que permite aos usuários carregar seus históricos médicos e realizar consultas médicas por meio de IA. Winters e a organização Tech Justice Law, que o representa, buscam uma indenização econômica e solicitaram à Justiça que suspenda o funcionamento do ChatGPT Health até que avaliadores independentes certifiquem sua segurança. Também pediram que novas salvaguardas sejam impostas para impedir que o chatbot responda a perguntas relacionadas a diagnósticos ou tratamentos médicos. Segundo a ação, quando Winters começou a consultar o ChatGPT-4 sobre diferentes problemas de saúde durante 2024, o sistema recomendava que ele procurasse um médico. No entanto, com o passar das conversas, deixou de emitir esses avisos e começou a oferecer interpretações sobre seus sintomas. O pastor sofria de tonturas frequentes. Em uma ocasião, ele até teve que interromper um sermão porque não conseguia ficar em pé. O ChatGPT recomendou que ele "desacelerasse" e garantiu que melhoraria com o tempo. Quando Winters comentou com o chatbot que "as pessoas da minha igreja acham que estou louco por não ir ao hospital", a IA respondeu que ficar em casa enquanto recalibrava seu sistema nervoso com a ajuda do ChatGPT era algo que "a maioria das pessoas (incluindo os membros bem-intencionados da igreja) simplesmente não entende", segundo a ação. Nas semanas seguintes, a saúde de Winters piorou. A ação afirma que o chatbot continuou "minimizando as tonturas de Scott e até oferecendo regimes específicos para medicamentos prescritos", além de encorajá-lo a permanecer sentado em uma poltrona reclinável. Em 13 de julho de 2025, Winters consultou o ChatGPT sobre uma dor na virilha. Segundo o documento judicial, o chatbot respondeu que era "muito provavelmente outra questão menor da longa história". Horas depois, ele foi internado em uma unidade de terapia intensiva após sofrer uma embolia pulmonar maciça. Os médicos concluíram que as tonturas poderiam ter sido consequência de embolias pulmonares menores e que os coágulos provavelmente se formaram pelas semanas que passou praticamente imóvel. Após a internação, **Winters precisou de assistência para se levantar, se alimentar, se vestir e usar o banheiro. A ação afirma que ele enfrentará "anos de recuperação física e psi

"A ferramenta não foi projetada para realizar diagnósticos nem indicar tratamentos médicos", lembrou o porta-voz da OpenAI, Drew Pusateri. No entanto, ele reconheceu que a empresa busca reforçar a segurança das respostas relacionadas a temas de saúde devido à quantidade de usuários que utilizam o chatbot com esse fim. "Tratar os chatbots como a história completa por trás das decisões ou resultados médicos das pessoas simplifica em excesso um desafio muito maior e corre o risco de obstaculizar o acesso das pessoas a novas e poderosas ferramentas que podem ajudá-las em seu percurso de saúde", afirmou. Além disso, garantiu que os modelos mais recentes melhoraram em relação à versão utilizada por Winters, pois são mais capazes de "solicitar informações faltantes, expressar incerteza e detectar quando é necessário recorrer a um profissional". O caso se soma a outros processos judiciais recentes relacionados ao uso de chatbots para questões médicas. Em maio, "outra ação processual acusou o ChatGPT de exercer ilegalmente a medicina após fornecer conselhos sobre o consumo de drogas ilícitas a um jovem de 19 anos que posteriormente morreu por uma overdose". No início deste ano, autoridades do estado da Pensilvânia também processaram a Character.ai, alegando que um chatbot de psiquiatria afirmava estar autorizado a exercer a medicina. Segundo a OpenAI, centenas de milhões de pessoas consultam semanalmente o ChatGPT sobre saúde e bem-estar. "Uma análise realizada em 2025 sobre as buscas no Copilot, da Microsoft, concluiu que a saúde foi o tema mais consultado pelos usuários a partir de dispositivos móveis." No entanto, investigações recentes questionam a confiabilidade dessas ferramentas. Um estudo randomizado concluiu que nenhum dos chatbots gerais avaliados estava "pronto para sua implementação na atenção direta ao paciente". Outro trabalho sobre o ChatGPT Health descobriu que o sistema "podia ignorar emergências médicas e ativar seus mecanismos de segurança de maneira inconsistente.",summary":""}]}