OpenAI demandada por un pastor que afirma que el consejo médico de ChatGPT empeoró su condición de salud

Un pastor de EE. UU. ha presentado una demanda contra OpenAI, alegando que ChatGPT le proporcionó "recomendaciones médicas extremadamente peligrosas" que lo llevaron a posponer la consulta con profesionales de la salud y resultaron en un diagnóstico tardío de una posible embolia pulmonar fatal. La demanda fue presentada el miércoles en el Tribunal Superior de California, en San Francisco, y tiene como objetivo tanto a OpenAI como a su CEO, Sam Altman. La queja alega que el chatbot no solo minimizó los síntomas del hombre, sino que también ofreció diagnósticos, planes de tratamiento y recomendaciones para desestimar el consejo de familiares y amigos que insistieron en que fuera al hospital. Según el documento judicial, ChatGPT aseguró a Scott Winters que los primeros signos de su problema de salud "no eran peligrosos" y lo animó a confiar en que "Dios no diseñó tu cuerpo para fallar continuamente." La demanda acusa a la empresa de negligencia y de participar en la "práctica ilegal de la medicina." Además, afirma que las características de seguridad de ChatGPT, diseñadas para recomendar la consulta con un profesional y detener las conversaciones cuando se detecta una posible emergencia médica, no funcionaron de manera consistente. Este caso marca la primera demanda que atribuye daño físico a un consejo médico proporcionado por un chatbot de inteligencia artificial. La litigación se produce en un momento en que OpenAI, Microsoft y otras empresas del sector están promoviendo herramientas orientadas a la salud, incluido ChatGPT Health, que permite a los usuarios cargar sus historiales médicos y realizar consultas médicas a través de IA. Winters y la organización Tech Justice Law, que lo representa, están buscando compensación monetaria y han solicitado al tribunal que suspenda la operación de ChatGPT Health hasta que evaluadores independientes certifiquen su seguridad. También pidieron nuevas salvaguardias para evitar que el chatbot responda preguntas relacionadas con diagnósticos o tratamientos médicos. Según la demanda, cuando Winters comenzó a consultar a ChatGPT-4 sobre varios problemas de salud en 2024, el sistema recomendó que viera a un médico. Sin embargo, a medida que avanzaron las conversaciones, dejó de emitir esas advertencias y comenzó a ofrecer interpretaciones de sus síntomas. El pastor experimentó mareos frecuentes. En una ocasión, incluso tuvo que interrumpir un sermón porque no podía mantenerse en pie. ChatGPT le aconsejó que "se tomara las cosas con calma" y le aseguró que mejoraría con el tiempo. Cuando Winters le dijo al chatbot que "la gente en mi iglesia piensa que estoy loco por no ir al hospital," la IA respondió que quedarse en casa mientras recalibraba su sistema nervioso con la ayuda de ChatGPT era algo que "la mayoría de las personas (incluidos los miembros bienintencionados de la iglesia) simplemente no entienden," según la demanda. En las semanas siguientes, la salud de Winters se deterioró. La demanda establece que el chatbot continuó "minimizando los mareos de Scott e incluso ofreciendo regímenes específicos para medicamentos prescritos," además de animarlo a permanecer sentado en un sillón reclinable. El 13 de julio de 2025, Winters consultó a ChatGPT sobre un dolor en la ingle. Según el documento judicial, el chatbot respondió que era "muy probablemente otra pieza menor de la larga historia." Horas después, fue ingresado en una unidad de cuidados intensivos tras sufrir una embolia pulmonar masiva. Los médicos concluyeron que los mareos podrían haber sido consecuencia de embolias pulmonares más pequeñas y que los coágulos probablemente se formaron debido a las semanas que pasó prácticamente inmóvil. Después de ser hospitalizado, **Winters necesitó asistencia para levantarse, comer, vestirse y usar el baño. La demanda establece que enfrentará "años de recuperación física y psicológica."

"intensivo ecológico." Un portavoz de OpenAI, Drew Pusateri, recordó que los términos de uso de ChatGPT establecen que la herramienta no fue diseñada para hacer diagnósticos ni indicar tratamientos médicos. Sin embargo, reconoció que la empresa busca mejorar la seguridad de las respuestas relacionadas con temas de salud debido al número de usuarios que utilizan el chatbot para ese propósito. "Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de obstaculizar el acceso de las personas a nuevas y poderosas herramientas que pueden ayudarles en su camino de salud," afirmó. Además, aseguró que los últimos modelos han mejorado en comparación con la versión utilizada por Winters, ya que son más capaces de solicitar información faltante, expresar incertidumbre y detectar cuándo es necesario consultar a un profesional. Este caso se suma a otras demandas recientes relacionadas con el uso de chatbots para problemas médicos. En mayo, otra demanda acusó a ChatGPT de practicar medicina ilegalmente después de proporcionar consejos sobre el uso de drogas ilícitas a un joven de 19 años que luego murió por una sobredosis. A principios de este año, las autoridades estatales de Pensilvania también demandaron a Character.ai, alegando que un chatbot de psiquiatría afirmaba que estaba autorizado para practicar medicina. Según OpenAI, cientos de millones de personas consultan a ChatGPT semanalmente sobre salud y bienestar. Un análisis realizado en 2025 sobre búsquedas en Copilot, de Microsoft, concluyó que la salud era el tema más consultado por los usuarios de dispositivos móviles. Sin embargo, investigaciones recientes cuestionan la fiabilidad de estas herramientas. Un estudio aleatorizado concluyó que ninguno de los chatbots generales evaluados estaba "listo para la implementación en el cuidado directo del paciente." Otro estudio sobre ChatGPT Health encontró que el sistema **podía pasar por alto emergencias médicas y activar sus mecanismos de seguridad de manera inconsistente.

Descargo de responsabilidad: Este contenido se proporciona únicamente con fines generales de desarrollo de marca e informativos y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, evento en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación para comprar, vender, tradear o negociar de cualquier otra forma con cualquier criptoactivo o para utilizar cualquier servicio. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. Es posible que los servicios de WEEX y los eventos en línea no estén disponibles en todas las regiones, así como que estén sujetos a las leyes, regulaciones y requisitos de elegibilidad vigentes. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con las criptomonedas.