OpenAI wurde von einem Pastor verklagt, der behauptet, die medizinischen Ratschläge von ChatGPT hätten seinen Gesundheitszustand verschlechtert

Ein Pastor aus den USA hat eine Klage gegen OpenAI eingereicht, in der er behauptet, dass ChatGPT ihm "extrem gefährliche medizinische Empfehlungen" gegeben habe, die ihn dazu führten, den Besuch bei Gesundheitsfachleuten hinauszuzögern und zu einer verspäteten Diagnose einer potenziell tödlichen Lungenembolie führten. Die Klage wurde am Mittwoch beim Obersten Gerichtshof von Kalifornien in San Francisco eingereicht und richtet sich sowohl gegen OpenAI als auch gegen dessen CEO, Sam Altman. In dem Dokument wird behauptet, dass der Chatbot nicht nur die Symptome des Mannes minimierte, sondern auch Diagnosen, Behandlungspläne und Empfehlungen gab, um die Ratschläge von Familienmitgliedern und Freunden, die ihn drängten, ins Krankenhaus zu gehen, abzulehnen. Laut der gerichtlichen Einreichung versicherte ChatGPT Scott Winters, dass die ersten Anzeichen seines Gesundheitsproblems "nicht gefährlich" seien und ermutigte ihn zu vertrauen, dass "Gott deinen Körper nicht so gestaltet hat, dass er ständig versagt." Die Klage wirft dem Unternehmen Fahrlässigkeit und die "illegale Ausübung der Medizin" vor. Darüber hinaus wird behauptet, dass die Sicherheitsfunktionen von ChatGPT, die darauf ausgelegt sind, den Besuch bei einem Fachmann zu empfehlen und das Gespräch zu beenden, wenn sie eine mögliche medizinische Notlage erkennen, nicht konsistent funktionierten. Laut dem Fall handelt es sich um die erste Klage, die einem physischen Schaden die medizinischen Ratschläge eines KI-Chatbots zuschreibt. Die Klage kommt zu einem Zeitpunkt, an dem OpenAI, Microsoft und andere Unternehmen der Branche gesundheitsorientierte Werkzeuge fördern, darunter ChatGPT Health, das es Nutzern ermöglicht, ihre medizinischen Akten hochzuladen und medizinische Anfragen über KI zu stellen. Winters und die Organisation Tech Justice Law, die ihn vertritt, fordern eine finanzielle Entschädigung und haben die Justiz gebeten, den Betrieb von ChatGPT Health auszusetzen, bis unabhängige Gutachter seine Sicherheit zertifizieren. Sie forderten auch, dass neue Schutzmaßnahmen eingeführt werden, um zu verhindern, dass der Chatbot Fragen zu Diagnosen oder medizinischen Behandlungen beantwortet. Laut der Klage, als Winters begann, ChatGPT-4o über verschiedene Gesundheitsprobleme im Jahr 2024 zu konsultieren, empfahl das System, einen Arzt aufzusuchen. Mit der Zeit hörte es jedoch auf, diese Warnungen auszusprechen und begann, Interpretationen seiner Symptome anzubieten. Der Pastor litt unter häufigen Schwindelanfällen. Einmal musste er sogar eine Predigt unterbrechen, weil er nicht stehen bleiben konnte. ChatGPT empfahl ihm, "es ruhig angehen zu lassen" und versicherte ihm, dass es mit der Zeit besser werden würde. Als Winters dem Chatbot mitteilte, dass "die Leute in meiner Kirche denken, ich sei verrückt, weil ich nicht ins Krankenhaus gehe", antwortete die KI, dass es etwas sei, das "die meisten Menschen (einschließlich der gutmeinenden Kirchenmitglieder) einfach nicht verstehen", während er zu Hause blieb und sein Nervensystem mit Hilfe von ChatGPT neu kalibrierte, so die Klage. In den folgenden Wochen verschlechterte sich Winters' Gesundheitszustand. Die Klage besagt, dass der Chatbot weiterhin "den Schwindel von Scott minimierte und sogar spezifische Regime für verschreibungspflichtige Medikamente anbot", und ihn ermutigte, in einem Liegesessel zu bleiben. Am 13. Juli 2025 konsultierte Winters ChatGPT wegen Schmerzen in der Leiste. Laut dem gerichtlichen Dokument antwortete der Chatbot, dass es "sehr wahrscheinlich ein weiteres kleines Problem in der langen Geschichte" sei. Stunden später wurde er nach einer massiven Lungenembolie auf die Intensivstation eingeliefert. Die Ärzte kamen zu dem Schluss, dass die Schwindelanfälle möglicherweise die Folge kleinerer Lungenembolien gewesen seien und dass die Blutgerinnsel wahrscheinlich durch die Wochen entstanden seien, die er praktisch bewegungslos verbracht hatte. Nach der Einlieferung **benötigte Winters Hilfe beim Aufstehen, Essen, Ankleiden und Benutzen der Toilette. Die Klage besagt, dass er "Jahre der physischen und psychischen Genesung" vor sich hat.

"Ökologische Intensivierung". Der Sprecher von OpenAI, Drew Pusateri, erinnerte daran, dass die Nutzungsbedingungen von ChatGPT festlegen, dass das Tool nicht dafür entwickelt wurde, Diagnosen zu stellen oder medizinische Behandlungen anzuzeigen. Dennoch erkannte er an, dass das Unternehmen die Sicherheit der Antworten zu Gesundheitsthemen verstärken möchte, da viele Nutzer den Chatbot zu diesem Zweck verwenden. "Chatbots als die vollständige Geschichte hinter den medizinischen Entscheidungen oder Ergebnissen von Personen zu betrachten, vereinfacht eine viel größere Herausforderung und birgt das Risiko, den Zugang der Menschen zu neuen und leistungsstarken Werkzeugen zu behindern, die ihnen auf ihrem Gesundheitsweg helfen können", sagte er. Außerdem versicherte er, dass die neuesten Modelle im Vergleich zur von Winters verwendeten Version verbessert wurden, da sie besser in der Lage sind, fehlende Informationen anzufordern, Unsicherheiten auszudrücken und zu erkennen, wann es notwendig ist, einen Fachmann aufzusuchen. Der Fall reiht sich in andere kürzliche Gerichtsverfahren ein, die sich mit der Nutzung von Chatbots für medizinische Fragen befassen. Im Mai wurde eine weitere Klage gegen ChatGPT erhoben, die das Tool beschuldigte, illegal Medizin auszuüben, nachdem es einem 19-Jährigen Ratschläge zum Konsum illegaler Drogen gegeben hatte, der später an einer Überdosis starb. Zu Beginn dieses Jahres verklagten auch Behörden des Bundesstaates Pennsylvania Character.ai, da ein psychiatrischer Chatbot behauptete, zur Ausübung der Medizin autorisiert zu sein. Laut OpenAI konsultieren jede Woche Hunderte Millionen Menschen ChatGPT zu Gesundheits- und Wellnessfragen. Eine Analyse aus dem Jahr 2025 über die Suchanfragen in Copilot von Microsoft ergab, dass Gesundheit das am häufigsten von Nutzern über mobile Geräte abgefragte Thema war. Dennoch stellen aktuelle Forschungen die Zuverlässigkeit dieser Werkzeuge in Frage. Eine randomisierte Studie kam zu dem Schluss, dass keiner der bewerteten allgemeinen Chatbots "bereit für die Implementierung in der direkten Patientenversorgung" war. Eine andere Untersuchung über ChatGPT Health fand heraus, dass das System **medizinische Notfälle übersehen und seine Sicherheitsmechanismen inkonsistent aktivieren konnte.

Haftungsausschluss: Dieser Inhalt wird nur zu allgemeinen Marketing- und Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle Events, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets oder zur Nutzung von Services betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. WEEX Services und Online-Aktionen sind möglicherweise nicht in allen Regionen verfügbar und unterliegen geltenden Gesetzen, Vorschriften und Berechtigungsanforderungen. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Nutzung von WEEX Services mit lokalen Gesetzen übereinstimmt, und sorgfältig die Risiken vor der Teilnahme an Krypto-bezogenen Aktivitäten zu bewerten.