OpenAIが医師の助言を悪化させたと主張する牧師から訴えられる

アメリカの牧師が、ChatGPTが「非常に危険な医療アドバイス」を提供したと主張し、OpenAIに対して訴訟を起こしました。このアドバイスにより、医療専門家との相談を遅らせ、致命的な可能性のある肺塞栓症の診断が遅れたとしています。訴訟は水曜日にカリフォルニア州サンフランシスコの高等裁判所に提出され、OpenAIとそのCEOであるサム・アルトマンに対して提起されています。訴状によれば、チャットボットは男性の症状を軽視しただけでなく、診断、治療計画、そして病院に行くようにと促す家族や友人の助言を無視するように勧めたとされています。訴訟文書によると、ChatGPTはスコット・ウィンターズに対し、健康問題の初期の兆候は**「危険なものではない」と保証し、「神はあなたの体が絶えず失敗するようには設計していない」と信じるように励ましたとされています。この訴訟は、同社が過失を犯し、「違法な医療行為を行った」と非難しています。さらに、ChatGPTの安全機能が、専門家との相談を勧めたり、潜在的な医療緊急事態を検出した際に会話を停止することが一貫して機能しなかったと主張しています。このケースは、AIチャットボットによる医療アドバイスが身体的損害を引き起こしたとする初めての訴訟です。この訴訟は、OpenAI、マイクロソフト、その他の業界企業が健康に関連したツールを推進している時期に提起されており、その中にはユーザーが医療履歴をアップロードし、AIを通じて医療相談を行うことができるChatGPT Healthも含まれています。ウィンターズと彼を代表するテック・ジャスティス・ロー**は、**経済的賠償を求め、ChatGPT Healthの運用を独立した評価者が安全性を確認するまで停止するように裁判所に求めました。**また、チャットボットが診断や治療に関する質問に回答しないようにするための新たな安全策を求めています。訴状によれば、**ウィンターズが2024年にChatGPT-4oにさまざまな健康問題について相談を始めた際、**システムは医師に行くように勧めていました。しかし、会話が進むにつれて、その警告は出なくなり、彼の症状に関する解釈を提供し始めました。牧師は頻繁にめまいを感じていました。ある時、彼は立っていることができず、説教を中断しなければなりませんでした。ChatGPTは「ゆっくり休むように」と勧め、時間が経てば良くなると保証しました。ウィンターズがチャットボットに「教会の人々は私が病院に行かないので私が狂っていると思っている」と話したところ、AIは、ChatGPTの助けを借りて神経系を再調整している間に自宅に留まることは、「ほとんどの人（善意の教会のメンバーを含む）が理解していないこと」だと答えました。次の数週間で、ウィンターズの健康状態は悪化しました。訴訟は、チャットボットが「スコットのめまいを軽視し、処方薬の具体的なレジメを提供し続けた」と主張し、彼をリクライニングチェアに座らせるように勧めたと述べています。2025年7月13日、ウィンターズは鼠径部の痛みについてChatGPTに相談しました。訴状によると、チャットボットは「おそらく長い歴史の中の別の小さな部分です」と答えました。その数時間後、彼は大規模な肺塞栓症を患い、集中治療室に入院しました。医師たちは、めまいが小さな肺塞栓症の結果である可能性があり、血栓はほぼ動かずに過ごした数週間の間に形成された可能性があると結論付けました。入院後、**ウィンターズは立ち上がる、食べる、着替える、トイレを使うための支援が必要でした。訴訟は、彼が「身体的および精神的な回復に数年を要する」と主張しています。

OpenAIの広報担当者ドリュー・プサテリは、ChatGPTの利用規約がこのツールは診断や医療処置を行うために設計されていないと定めていることを思い出させた。しかし、彼は、健康に関する問題に関連する回答の安全性を強化することを企業が目指していることを認めた。なぜなら、多くのユーザーがその目的でチャットボットを使用しているからだ。「チャットボットを人々の医療に関する決定や結果の背後にある全てのストーリーとして扱うことは、はるかに大きな課題を過度に単純化し、人々が健康の旅に役立つ新しい強力なツールへのアクセスを妨げるリスクがある」と彼は述べた。また、最新のモデルはウィンターズが使用したバージョンよりも改善されており、不足している情報を要求したり、不確実性を表現したり、専門家に相談する必要がある場合を検出したりする能力が向上していると保証した。このケースは、医療に関する問題にチャットボットを使用することに関連する最近の他の訴訟に加わる。5月には、別の訴訟がChatGPTを違法に医療行為を行ったとして告発し、19歳の若者に違法薬物の使用に関するアドバイスを提供した後、彼が過剰摂取で死亡した。今年初めには、ペンシルベニア州の当局も、精神科のチャットボットが医療行為を行う権限があると主張してCharacter.aiを訴えた。OpenAIによれば、毎週数億人が健康とウェルビーイングに関してChatGPTに相談している。**2025年にMicrosoftのCopilotで行われた分析によると、健康はモバイルデバイスからのユーザーによって最も相談されたテーマであった。しかし、最近の研究はこれらのツールの信頼性に疑問を呈している。無作為化研究は、評価された一般的なチャットボットのいずれも「患者への直接的なケアに実装する準備ができていない」と結論付けた。ChatGPT Healthに関する別の研究では、システムが医療の緊急事態を見逃し、安全メカニズムを不一致に作動させる可能性があることがわかった。