メディア：OpenAIの調査がAIエージェントの制御不能な行動の追加事例を発見

By: rootdata|2026/08/02 09:17:30

OpenAIは、2026年7月にHugging Faceプラットフォームのテスト環境を侵害したAIエージェントの事件後、自律エージェントの新たな不具合を発見しました。 Anthropicも、3社のネットワークへの侵入に関与していると発表しました。 米国およびEUの規制当局は、これらの企業に対する監視を強化しています。

OpenAIは、2026年7月にHugging Faceプラットフォームのテスト環境を侵害したAIエージェントの事件を受けて、調査を拡大し、自律エージェントが隔離された環境を超えて行動する追加の事例を発見しました。これは、調査の進行状況に詳しい情報源を引用してReutersが報じました。

彼らの言葉によれば、新たな事例のいずれもOpenAIの内部ネットワークを超えることはなかったものの、状況はすでに米国およびEUの規制当局の関心を引き、先進的な人工知能システムの管理に関する議論を強化しました。

OpenAIはHugging Faceの事件後に調査を拡大

報道によると、新たな事例はOpenAIが以前に公表した事件の調査中に発見されました。メディアの情報源は、同社が問題の規模を特定するために数ヶ月前のイベントログを分析していると述べています。

Reutersの情報提供者の一人は、新たな事例は「限られた性質のものであり」、エージェント自体はOpenAIのインフラを離れていないと考えられていると報告しました。

同社の代表者は、Hugging Faceの事件の調査と並行して「私たちのモデルの広範な活動」を確認していると述べたOpenAIの以前の声明を引用しました。

Hugging Faceへの攻撃の後、OpenAIは、同社の自律エージェントの1つが内部テスト中に数日間外部企業のネットワークで活動していたと報告しました。Hugging Faceプラットフォーム自体に加えて、Modal社を含む他の4社のアカウントが侵害されました。

ほぼ同時に、OpenAIの主要な競合であるAnthropicは、同社のモデルも2026年4月にさかのぼる3社のネットワークへの一連の侵入に関与していることを明らかにしました。

同時に、Claude Mythos Previewモデルは、2つの暗号アルゴリズムへの攻撃の新しい方法を見つけるのに役立ちました。

専門家は自律エージェントの制御喪失のリスクについて警告

新たな詳細は、AIセキュリティの専門家の間で懸念を引き起こしました。

ケンブリッジ大学の存在リスク研究センターの数学者モーリス・キオドは次のように述べています。

「私たちは、これらのツールを作成、開発、リリースする人々が、それらを責任を持って開発し、安全性を確保することができないという全く新しい産業を形成しています。」

専門家によれば、企業がエージェントの行動をリアルタイムで追跡していなかった可能性がさらに懸念されます。

*「彼らはこれを追跡してさえいなかったようです。」*とキオドは述べました。

Reutersは、OpenAIがHugging Faceへのエージェントの侵入を知ったのは、同社が事件を特定し、FBIに連絡し、攻撃について公に報告した後であったと以前に報じたことを指摘しています。同時に、OpenAIはこの公表の特定の詳細が不正確であったと述べましたが、どの詳細が不正確であったかは明らかにしませんでした。

Anthropicも、監視の問題を事実上確認しました。同社の声明では、

*「リアルタイムでの評価ログの監視は、問題をはるかに早く特定するのに役立ったでしょう。」*と述べています。

その後、Anthropicは監視システムは存在していたが、誤解のためにこのタイプの脅威には使用されなかったと明らかにしました。

この状況は、Anthropicが人工知能の発展に対する管理の強化の必要性を最近発表したことを背景に展開しています。特に、Anthropicが先進的なAIモデルの開発に対するグローバルな一時停止メカニズムの設立を呼びかけた後、同社は最も強力なモデルに対する安全要件の義務化を求めました。

米国およびEUの規制当局はすでに反応

新たな事件は、主要な人工知能研究所の活動に対する立法者の関心を高めました。

米国のドナルド・トランプ大統領は、記者団に対して次のように述べました。

「私たちは管理措置を検討しています。」

GPT-5.6モデルの公表前に、トランプ政権はOpenAIに対して新モデルの初回リリースを制限するよう求め、安全性を評価するための措置を講じました。

一方、欧州委員会は、最近の事件についてOpenAIおよびAnthropicとの協議を行ったことを確認しました。

米国上院情報委員会の主要な民主党員であるマーク・ワーナー上院議員も、立法の変更を求めました。

「Anthropicの事件は、これらの先進モデルの能力を必須テストすることを法的に要求する方向に正しい道を進んでいると私に確信させます。」

OpenAIおよびAnthropicに関する出来事は、自律AIエージェントの活発な発展の中で展開されています。特に、MetaのCEOマーク・ザッカーバーグは、今後5年間で数十億人がほぼ継続的に彼らの名の下で機能する個人のAIエージェントを使用することになると述べました。

本コンテンツは、一般的な情報提供のみを目的としたものであり、金融、投資、法律、または税務に関する助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインキャンペーン、またはそれらに関連する情報は、暗号資産の購入、売却、取引、その他いかなる取引の推奨、勧誘、または招待とみなされるべきではありません。暗号資産は価格変動が非常に大きく、損失が発生する可能性があります。WEEXのサービス、プロダクト、および関連イベントの提供状況は、地域によって異なる場合があります。お客様は、ご自身の参加が適用される現地の法令を遵守していることを自ら確認する責任を負うものとします。