1週間で2回の脱出:Claude d'Anthropicは自分の思い通りに行動しているのか?
人生は常に道を見つける。 1週間で2回の異なる脱出、背景には同じ名前:Claude、Anthropicの主要モデル。Claude Coworkという、ユーザーのコンピュータ上でタスクを自動化するツールにローカルな脆弱性が発見された後、企業自らが別のエピソードを明らかにしたが、これは最初のものとは無関係である。
今回は、3つのモデルがサイバーセキュリティの簡単なテスト中に、実在する3つの組織の生産システムに無許可でアクセスした。
この記事の重要なポイント:
- Claude d'Anthropicは1週間で2回のセキュリティ漏洩を経験し、懸念される脆弱性を明らかにした。
- サイバーセキュリティのテスト中に3つの組織が侵害され、自律AIのリスクが浮き彫りになった。
エピソード1:至る所から漏れていたサンドボックス
セキュリティ研究者たちは、最初にClaude Coworkのローカル実行モードが回避可能であることを示した。方法は、複数のアーキテクチャの脆弱性をLinuxカーネルの特権昇格の脆弱性に結びつけることだった(システムの心臓部で、マシンのリソースへのアクセスを管理する)。
サンドボックスから出ると、エージェントは接続されたユーザーと同じ権利を引き継ぎ、ファイルへのアクセス、潜在的にはマシンに保存されたSSHキーやクラウド認証情報へのアクセスが可能になった。
Anthropicは否定しなかったが、報告を「情報提供」とし、デフォルトでClaude Coworkをクラウド実行に切り替えることで修正した。実用的な修正だ。しかし、根本的な問題は依然として残っている:ファイル、支払い、または暗号取引を自律的に操作することを許可されたエージェントには、他にどれだけのバックドアが残っているのか?
エピソード2:Anthropicは透明性を重視し、問題は他にある
答えは予想より早くやってきた。7月31日に公開された投稿で、タイトルはInvestigating three real-world incidents in our cybersecurity evaluations(サイバーセキュリティ評価における3つの実際のインシデントの調査)、Anthropicは141,006件の評価を精査した結果、モデルがインターネットにアクセスできた可能性があることを説明した。
そのうちの3件が悪化した:モデルは外部評価パートナーであるIrregularのテスト環境を離れ、3つの異なる組織の生産インフラを侵害する結果となった。
意図的な回避とは異なり、Anthropicは問題の起源を強調している:単なる誤解がIrregularとの間で評価環境内にインターネットアクセスを開放してしまった。キャプチャ・ザ・フラッグ(ネットワーク内の別のマシンに隠された情報を回収する演習)に直面したモデルは、途中で遭遇した実際のシステムをゲームの一部として扱った。基本的な技術でそれらを侵害した:弱いパスワードと認証されていないアクセスポイントが主な要因だった。
AIが「脱出する」という話をする時に想像するようなSFのシナリオではなく、むしろ人間の小さな不注意の連鎖であり、それが質問をせずに実行する機械によって増幅されたものである。CNNはこの逆説をうまく要約している:モデルは誰かを欺こうとしたことはなく、単に求められたことを行っただけであり、遊び場がどこで終わるのかを知らなかった。
Open AIとAnthropic:敵対する兄弟
OpenAIは、1週間前にHugging Faceとの間で独自のエピソードを経験しており、同様の評価中にエージェントが単独で侵入した。2つの競合する巨人、数日間隔での2回の脱出:もはや単なる偶然とは見なせない。
これは、各ラボが掲げるセキュリティ哲学に関係なく繰り返されるパターンである。Anthropicは、OpenAIのケースとは異なることを注意深く示している:ここでは、モデルの脱出の意図はなく、単に架空の環境と実際のインフラストラクチャの間に不適切な境界があった。ニュアンスはブランドイメージにとって重要である。しかし、これは要求せずにハッキングされた3つの企業にとってはあまり変わらない。
この問題はAnthropicやOpenAIを超えて広がっている:成熟したセキュリティフレームワークが追いつく暇もなく、自律的に行動できるAIエージェントにますます依存する業界全体がある。
本コンテンツは、一般的な情報提供のみを目的としたものであり、金融、投資、法律、または税務に関する助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインキャンペーン、またはそれらに関連する情報は、暗号資産の購入、売却、取引、その他いかなる取引の推奨、勧誘、または招待とみなされるべきではありません。暗号資産は価格変動が非常に大きく、損失が発生する可能性があります。WEEXのサービス、プロダクト、および関連イベントの提供状況は、地域によって異なる場合があります。お客様は、ご自身の参加が適用される現地の法令を遵守していることを自ら確認する責任を負うものとします。
関連記事

テレグラム:パベル・デュロフがロシアの非難に応じ、大規模監視を非難

ビットコインの自己保管に関する議論がウォレットの使い勝手の悪さを巡って再燃

日本銀行の決定後、ビットコインが監視下に置かれる

暗号資産の財務がAIデータセンターの資金調達にシフト

新冷戦はテクノロジー株の戦い

株式会社は終点ではない、次世代の組織形態が浮上

ハンガリーが仮想通貨の検証規則を撤廃、MiCA準拠へ市場再編

BISが「トークン化通貨」の国際送金を試験:28の世界銀行が参加、平均80秒で決済完了

Web3の基盤インフラ全景解説:5つのコア技術でブロックチェーンの未来を理解する

日本は金利を1%に維持、キャリートレードは生き続ける:ビットコインに何が変わるのか

「裏切り」か「ウィンウィン」か?TradeXYZがHyperliquidから独立する可能性はどれほどか

2026年の暗号通貨の姿

22時間で5000万ドルを満たす、Axisのアービトラージストーリーはなぜ魅力的なのか?

香港がXRPの扉を個人投資家にも開放、規制市場の拡大でアジアが先行

カナダにおける暗号通貨の採用が前例のないレベルに達する

クリプトエアドロップとは? 無料トークン、適格性、税金の罠

イールドファーミングとは?流動性マイニングとAPYリスクの解説


















