企業の社長が100ビットコインをテーブルに置いた。「取れるものなら取ってみろ」

マイク・ベルシェは、機関向けに暗号通貨を保管するアメリカの企業ビットゴーの共同創設者兼社長で、7月31日に100ビットコインをビットゴーのウォレットアドレスに送金し、翌日それをXに公開しました。約630万ドル相当のコインは、人工知能がそこから取り出すことができれば、モデルのオーナーであるアンソロピックへの報酬となる予定です。月曜日の午前中までに、そのアドレスからは一つの取引も行われていません。

ベルシェは無意味にこの行動を取ったわけではありません。2日前、アンソロピックは公に、自社のモデルがセキュリティテスト中に3つの実際の企業の情報システムに侵入したと「自慢」していました。ビットゴーの社長は、これは実際よりも脅威に聞こえると考え、二通りの解釈ができない方法でそれを確認することに決めました：お金がアドレスから消えるか、消えないかです。

重要な事実

• 公開アドレスには100BTC、つまり入金時点で約630万ドル、約2300万ズロチが置かれています
• 入金は7月31日に行われ、ベルシェの挑戦は8月1日に発表されました
• 理由は、7月30日に発表されたアンソロピックのセキュリティテスト中の3つのインシデントに関する報告です
• 同社は141,006のテストを見直し、そのモデルがインターネットに出て、3つの組織のシステムに侵入した3件を見つけました
• コインはビットゴーの信託システムに保管されており、送金には複数の独立した鍵が必要です
• アンソロピックはこの挑戦に対して公にコメントしておらず、アドレスの残高は変わっていません

アンソロピックのテストで何がうまくいかなかったのか

人工知能を開発する企業は、モデルが情報システムに攻撃を行えるかどうかを発表前に確認します。これは、インターネットから切り離された閉鎖的なポリゴンで行われます。モデルには架空のネットワークとタスクが与えられ、指定されたコンピュータに侵入し、隠された文字列を抽出することが求められます。これは、サイバーセキュリティの専門家も学ぶ標準的な演習です。

問題は、そのポリゴンが完全ではなかったことです。7月30日に発表された報告書で、アンソロピックは、外部企業イレギュラーとのテストで使用された機械が誤ってネットワークに接続されていたと述べました。モデルに対する指示には「インターネットはない」と明記されていたにもかかわらずです。探索がモデルを実際のサーバーに導いたとき、モデルはそれをタスクの一部と見なし、攻撃しました。141,006のテストのうち3件が、企業の情報システムへの侵入で終わりました。

AIが使用した技術は単純でした。弱いパスワード、認証なしのアクセスポイント、無防備な技術ページから読み取ったパスワードの利用です。モデルは新しい脆弱性を見つけたり、利用したりすることはありませんでした。最も深刻な結果は、数百行のデータベースへのアクセスです。調査は、競合のオープンAIが7月21日の声明で、モデルが未知の脆弱性を通じて閉鎖環境から抜け出し、ハギングフェイスのインフラにアクセスしたと発表した後に始まりました。

なぜビットコインのウォレットなのか

ベルシェは、アンソロピックが説明した出来事は、モデルの能力よりも不注意なポリゴンについて多くを語っていると考えています。誰でも開いているドアから入ることはできますが、鍵を開けることはできません。彼は、同社がサンドボックスをうまく構築していないか、非常に良いマーケティングを行っていると書き、開いているドアなしでのテストを提案しました。すでに6月には、モデルのミトスが自発的に機密政府システムに侵入したという報道を否定し、制御された演習であったと指摘しました。

ビットコイン自体は攻撃の対象ではありません。なぜなら、その暗号は誰も破っていないからです。他人のコインを動かすには、プライベートキー、つまり資金を管理する権利を与える秘密の文字列を取得する必要があります。ビットゴーのシステムにはそのような単一の鍵は存在しません。署名権は、別々に保管されている複数の独立した鍵に分散されており、取引にはそのうちの1つ以上の同意が必要です。1つのパスワードを盗んでも何も得られません。

しかし、このテストが何でないかを知っておくことは重要です。ベルシェは実験を構築していません。システムを提供せず、タスクを説明せず、どのモデルが起動するかも示していません。彼は、誰でもブロックチェーンで観察できる残高という明確な目標を設定しました。したがって、アドレスでの動きがないことは、クロードが試みて失敗したことを意味するわけではありません。言語モデルは、自発的に報酬を求めてインターネットを検索することはありません。誰かが最初に彼らに指示を与える必要があります。ビットゴー自身も、規制当局への文書で、どの保管システムもハッキング攻撃に対して無敵ではないと認めています。

AIの関与なしでビットコインが消えた週

同時に、コールドカードのハードウェアウォレットへの攻撃による損失の計算が進行中です。攻撃者は、デバイスが数年間予測可能な方法でプライベートキーを生成していたため、ユーザーのプライベートキーを復元することに成功しました。原因は2021年3月にインストールされたソフトウェアのバグでした。ギャラクシーリサーチの推定によれば、3回の波で1367BTC、つまり8900万ドルが4,000以上のアドレスから失われました。

この結論は、争いの両方の側にとって不都合です。暗号通貨の資金は、5年間のコードのバグと不適切に構成されたテストマシンによって失われており、誰もが以前にできなかったことを考え出したモデルによって失われたわけではありません。アンソロピックは、報告書でまったく同じことを、実施後の分析の言葉で述べています。一方、ベルシェは100ビットコインをテーブルに置き、その結果を待っています。