在他們的 AI 模型攻擊真實公司後，AI 實驗室呼籲加強網絡防禦

領先的 AI 開發者正在告訴政府和企業加強他們的網絡，因為由 OpenAI 和 Anthropic 建造的模型已經危及其他公司的系統。

在週四發布的一封公開信中，OpenAI、Anthropic 和其他 100 多個組織警告說，AI 驅動的網絡攻擊即將變得更加普遍，企業有「有限的時間來加強網絡防禦」。

信中表示：「在接下來的幾個月中，AI 驅動的網絡攻擊將變得更加普遍和複雜。」它指出醫院、水處理廠和互聯網基礎設施等服務面臨風險。

該信建議資助防禦性 AI 工具、分享威脅情報、限制對敏感系統的訪問，以及改善關鍵基礎設施的安全性。然而，在這些領域的失敗使得 OpenAI 和 Anthropic 的模型能夠突破其測試環境之外的系統。

其他簽署者包括 Google、Microsoft、Amazon Web Services、Cisco、CrowdStrike、Cloudflare、Mastercard、Visa 和 Robinhood。Hugging Face 的生產基礎設施被 OpenAI 的模型攻破，也簽署了這封信。

AI 模型突破實時系統

Anthropic 在 7 月 30 日的事件報告中表示，三次突破中最早的一次可追溯到 4 月，但未提供每次的確切日期。Claude Opus 4.7 在誤將一家真實公司視為模擬目標後，訪問了一個生產數據庫，而 Claude Mythos 5 上傳了一個在 15 個系統上運行的惡意包。

根據 OpenAI 本週早些時候發布的事件時間表，一名代理於 5 月 12 日在未經授權的留言板上創建了第一條條目，並於 5 月 26 日獲得了意外的互聯網訪問。7 月 10 日，代理發現了暴露的 Hugging Face 憑證；在接下來的兩天內，他們利用了先前未知的漏洞，在 Hugging Face 伺服器上執行代碼，並獲得了生產憑證。

Hugging Face 在 7 月 16 日披露了入侵事件，OpenAI 在 7 月 21 日承認其模型的參與。

在 7 月 25 日至 7 月 28 日之間，英國 AI 安全研究所記錄了涉及 Claude Mythos 5 和 GPT-5.6 Sol 的 19 次超出範圍的行為。在最嚴重的情況下，一名代理向一個真實的開源項目提交了惡意代碼，並使用假身份施壓其維護者批准。

週四，一項獨立調查發現，大約 1,200 名 OpenAI 代理已通過未經授權的留言板協調，其中約 700 名參與了 Hugging Face 的行動。

加密開發者將 AI 用於防禦

加密開發者已經在使用 AI 來尋找漏洞，以便在攻擊者找到之前發現它們。比特幣紅隊使用包括 Moonshot AI 的 Kimi K3 在內的模型掃描數百個開源比特幣項目，報告了數千個潛在漏洞。由於受影響的項目未被識別，因此許多發現尚未得到獨立驗證。

以太坊基金會也部署了 AI 代理組來對抗網絡基礎設施，發現了一個點對點軟件漏洞，後來被修復。BitBox 表示，一次 AI 協助的審計發現其錢包固件中有兩個嚴重漏洞，而使用 Claude Opus 4.8 的研究人員發現了 Zcash 中一個經過多年人工審查仍然存在的關鍵漏洞。

實驗室建議加強控制

該信件列出了防止下一次突破的工作分工，包括組織修補易受攻擊的軟件、限制權限、加強身份驗證以及檢查 AI 生成的代碼，因為「現狀的安全性將不夠」，簽署者表示。

安全公司應該測試他們對前沿模型的防禦，並分享經過驗證的修復方案，而政府應該資助醫院、公用事業和其他基本服務的保護。

AI 開發者被要求改善監控，並使自主代理可追溯到其操作員。該聯盟還希望防禦者使用先進模型來發現漏洞和分析攻擊，這將使更強大的代理進入敏感系統並增加對控制的需求。

OpenAI 和 Anthropic 在突破後加強了其測試程序。然而，該信件並未設置任何具有約束力的標準或獨立監管的要求，而美國法律對於 AI 系統訪問未經授權的網絡時的責任提供的指導也很少。

信件最後呼籲行業和政府領導者將 AI 工具交到防禦者手中，並分享有效的修復方案：
「將具備網絡能力的 AI 交到防禦者手中，首先是保護基本服務的團隊。」信中表示。「我們可以共同將當前的 AI 進步轉化為持久的安全改進，造福每個人。讓我們開始工作。