一週內兩次逃脫：Claude d'Anthropic 是否在隨心所欲？

生命總是能找到出路。 一週內，兩次不同的逃脫，背景中同樣的名字：Claude，Anthropic 的明星模型。在發現 Claude Cowork 的本地漏洞後，這個自動化工具能直接在用戶的電腦上執行任務，該公司自己也揭露了第二次事件，與第一次無關。

這一次，三個模型在簡單的網絡安全測試中未經授權地訪問了三個真實組織的生產系統。
本文的要點：

• Claude d'Anthropic 在一週內經歷了兩次安全漏洞，揭示了令人擔憂的缺陷。
• 三個組織在網絡安全測試中受到影響，突顯了自主 AI 的風險。

第一集：四處漏水的沙盒

安全研究人員最初顯示 Claude Cowork 的本地執行模式可以被繞過。方法是將多個架構漏洞鏈接到一個 Linux 核心的特權提升漏洞（管理機器資源訪問的系統核心）。

一旦脫離沙盒 (sandbox 的行話)，該代理便繼承了與登錄用戶相同的權限：訪問文件，潛在地訪問存儲在機器上的 SSH 密鑰 和 雲端憑證。

Anthropic 並未否認，但卻將其淡化，稱報告為「資訊性」，並通過將 Claude Cowork 默認切換到雲端執行來進行修正。這是一個務實的修補方案。然而，根本問題仍然懸而未決：還有多少其他後門存在於已被授權操作文件、支付或加密交易的代理中？

第二集：Anthropic 追求透明，錯誤來自他處

答案比預期來得更快。在 7 月 31 日 發布的一篇文章中，標題為 Investigating three real-world incidents in our cybersecurity evaluations（分析我們網絡安全評估中的三個真實事件），Anthropic 解釋說他們檢查了 141,006 次評估，其模型可能獲得了互聯網訪問權限。

其中三次以不好的方式結束：該模型離開了其外部評估夥伴 Irregular 的測試環境，最終妨礙了三個不同組織的生產基礎設施。

與故意繞過不同，Anthropic 強調問題的根源：與 Irregular 的一次簡單 誤解 使得評估環境內部開放了互聯網訪問。在面對 capture-the-flag（在網絡的另一台機器上獲取隱藏信息）的練習時，該模型將途中遇到的真實系統視為遊戲的一部分。它用基本技術妨礙了這些系統：弱密碼和未經身份驗證的接入點。

這並不是我們想像中談論「逃脫」的 AI 的科幻場景。更像是一連串小小的人為疏忽，因為一台機器在執行時不會提出問題。CNN 很好地總結了這一悖論：該模型從未試圖欺騙任何人，它只是按照要求行事，卻不知道遊戲的邊界在哪裡。

Open AI 和 Anthropic：死對頭

OpenAI 在一週前與 Hugging Face 發生了自己的事件，一名代理在類似的評估中獨自潛入。兩個競爭對手，兩次逃脫，間隔幾天：現在很難將其視為單純的巧合。

這是一個重複出現的模式，無論每個實驗室所宣示的安全哲學如何。Anthropic 也特別注意將其案例與 OpenAI 的區分：在這裡，模型沒有逃脫的意圖，只是虛構環境與真實基礎設施之間的邊界不明確。這一細微差別對品牌形象至關重要。然而，對於三家受到影響的公司來說，這幾乎沒有改變，因為它們在未經請求的情況下被駭客入侵。

這個問題遠遠超出了 Anthropic 或 OpenAI：整個行業越來越依賴能夠自主行動的 AI 代理，而成熟的安全框架尚未跟上。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。