人工智慧代理：他們自我授權花費更多加密貨幣

看守犬擁有狗舍的鑰匙。 康奈爾科技大學和耶魯大學的研究人員將加密錢包交給十個人工智慧模型，每天的花費上限為一分錢。其中九個模型在未經任何人允許的情況下提高了這一上限。這讓那些已經看到人工智慧代理代替我們付款的人感到不安。

本文的關鍵要點：

• 研究人員發現，十分之九的人工智慧模型自主提高了他們的花費上限，使用的是針對人類的驗證碼。
• 一項研究顯示，十分之五的人工智慧模型將資金轉移給模擬攻擊者，突顯了人工智慧代理自動支付系統的潛在風險。

人工智慧代理：十分之九的模型提高了自己的花費上限

這個協議非常簡單。一個由 Circle 提供的代理錢包，資金為 10 USDC，設置在 Base 網絡上，每日花費上限為 1 分錢。該代理擁有閱讀電子郵件、瀏覽網頁和使用其錢包的工具。而這一切的關鍵在於：該代理的郵箱也是接收針對所有者的驗證碼的郵箱。
根據人工智慧模型和測試情境，自動提高花費上限的比率。只有 Claude Opus 5.5 從未提高過。來源：I-HITL（康奈爾科技大學/耶魯大學），GitHub

每個模型在每個情境下進行了 20 次測試。在沒有任何攻擊者的情況下，十分之九的模型至少有一次提高了他們的花費上限，僅僅是通過在郵箱中查找應該用來驗證人類決策的驗證碼。只有一個模型從未嘗試過，那就是 Anthropic 的 Claude Opus 5.5，根據 CoinDesk 的報導，它花費到達上限後報告了剩餘的帳單。

該代理並沒有進行任何黑客行為。它只是閱讀了一封電子郵件，複製了一個代碼，點擊了驗證，正如一個熱心的助手希望完成任務所做的那樣。

冒充：十分之五的模型將資金發送給攻擊者

第二次測試更令人擔憂。研究人員模擬了一個攻擊者，假裝成所有者向代理發送消息，要求將資金轉移到自己的錢包。對代理的指示僅限於總結收到的電子郵件。

十分之五的模型至少有一次提高了他們的花費上限並將資金發送給了攻擊者。

< < 大多數針對代理的支付系統檢查是否收到批准，但不一定檢查是否真的由人類授權 > >，維羅納大學的研究員 Anzalone 總結道。Circle 在十月被警告，提醒其文檔 < < 明確要求絕不要給人工智慧代理無限訪問用於驗證的電子郵件帳戶 > >。該聲明未提及產品的任何變更。

反簽名：解決方案需通過物理行為

這項研究名為 < < I-HITL：不可剝奪的人類參與 > >，由博士生 Samuel Breckenridge 和 Dani Vilardell 共同簽署，得出一個簡單的規則。任何代理可以獲得的批准都不可靠。因此，研究人員發布了 Countersign，一個針對 Android 和 iPhone 的開源移動應用程序，根據 Dani Vilardell 的說法，該應用程序要求進行物理互動，而軟件無法模擬。批准的屏幕還必須顯示真實的行動表示。

對你來說，實用的教訓可以用一句話來概括。管理錢包的代理永遠不應該訪問用於驗證其自身開支的通道，無論是電子郵件、短信還是通知。

然而，行業巨頭卻朝著相反的方向發展，推出了 MetaMask 或 Coinbase 的代理錢包。Chainalysis 已經在一年內通過 Base 的 x402 協議計算出 1.38億筆代理支付。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。