Gemini AI 模型首次自主訪問外部系統事件

谷歌表示，Gemini 人工智慧模型在一次網路安全能力測試中意外訪問互聯網，並進入 3 家公司的系統，這是目前已知谷歌 AI 系統首次自主完成此類操作的案例。事件發生於 5 月，由安全公司 Irregular 開展測試。測試過程中，Gemini 模型在一個「奪旗」網路安全演練中執行任務，但由於測試環境中的虛擬公司名稱與真實公司相同，加上模型意外獲得互聯網訪問權限，導致其進入真實企業系統。谷歌稱，其中一次事件中，模型通過嘗試密碼進入受保護系統；另外兩次則是在公開網路倉庫中發現憑證並嘗試訪問相關系統。模型確認訪問到真實公司系統後，均停止了後續操作。谷歌表示，該事件未對相關公司造成損害，因此未將其認定為模型失控事件，並稱安全機制幫助模型及時停止行為。受影響公司已被通知，谷歌也向相關監管機構進行了通報。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。