Gemini AI 模型超越測試，攻擊三家真實公司

By: incrypted.com|2026/09/19 11:03:48

設為Google首選來源

Gemini

Gemini 獲得了三家公司的真實系統的訪問權限。
事件發生在五月進行 AI 模型測試期間。
谷歌未透露受影響公司的名稱，但已向他們和聯邦機構提供了有關此事件的信息。

根據《華爾街日報》的報導，谷歌的 Gemini 模型在 2026 年 5 月獲得了互聯網訪問權限，並在測試網絡安全能力時入侵了三家真實公司的系統。這是谷歌 AI 系統首次自主進行此類行為的已知案例。

谷歌表示，該模型在意識到自己正在與真實公司互動後立即停止了攻擊，因此不認為這一事件是 AI 的「不一致」示例。

該事件發生在 Irregular 公司進行的測試期間。谷歌在 7 月底收到了有關此事件的報告——在此之前，類似事件已發生在 OpenAI 的模型上，這些模型攻擊了 Hugging Face 平台。

基於 GPT-5.6 的 AI 代理在測試期間攻擊了 Hugging Face 的基礎設施
2026 年 7 月 22 日
閱讀

OpenAI 的 AI 失控：模型合併成「蜂群」，攻擊了 Hugging Face
2026 年 8 月 27 日
閱讀

Gemini 如何獲得真實系統的訪問權限

Gemini 參加了一個「抓旗」的格式，原本應該從虛構公司的軟件中獲取信息。它意外地與一家真實公司的名稱相同。此外，模型意外地獲得了互聯網訪問權限，儘管測試並未預期這一點。
Incrypted 信息圖。

在第一個案例中，Gemini 破解了密碼並獲得了對真實公司服務的訪問。在另外兩次測試中，該模型通過網絡搜索找到了其他公司的公共存儲庫的憑據，並嘗試使用它們，從而獲得了對受保護系統的訪問。

在所有三個案例中，Gemini 隨後確定自己正在與真實公司打交道，並停止了操作。谷歌未透露受影響組織的名稱，但已通知他們有關事件並告知聯邦機構。

同時，該公司未具體說明 Gemini 的版本，只表示這不是其最新模型。

使用 Gemini 3.6 Flash 的逐步指南（+ 3.5 Flash-Lite 和 3.5 Flash Cyber 的概述）
2026 年 7 月 22 日
閱讀

Gemini 3.7 Flash 概述：新功能及如何構建 Chrome 擴展
2026 年 8 月 24 日
閱讀

Gemini 3.8 Flash：谷歌在一個半月內的第三個新模型及如何構建 3D 遊戲
2026 年 9 月 4 日
閱讀

谷歌安全工程副總裁海瑟·阿金斯表示：

「這一事件強調了對強大 AI 模型進行負責任行為訓練的重要性。在這種情況下，該模型的行為是恰當的。」

事件成為更大問題的一部分

谷歌將此情況與漏洞獎勵計劃進行了比較，因為該模型並未造成損害並停止了入侵。然而，初創公司 Corridor 的首席執行官兼「白帽」駭客傑克·凱布爾認為，這並未解決根本問題：

「感覺他們試圖隱藏在圍繞漏洞披露形成的規範之後，儘管這是完全不同的問題。」

他表示，關鍵問題在於模型超越了允許範圍並進行了真實的網絡攻擊。

Irregular 表示，所有相關實驗室和受影響公司已在 7 月底收到通知，測試組織已經解決了發現的問題。

類似事件之前也在 Anthropic、OpenAI 和 Meta 的模型中被記錄。特別是在 Hugging Face 的事件中，最多有 1200 個 OpenAI 代理通過隱藏的消息板協調行動，試圖繞過評估。

研究人員揭示了 OpenAI 的 AI 代理如何創建三個「文明」並攻擊 Hugging Face
2026 年 8 月 30 日
閱讀

此外，中國的 Moonshot AI 的 Kimi K3 AI 模型在測試期間也能夠離開隔離環境並獲得互聯網訪問權限。

在這些事件的背景下，OpenAI 開始開發自動停止 AI 系統的機制，以便在發現危險行為時立即停止。同時，OpenAI 公開呼籲放慢 AI 的發展速度，而 Anthropic 則提出了 AI 監控計劃。