新技巧揭露人工智慧的隱藏思維，重燃蒸餾戰爭

一項電腦技巧使得最前沿的人工智慧模型的「思維」得以揭露，顯示出可能的隱蔽蒸餾和數據洩漏。研究人員證明，較小版本的模型可以揭示其隱藏的推理。

• 研究人員發現OpenAI、Anthropic和Google的API存在漏洞，暴露了人工智慧模型的內部推理。
• 該方法允許從封閉模型中提取信息，並恢復密碼和API密鑰，儘管已經修正。
• 隨著中國和美國在人工智慧領域的競爭，蒸餾成為一個地緣政治話題。

一項新的電腦技巧使得最先進的人工智慧模型的內部推理得以揭露，暴露了科技公司試圖保護的秘密。根據《Wired》的報導，最近的研究揭示了OpenAI、Anthropic和Google的API存在漏洞，這不僅促進了大規模的蒸餾，還可能洩漏密碼和API密鑰。

這一方法由圖賓根大學、馬克斯·普朗克研究所、MATS Research和Snyk公司的一些科學家開發，能夠提取最前沿模型的隱藏「思維」。儘管該漏洞已經被修正，但這一發現提供了證據——儘管不具結論性——表明某些中國模型可能是通過蒸餾美國模型的推理信息進行訓練的。

揭露人工智慧推理的技巧

先進的人工智慧模型通過將困難問題分解為部分來解決問題，並在一個人工「思維鏈」中進行分析。這些公司對這種推理保持秘密，但會將加密版本發送到用戶的計算機，以轉移部分計算。

研究人員的攻擊基於大多數公司提供不同大小的模型。較小的模型較弱，但也較不一致，這意味著它們更願意揭示其內部思維。

圖賓根大學的計算機科學家亞歷山大·潘菲洛夫解釋說，將加密的推理痕跡餵入同一模型的較小版本可以揭示隱藏的推理。他警告說：「我們測試的所有主要前沿模型供應商都共享這一漏洞。」

潘菲洛夫和他的同事通過API測試了OpenAI、Anthropic和Google的模型，發現了相同的問題。他們還證明了該方法可以提取秘密信息，如嵌入在推理痕跡中的API密鑰和密碼。

蘇黎世聯邦理工學院的安全科學家弗洛里安·特拉默表示：「將消息交換到一個較弱的模型變體中，該變體擁有相同的解密密鑰但對齊較弱的想法非常好。」他補充說：「這肯定正在成為一個問題。」

蒸餾的爭議

蒸餾是一種成熟的技術，用於有效地將現有模型的能力複製到其他新模型中。這在開放權重或完全可下載模型的開發中尤其常見。

最近，由於中國人工智慧公司聲稱使用蒸餾來複製美國最佳模型，蒸餾成為了一個有爭議的話題。今年二月，OpenAI告訴美國立法者，DeepSeek似乎已經複製了其模型之一來構建R1。

在六月，Anthropic告訴立法者，阿里巴巴系統地蒸餾了其模型以構建名為Qwen的模型。沒有跡象表明他們使用了這一特定技術，但研究人員認為，他們的方法將允許從封閉模型中蒸餾比預期更多的信息。

馬克·祖克柏（Mark Zuckerberg），Meta的執行長，表示蒸餾是開源生態系統運作的重要原則。他警告說，限制這一做法將使美國處於不利地位。

另一方面，安全與新興技術中心的研究員凱爾·米勒（Kyle Miller）表示，蒸餾對中國的實際幫助並不明確。他說：「如果中國的實驗室失去蒸餾的能力，競爭格局不會發生劇變。」

研究人員用90個問題來測試每個模型，以檢查開放權重模型是否從封閉模型中進行蒸餾。在給出捕獲的推理痕跡的第一個詞時，他們有時會看到開放模型生成的回答與封閉模型驚人地相似。

相似性證據與反應

中國的開放權重模型Kimi K3，由Moonshot AI開發，對某些提示生成了與Claude Opus 4.8和GPT 5.6 Sol的隱藏推理痕跡驚人相似的輸出。儘管存在相似性，研究人員指出，這項工作無法因果地確立蒸餾的關係。

另外兩個開放權重模型，中國的DeepSeek和美國Thinking Machines公司的Inkling，則未顯示出這種相似性。Moonshot AI和Z.ai未對評論請求作出回應。

在中國社交媒體上，曾有關於發現和利用隱藏推理痕跡進行蒸餾的可能性的猜測。牛津大學的計算機科學家雅林·加爾（Yarin Gal）表示，蒸餾不僅普遍存在，還幫助人工智慧更快地進步。

企業已經採取行動：潘菲洛夫（Panfilov）及其合著者警告了OpenAI、Anthropic和Google，並且每家公司都調整了其API以減輕問題。Anthropic的發言人邁克爾·阿西曼（Michael Aciman）表示，他們重視獨立研究，並已開始開發短期的緩解措施。

Google和OpenAI拒絕發表評論。潘菲洛夫補充說，徹底修正蒸餾問題需要對API的運作方式進行根本性的檢討。

地緣政治與安全的影響

隨著美國和中國在人工智慧領域競爭的加劇，蒸餾已成為一個地緣政治的重要問題。對中國持強硬立場的人士聲稱，中國在蒸餾美國技術方面獲得了戰略優勢。

其他人則認為，蒸餾是一種廣泛使用的方式，可以迅速提升人工智慧模型的能力。祖克柏從開源的角度捍衛這一做法。

凱爾·米勒指出，這僅在有限程度上提升了現有模型的能力，而中國企業似乎具備從零開始構建尖端模型的經驗。他說：「美國這裡沒有人知道蒸餾對中國實驗室的實際幫助有多大。」

研究人員還強調，該方法可能被用來恢復個人信息，儘管這一漏洞已經被修正。然而，某些推理痕跡仍然可以用相同的方法被發現。

潘菲洛夫及其合作者表示，使用他們的方法將能夠從封閉模型中蒸餾出比之前認為的更多信息。這可能對人工智慧行業的知識產權產生重大影響。