比爾·蓋茲對人工智慧的警告：為什麼自我監管不夠

比爾·蓋茲不會隨便使用言辭。當這位微軟的共同創辦人將人工智慧形容為「人類所接觸過的最危險的事物」時，市場應該停下來聆聽。不僅僅是出於對這位人物傳記的尊重，更因為這一聲明揭示了當前人工智慧競賽的現狀。

在接受《紐約時報》採訪時，蓋茲超越了泛泛的警告。他直接將缺乏對先進人工智慧模型的監管與具體的風險場景劃上等號：大規模的網絡攻擊和利用技術協助創造生物武器。他提出的問題令人不安：是否需要等到「數百萬人死亡」才能實施強制性的監管機制？

人工智慧自我監管的問題

蓋茲的立場與美國唐納德·特朗普政府所採取的做法正面衝突。像大衛·薩克斯（David Sacks）這樣的政府科技顧問和英偉達（Nvidia）首席執行官黃仁勳（Jensen Huang）主張，該行業能夠自我監管，提前施加規則可能會抑制美國在面對中國時的創新。

蓋茲用一個簡單的類比來駁斥這一邏輯：藥物、飛機和汽車在到達消費者之前都必須經過嚴格的安全要求。沒有人建議製藥行業應該自我監管，並在災難發生後才承擔責任。為什麼人工智慧會有所不同？

當觀察到開源模型的現狀時，這一論點更具說服力。根據蓋茲的說法，這些工具可以被調整以禁用監控機制並協助危險活動。這不是科幻小說，而是已存在的技術能力。正如我們在有關人工智慧進展的報導中分析的那樣，模型的發展速度超過了政府的監管能力。

為什麼市場低估了人工智慧的風險

蓋茲還提出了一個值得注意的觀察：對人工智慧的風險認知在行業外部仍然「極其低」。學者、研究中心、政策制定者和政治家尚未充分評估所涉及的風險。這造成了一種危險的不對稱。

在投資者方面，樂觀情緒主導。美國大型科技公司的股票在過去兩年中累積了顯著的增值，這是因為生成式人工智慧將改變全球生產力的敘事。這很可能會發生。但市場定價了這一承諾，卻忽視了尾部風險。

這一尾部風險有個名字：突發的監管事件。如果在尚未建立監管框架之前發生與人工智慧相關的重大事件，政治反應往往會不成比例且具懲罰性。只需看看2008年金融危機後的監管歷史。當立法者在公共壓力下行動時，結果很少是平衡的。

投資科技的風險

蓋茲的聲明並非孤立。它與行業內日益增長的呼聲相呼應，這些聲音要求某種形式的監管。被認為是深度學習之父的喬弗里·辛頓（Geoffrey Hinton）在2023年離開谷歌，正是為了能夠公開談論人工智慧的生存風險。安索普（Anthropic）首席執行官達里奧·阿莫代（Dario Amodei）主張在推出前必須進行安全測試。

蓋茲的立場之所以與眾不同，是因為他對機制的清晰認識。他並不要求人工智慧被抑制，而是要求在災難發生之前就必須有保障措施。這是預防性監管與反應性監管之間的區別。

對於投資者來說，這具有實際意義。像安索普和微軟的研究部門這樣已經在人工智慧安全和對齊方面投資的公司，可能在監管推進時處於更有利的位置。而那些在利潤微薄且缺乏明確治理的開放模型中運作的公司，可能面臨重大的合規成本。

另一個相關的點是對勞動市場的影響。尼爾·巴爾·迪亞（Nir Bar Dea）在同一系列採訪中提到，如果政府和企業不做好準備，人工智慧可能會使18%的美國人失業。這不是一個微不足道的數字。它強調了人工智慧將創造價值，但也會在特定人群和行業中集中風險的論點。

人工智慧的監管及其對加密貨幣和金融科技的多米諾效應

有關人工智慧監管的辯論與加密市場在過去幾年中經歷的情況有直接的平行關係。對監管的抵制，隨後是如FTX的崩潰，導致了一波重新設計行業的監管浪潮。正如我們在有關加密監管的分析中所討論的那樣，這一模式是反覆出現的：缺乏監管的創新會導致危機，而危機則會導致嚴格的監管。

對於金融科技和將人工智慧整合到金融服務中的公司來說，這個問題更加敏感。基於人工智慧的信貸模型、投資機器人和欺詐檢測系統依賴於算法，如果監管不當，可能會造成系統性損害。人工智慧與金融服務的融合擴大了風險面。

蓋茲正確地將問題簡化為：這不是反對創新的問題，而是要求創新必須負責任地進行。問題是，迄今為止，經濟激勵指向相反的方向。誰先進入市場，誰就能獲得價值。誰停下來測試安全性，誰就會失去速度。

留給投資者、監管者和社會的問題與蓋茲提出的問題相同：我們要等到災難發生再行動，還是要在還有可能的時候建立保護措施？對這一問題的回答將決定未來十年科技行業的形態。