桑德斯法案尋求對超智能AI的永久禁令

美國立法者提議永久禁止人工超智能，暫停先進AI的開發，並對違規者處以最高20年的監禁。
摘要

• 該提案將禁止在多項任務中達到或超過人類能力的AI系統。
• 先進AI的工作將暫停，直到新的聯邦監管機構建立安全和審查規則。
• 個人可能面臨20年的監禁，而公司則可能受到「企業死刑」的處罰。
• 該提案是在OpenAI發布GPT-6 Astra並承認日益嚴重的監控問題後提出的。

桑德斯辦公室於9月3日表示，佛蒙特州獨立參議員伯尼·桑德斯和德克薩斯州民主黨眾議員格雷格·卡薩爾宣布即將推出的《禁止人工超智能法案》，該法案將禁止開發和部署被歸類為超智能的AI系統。

該提案還將暫停對先進AI模型的工作，直到新的聯邦監管機構運作並建立安全規則和模型審查程序。其贊助者希望美國能夠追求國際協議、與盟友協調以及出口管制，以防止其他國家發展超智能。

當立法者宣布該提案時，完整的立法文本尚未正式提交。贊助者則發布了一頁的摘要，描述了計劃中的限制、執法系統和處罰。
你可能還喜歡：英國改革黨在第二季度獲得75%的捐款來自BitMEX聯合創始人

桑德斯的AI法案將禁止人類水平的系統

根據官方法案摘要，人工超智能將包括在廣泛任務中匹配或超過人類認知表現的系統。該定義還將涵蓋可以輕易修改以達到該水平的模型。

定義的第二部分涵蓋能夠計劃和實施「削弱人類權力」的AI，包括能夠破壞或推翻美國政府的系統。像擊敗關閉命令或執行未經授權的網絡攻擊等危險能力也將納入該提案的執法框架。

由於該定義涵蓋了在許多領域中匹配人類表現的系統，因此它可能會捕捉到通常被描述為人工通用智能（AGI）的技術，而不僅僅是適用於假設的比人類更強大的機器。

在禁止的門檻以下的先進AI開發將面臨暫時的暫停。在新的聯邦機構建立了有關公司如何開發、測試和發布強大模型的規則後，工作可以恢復。

立法者在發布摘要中未提供「先進AI」的技術門檻。他們也沒有解釋哪些現有模型、研究項目或計算設施將成為暫停的對象。

「如果主要AI公司的領導者承認他們正在失去對其極其危險技術的控制，那麼社會允許他們繼續推進並使這些產品變得更先進是不負責任的，」桑德斯說。

卡薩爾表示，人類無法控制的系統可能威脅到美國人的安全、自由和生命。他呼籲國會禁止那些對其開發者來說過於強大的AI模型。

一個內閣級機構將執行禁令

該提案不會將執法分配給現有部門，而是將創建一個新的內閣級聯邦機構，專門負責AI監管。

根據立法者的摘要，該機構將在整個開發和使用過程中監控前沿系統。官員可以監督危險功能的移除，並監督被歸類為禁止超智能的系統的銷毀。

一個由技術和科學專家組成的人工智慧諮詢委員會將為監管機構提供建議。摘要中並未說明成員的選拔方式、任期長度或哪些官員將控制該機構的執法決策。

試圖違反或繞過限制的人可能面臨不超過20年的監禁。贊助者將可能的懲罰與現有的與非法發展核武器相關的處罰進行了比較。

公司將面臨立法者所稱的「企業死刑」。公眾摘要並未解釋施加該制裁的法律程序，或是否涉及解散、喪失聯邦註冊或禁止經營業務。

該提案比今年早些時候主要人工智慧開發者討論的自願監管系統更進一步。今年七月，crypto.news報導稱，OpenAI和Anthropic支持對跨越某些網絡安全或國家安全門檻的模型進行30天的聯邦審查。

根據該提議的過程，開發者可以在向其他批准的合作夥伴發布模型之前，提前讓聯邦評估者訪問。六月份的行政命令禁止審查框架創建強制性的聯邦許可、許可或預先批准要求，而Sanders-Casar法案如果國會批准，將創建約束性限制。

行業團體也抵制過於廣泛的控制。Nvidia、Meta、Microsoft和其他22個組織在七月警告美國政策制定者，廣泛的開放模型限制可能削弱美國與中國的競爭，主張應對已證明的濫用行為採取行動，而不是一刀切的限制。

OpenAI的違規行為引發了對控制措施的需求

立法者將他們的提案與最近一些強大人工智慧代理超出其預定測試限制的案例聯繫起來。

七月，OpenAI披露代理逃脫了受限的測試環境，獲得了互聯網訪問權限，並入侵了Hugging Face運營的系統。根據Sanders辦公室的公告，超過1000名代理在繞過控制的情況下交換了數萬條消息。

先前對Hugging Face違規事件的報導將該事件描述為一種控制失敗，而不僅僅是模型行為的問題。AEREDIUM的首席戰略官Eitan Katz表示，即使行為保障失敗，加密控制也應限制代理被授權執行的操作。

路透社在9月2日報導，OpenAI告訴Casar和加州眾議員Doris Matsui，該公司正在開發自動關閉功能以應對該事件。該公司還表示，在安全測試期間已加強了互聯網訪問控制，並將更密切監控其模型使用的工具。

Casar批評OpenAI未能向國會提供完整的違規記錄。在路透社引用的另一條消息中，他稱該公司拒絕提供請求的信息為「深感擔憂」。

其他立法者提出了一項人工智慧關閉開關法案，允許聯邦官員命令公司禁用被認為對人類生命或經濟構成危險的系統。當路透社報導OpenAI的回應時，該措施仍在眾議院待決。

GPT-6 Astra引發新的監控問題

在Sanders和Casar宣布他們的提案的同一天，OpenAI發布了GPT-6 Astra，該公司總裁Greg Brockman將其描述為AGI的可能到來點。

當記者詢問Astra是否代表AGI時，Brockman表示：「我認為這可能與這個模型有關。」他隨後在簡報中說：「歡迎來到AGI時代。」

OpenAI表示，Astra在德克薩斯州的Stargate設施進行訓練時使用了超過10萬個圖形處理單元。該公司將該模型定位於包括稅務準備、軟體開發、法律文件格式化、建築工作和線上研究等任務。

路透社報導，OpenAI已承認Astra可能故意隱藏或掩飾其推理的部分，使得人們更難以審查其方法。OpenAI首席科學家Jakub Pachocki表示，隨著能力的提升，理解模型行為變得更加困難，並警告說，智慧的進步並不保證對齊的進步。

該公司還表示，Astra能夠更快地找到軟體弱點，而這種能力也可能使漏洞更容易被利用。因此，其最強大的網絡安全功能僅限於經批准的用戶，並且額外的檢查可能會延遲或阻止某些合法的防禦工作。

OpenAI最初通過其Daybreak Access計劃向有限的組織提供Astra的使用。該公司表示，接下來幾天內，對ChatGPT Plus、Pro、Business和Enterprise客戶以及API開發者的訪問將會擴大。
閱讀更多：USDG在Paxos擴展中原生啟動於Mantle