聯合國首席警告：我們無法以「氛圍編碼」塑造人類的未來

聯合國秘書長安東尼奧·古特雷斯（António Guterres）於週一在日內瓦開幕的首屆全球人工智慧治理對話會上告訴193個國家，人工智慧（AI）已經超越了旨在治理它的機構——而人類正在進行一場「沒有計劃、沒有同意」的實驗。

古特雷斯在他的主題演講開場中表示：「人工智慧正在以失控的速度進步。這項技術可以重塑經濟、改變工作世界、影響選舉，並傾斜安全的平衡，部署速度超過了任何人——包括開發它的人——能夠跟上的速度。」

會議室內有193個聯合國成員國，聚集在日內瓦的首屆全球人工智慧治理對話會上，這是一項多邊努力，旨在治理一項已經超越所有試圖治理它的人的技術。

古特雷斯用來解釋無法治理的AI風險的迷因是「氛圍編碼」——這是一個由OpenAI創始成員及特斯拉前AI主管安德烈·卡帕西（Andrej Karpathy）創造的術語，用來描述憑感覺編程：告訴AI你想要什麼，讓它處理其餘的，不要看得太仔細。梅里亞姆-韋伯斯特最近將其添加到字典中。

古特雷斯承認氛圍編碼「可以做奇蹟」，因為越來越多的人信任AI生成的產品。

「但我們無法氛圍編碼真相，」他說。「我們無法氛圍編碼人類的未來。」

這句話背後的數據並不柔和。古特雷斯指出，互聯網花了15年才達到十億人，而AI只用了兩年。他形容當前的系統「不再是等待指令的工具——它們正在編寫代碼、在線行動，並在越來越少的人類監督下做出選擇。」

「我們的機構是為治理遵循命令的機器而建立的。它們尚未準備好面對能夠自主決策的機器。」

這場對話源於2024年全球數位契約，這是聯合國首次將國際AI治理確立為其任務。兩年後的開幕會議還收到了獨立國際科學小組的初步報告——來自140個國家的40位科學家——該小組上週發布的發現是，沒有人能夠保證AI不會造成災難性傷害。

速度是古特雷斯從小組中提取的三個警告之一。第二個是權力：計算、數據和人才集中在少數幾家公司和國家，大多數世界被鎖在已經塑造它的決策之外，這也讓其他AI專家如揚·勒昆（Yann Lecun）、安迪·科文斯基（Andy Kowinski）和約書亞·本吉奧（Yoshua Bengio）感到擔憂。

第三個是事實——一個機器生成的謊言現在能夠與經過驗證的事實一樣有效地說服人，穩步侵蝕古特雷斯所稱的「我們信息生態系統的完整性」。

兒童白老鼠與殺手機器人

古特雷斯的具體提議之一是AI兒童安全承諾，要求公司在任何AI接觸兒童之前，通過獨立測試證明其安全性，對生成兒童性虐待影像保持零容忍，並將有困擾的兒童與真正的人類支持聯繫起來，而不是讓他們獨自面對聊天機器人。「沒有任何兒童應該成為無法監管的AI的白老鼠。」

然後是殺手機器人。古特雷斯稱致命自主武器——在沒有人工判斷的情況下選擇並殺死目標的機器——為「道德上令人厭惡」，並要求國際法禁止這類武器。

各國已經在討論桌上。他並未建議他們慢慢來。

對話會將於2027年在紐約重新召開。古特雷斯還呼籲大會創建一個全球AI基金，專注於為發展中國家提供計算機訪問，並挑戰每一家主要的AI公司在2030年前運行所有數據中心使用可再生能源——他估計到那時這些設施的電力消耗將超過除五個國家以外的所有國家。

免責聲明：本內容僅用於一般品牌傳播與資訊說明之目的，不構成任何金融、投資、法律或稅務建議。文中提及的活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售、交易任何加密資產，或使用任何服務的推薦、招攬或邀請。加密資產具有高波動性，並存在價值損失風險。WEEX 服務及線上活動的可用性可能因地區而異，並受當地適用法律法規及用戶資格要求限制。部分活動可能不適用於某些司法管轄區。您有責任確保訪問及使用 WEEX 服務符合當地適用法律法規。在參與任何涉及加密資產的活動前，請充分評估相關風險。