AI安全爭議升溫之際,外媒稱,傑弗里·辛頓、李飛飛和吳恩達近日在拉斯維加斯舉行的Ai4大會上集中談到開放模型問題。三人立場並不完全一致,但都反對由少數大型科技公司主導AI的發展節奏。
反對少數公司把持入口
文章稱,三位研究者共同擔心的一點,是AI若被少數公司控制,創新空間可能被壓縮。吳恩達直言,他不希望AI領域出現「守門人」,因為這會限制開發者、企業和公眾接觸AI的方式。
他認為,大公司天然會保護自身優勢,也可能影響行業規則的形成。結果可能是,只有資金最充足、算力最強的企業才能持續建設最先進的系統。吳恩達給出的方向是,儘量維持多家模型提供者並存,讓模型和公司在市場中競爭,而不是讓少數平台佔據主導。
辛頓區分開源代碼與開放權重
不過,辛頓並不把「開源軟體」和「開放權重模型」視為同一回事。按他的說法,開源軟體公開的是代碼,外界可以檢查漏洞並提出修改;開放權重則是直接把訓練完成的大模型參數交給外界,這會顯著降低二次開發門檻。
他表示,自己過去反對開放權重,原因是這會讓一些人以更低成本把基礎模型改造成網路攻擊等用途的工具。但他同時承認,這場爭論在現實中已很難逆轉。隨著開放權重模型持續出現,訓練成本曾構成的門檻已經被明顯削弱。
儘管如此,辛頓並未主張停止AI發展。文章稱,他仍認為AI會提升生產率,並改善教育和醫療等領域,只是不能因此忽視潛在風險。他還表示,把所有擔憂AI風險的人都歸為「製造恐慌者」,並不公平。
李飛飛主張分層開放
與吳恩達強調開放競爭、辛頓強調安全風險不同,李飛飛反對把討論簡化為「完全開放」或「完全封閉」兩種選擇。她認為,複雜的軟體和科研體系本來就存在不同層級,不同環節可以採用不同程度的開放。
她以核物理為例稱,學術論文可以公開發表,但鈾材料受到嚴格監管,實驗環節則處於兩者之間。她據此認為,AI也可以採取類似思路:在科研發現、教育和國際合作層面保持一定開放,同時允許企業保留閉源系統和商業模式。
文章還提到,李飛飛援引人類基因組計畫說明,公共機構與私營部門合作形成的基礎知識平台,可以同時支持科研推進、企業盈利和社會應用。她認為,AI基礎設施也應朝這個方向發展,而不是陷入非此即彼的爭論。
三人都認可需要監管
雖然三人對開放模型的邊界判斷不同,但在監管問題上態度接近。文章稱,他們都認為,AI仍需要一定程度的規則約束,才能朝著更有利於社會的方向發展。
辛頓表示,不能把AI應該如何發展完全交給企業家自行決定。圍繞開放模型的爭論,眼下已不只是技術路線之爭,也關係到行業權力分配、國際競爭以及AI安全治理的方向。
本內容僅供參考,不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊,不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性,存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。

















