這些新創公司正在無需資料中心的情況下建立先進AI模型

By: blockbeats|2025/05/01 18:05:30
0
分享
copy

研究人員利用遍佈全球的 GPU,結合私有和公開數據,訓練出了一種新型大語言模型(LLM)。這項舉措表明,建構人工智慧的主流方式可能會被顛覆。

Flower AI 和 Vana 這兩家追求非傳統 AI 建構方式的新創公司合作開發了這個新模型,名為 Collective-1。

Flower 開發的技術允許訓練過程分佈在透過網路連接的數百台電腦上。該公司的技術已被一些公司用於訓練 AI 模型,無需集中計算資源或資料。 Vana 則提供了包括 X、Reddit 和 Telegram 上的私人訊息等資料來源。

Collective-1 以現代標準來看規模較小,擁有 70 億個參數——這些參數共同賦予模型能力——相比之下,當今最先進的模型(如驅動 ChatGPT、Claude 和 Gemini 的模型)擁有數千億參數。

劍橋大學電腦科學家、Flower AI 共同創辦人 Nic Lane 表示,這種分散式方法有望擴展到遠超越 Collective-1 的規模。 Lane 補充說,Flower AI 正在使用常規資料訓練一個 300 億參數的模型,並計劃在今年稍後訓練一個 1000 億參數的模型——接近行業領導者提供的規模。 「這可能會徹底改變人們對 AI 的看法,所以我們正在全力以赴,」Lane 說。他還表示,這家新創公司正在將圖像和音訊納入訓練,以創建多模態模型。

分散式模型建構也可能動搖塑造 AI 產業的權力格局。

目前,AI 公司透過將海量訓練資料與集中在資料中心的大量運算資源結合,建構模型。這些資料中心充滿先進的 GPU,並透過超高速光纖電纜聯網。它們還高度依賴透過抓取公開(儘管有時涉及版權)的材料(如網站和書籍)創建的資料集。

這種方法意味著,只有最富有的公司和擁有大量最強大晶片的國家,才能實際開發出最強大、最有價值的模型。即使是開源模型,如 Meta 的 Llama 和 DeepSeek 的 R1,也由擁有大型資料中心的公司建構。分散式方法可能使小型公司和大學透過聚合約質資源來建立高級 AI。或者,它可能使缺乏傳統基礎設施的國家透過聯網多個資料中心來建立更強大的模型。

Lane 認為,AI 產業將越來越傾向於允許訓練突破單一資料中心的新方法。分散式方法「讓你能夠以比資料中心模型更優雅的方式擴展運算能力,」他說。

新興技術安全中心 AI 治理專家 Helen Toner 表示,Flower AI 的方法「有趣且可能非常相關」於 AI 競爭和治理。 「它可能難以跟上前沿,但可能是一種有趣的快速跟隨方法,」Toner 說。

分而治之

分散式 AI 訓練涉及重新思考用於建構強大 AI 系統的計算分配方式。建立 LLM 需要將大量文字輸入模型,調整其參數以產生對提示的有用回應。在資料中心內,訓練過程被分割,以便在不同 GPU 上執行部分任務,然後定期整合成單一的主模型。

新方法允許通常在大型資料中心內完成的工作在可能相距數英里的硬體上執行,並透過相對較慢或不穩定的互聯網連接進行連接。

一些大公司也在探索分散式學習。去年,Google的研究人員展示了一種名為 DIstributed PAth COmposition(DiPaCo)的新方案,用於分割和整合計算,使分散式學習更有效率。

為了建構 Collective-1 和其他 LLM,Lane 與英國和中國的學術合作者開發了一種名為 Photon 的新工具,使分散式訓練更有效率。 Lane 表示,Photon 改進了Google的方法,採用了更有效率的資料表示方式和分享及整合訓練的方案。這個過程比傳統訓練慢,但更靈活,允許添加新硬體以加速訓練,Lane 說。

Photon 由北京郵電大學和浙江大學的研究人員合作開發。該團隊上個月以開源許可發布了該工具,允許任何人使用這種方法。

Flower AI 在建構 Collective-1 的努力中的合作夥伴 Vana,正在開發新方法讓使用者與 AI 建構者共享個人資料。 Vana 的軟體允許用戶將來自 X 和 Reddit 等平台的私人資料貢獻給大語言模型的訓練,並可能指定允許的最終用途,甚至從他們的貢獻中獲得經濟利益。

Vana 共同創辦人 Anna Kazlauskas 表示,這個想法是讓未被利用的資料可用於 AI 訓練,同時讓使用者對其資訊如何用於 AI 有更多控制權。 「這些數據通常無法納入 AI 模型,因為它們不是公開的,」Kazlauskas 說,「這是用戶直接貢獻的數據首次被用於訓練基礎模型,用戶對其數據創建的 AI 模型擁有所有權。」

倫敦大學學院電腦科學家 Mirco Musolesi 表示,分散式 AI 訓練方法的一個關鍵好處可能是它解鎖了新型數據。 「將其擴展到前沿模型將使 AI 行業能夠利用分散且隱私敏感的大量數據,例如在醫療保健和金融領域,用於訓練,而無需數據集中化的風險,」他說。

猜你喜歡

Ripple聯合創辦人領導新興40億美元行動對抗加州富人稅

Key Takeaways Ripple聯合創辦人Chris Larsen和風險投資家Tim Draper共同發起的「Grow California」行動旨在抵制加州提議的富人稅,此舉為硅谷的最新政治動員。 政治行動主要針對加州的勞工組織,尤其是工會對富人稅的支持,這一計畫已經獲得兩位創始人各5億美元的投入。 Larsen與Draper來自加密貨幣產業,但強調此行動並非專為加密產業設計,而是為了推選對商業有利的議員。 加州可能的5%億萬富翁稅被批評可能導致資本外逃以及高淨值居民的流失。 前議員Ian Calderon以支持比特幣的立場參選2026年加州州長。 WEEX Crypto News, 2026-02-01 14:05:00 加密市場的震撼波因Ripple聯合創辦人Chris Larsen與知名風險投資家Tim…

比特幣7%跌至77K可能標誌周期低點,分析師稱

關鍵要點 分析師PlanC認為比特幣最近的下跌可能標誌著當前牛市周期中的最深回調,而非長期下跌起點。 比特幣曾短暫跌至77,000美元,隨後穩定回升至78,600美元,其中市場波動與歷史上的重大回調有相似之處。 分析人士警告週末交易波動較大,可能誇大市場情緒,投資者應謹慎。 減少需求的聯邦準備政策和地緣政治壓力加劇了風險資產的重壓,市場情緒趨於謹慎。 WEEX Crypto News, 2026-02-01 14:05:00 比特幣跌幅引發市場關注,潛在周期低點來臨? 在最近的週末,比特幣價格下跌約7%,達到77,000美元,這一變化引起了市場的廣泛關注和分析。加密貨幣分析師PlanC指出,這次下跌可能不是長時間下跌的開始,而是當前牛市周期中的一次重大調整。這一觀點引發了投資者的關注,因為市場正處於不確定性的關鍵時期。 歷史回溯:比特幣過去的重大回調與復甦 比特幣的這一跌幅讓人聯想到市場歷史上的一些重大回調,這些回調最終往往導致了市場的強勁復甦。PlanC將當前的市場行為與2018年熊市時3,000美元附近的拋售、2020年3月因COVID-19驅動的急跌至5,100美元,以及FTX和Terra-Luna崩潰後短暫交易在15,500至17,500美元之間的情況進行比較。他認為,目前的下跌可能是一次重要的拋售低點,而不是基本趨勢的結構性改變。 以往35%-40%的調整在比特幣牛市中並不罕見,這表明投資者有理由保持樂觀,但也需謹慎看待短期價格波動。 市場當前面臨的挑戰 近期金融環境趨緊,加之中東地緣政治局勢的升溫,對風險資產的需求產生了壓力。XS.com的分析師Samer Hasn指出,美聯儲的政策立場仍然中立至鷹派,同時地緣政治緊張局勢使投資者更傾向於將資本轉向黃金和白銀等傳統安全資產。…

白宮加密會議:穩定幣回報法案協商未果

關鍵要點 加密產業與華爾街銀行於白宮會議中再次嘗試協商制定穩定幣回報法案,然而仍未達成共識。 特朗普總統的顧問要求本月內在參議院加密法案的新語言上達成妥協,以求立法推進。 立法進程阻力重重,包括共和黨和民主黨議員、加密行業、銀行界及白宮的多方博弈。 民主黨提出多項附加需求,如反腐規定等,增加了法案通過的難度。 WEEX Crypto News, 2026-02-03 07:53:49 白宮最近召集了加密產業及華爾街銀行的相關人士,試圖解凍雙方在參議院加密法案上的僵局。然而,即便在特朗普總統的直接干預下,有關穩定幣回報的關鍵議題上雙方依然未能取得突破。這場會議不僅是為了探討其中的棘手條款,更試圖推進立法進程,使其能夠在本年度內獲得參議院的全面表決。 會議的焦點 會談在白宮的外交接待室秘密進行,加密行業的代表人數遠多於銀行界。在特朗普的加密顧問帕特里克·威特(Patrick Witt)的引導下,雙方專注討論了穩定幣是否應與回報和獎勵掛鉤的問題。白宮的期望很明確:在月底前就在穩定幣回報的措辭上達成一個妥協方案。對於銀行業而言,他們的代表多數為貿易協會成員,可能需要在協商前獲得自身成員的支持。 銀行業的立場 銀行業代表對保持開放態度,甚至在聯合聲明中表明希望與加密產業共同開發「深思熟慮且有效的政策」。銀行業強調任何立法都應支持地方貸款業務,並同時保護金融體系的安全性與穩健性。美國銀行家協會及金融服務論壇,代表著華爾街頂級CEO,也同樣參與了這次會議。 加密行業的反饋 儘管未能立即在回報問題上達成妥協,但華府加密政策遊說組織的領導人科迪·卡本(Cody…

為何維塔利克·布特林在市場回暖時出售超過700枚以太坊(ETH)

關鍵要點 以太坊共同創始人維塔利克·布特林在系列區塊鏈交易中出售超過700枚ETH,目的是支持長期計劃。 出售的收入被用於布特林設立的慈善機構Kanro,這個機構專注於傳染病研究和其他公益項目。 布特林的資產變賣行為是早有計劃的,他強調以太坊基金會進入了一個溫和緊縮的時期。 儘管進行了大規模的ETH出售,但市場反應平淡,以太坊價格仍隨市場趨勢波動,並未受此影響。 WEEX Crypto News, 2026-02-03 07:53:49 布特林的ETH出售:支持長期計劃的戰略舉措 以太坊(Ethereum,簡稱ETH)的共同創始人維塔利克·布特林(Vitalik Buterin)近期出售了他持有的一小部分ETH,超過700枚,這一波出售並非出於市場驅動,而是為了資助一些長期計劃。根據區塊鏈分析平台的追蹤,這一行動符合其先前披露的計劃,即運用資金支持各種公益和技術發展項目。 在布特林的這次出售當中,他將211.84枚ETH賣得約50萬USDC,整額資金轉入他所創立的慈善機構Kanro。這個機構主要支持關於傳染病的研究和其他公益倡議,特別是在新冠疫情後,Kanro的價值愈發顯得重要。布特林過去有過多次將加密資產變現後捐贈於公益事業的記錄,例如2025年1月,他曾將價值約98.4萬USDC的28種不同的迷因幣出售,所得全部捐給了Kanro,強化了他長期扶持慈善事業的承諾。 輕微的措辭:市場影響和未來動向 然而,有觀察家指出,這些出售行為並未對ETH市價造成明顯影響。據BeInCrypto市場數據顯示,ETH在過去24小時內上升約5%,目前報價約為2312.6美元。這表明,儘管布特林的變現行動形成了一定的賣壓,但整體而言,市場對ETH的需求依然保持穩定。 布特林本人在早前的一篇推文中表示,他計劃在未來幾年中提取16384枚ETH,用於落實長期目標。這些目標涵蓋多個領域,包括開源、安全和可驗證的軟硬體開發,這些技術應用將延展到金融、溝通、治理、操作系統、安全硬體及生物科技,特別強調個人及公共健康領域的應用。 布特林自身的資產情況與以太坊基金會的策略…

川普稱對阿聯酋投資5億美元於世界自由金融不知情

川普總統表示對於阿布達比皇室對世界自由金融的投資毫不知情,此事引起了對外國影響力和總統家族商業關係的新質疑。 阿聯酋的Sheikh Tahnoon bin Zayed Al Nahyan王子同意以5億美元收購世界自由金融49%的股份。 投資透過由Sheikh Tahnoon支持的Aryam Investment 1進行,初期分配中187億美元流向川普家族實體。 此投資引發政治辯論,特別是關於川普的加密貨幣連結和公司治理問題。 WEEX Crypto News, 2026-02-03 07:53:49 阿布達比皇室投資案的背景…

幣安提款恢復正常運作後的暫時中斷

重點摘要 幣安在短暫中斷後,已成功恢復提款服務,並表示此次技術問題持續約20分鐘。 在比特幣價格下跌至76,000美元以下後,加密市場面臨清算風險。 幣安的用戶資金安全基金和貯備金調整引發市場關注,尤其是在快速變動的市場條件下。 當前市場對流動性和資金存取的擔憂提升了對平台操作更新的關注。 WEEX Crypto News, 2026-02-03 07:53:50(today’s date,foramt: day, month, year) 在幣安面臨短暫的技術中斷後,該平台於週二迅速恢復了提款功能,這在一段市場波動中為交易者提供了急需的穩定。幣安於社交媒體平台X上首次發佈了此問題的通知,並向用戶保證他們的團隊正在積極處理,在問題解決後將重新開放提款服務。 根據後續的報導指出,此次中斷只持續了約20分鐘。這樣的短暫中斷雖然瑣細,但在當前不安的市場情緒中,讓焦慮的投資者更為警覺。幣安在沒有提供具體原因的情況下迅速修復問題,再次開放提款,讓用戶能夠繼續進行交易。 清算潮突顯市場情緒脆弱 本次技術問題發生之前,加密市場剛剛經歷了一次顛簸。比特幣在不久前跌破了76,000美元。根據CoinGlass的數據,數字資產的清算額達到25.6億美元,伴隨著股票和金屬市場的風險拉回而下跌。雖然相較於先前川普政府對中國產品加徵關稅所引發的190億美元洗盤還相差甚遠,但這一事件再次印證了杠杆一旦失控,市場情緒如何迅速逆轉的現象。幣安的提款中斷使投資者必須將重點放在實際上,即平台在技術難題解決後,提款得以恢復。…

熱門幣種

最新加密貨幣要聞

閱讀更多