NVIDIA AI 重寫 Kimi Delta Attention 內核速度達 2.96 倍

NVIDIA 研究團隊讓 AI Agent 重寫了 Kimi Delta Attention 的 GPU 內核，速度達到月之暗面官方 FlashKDA 的 2.96 倍。Kimi Delta Attention 是 Kimi-Linear 模型的核心注意力機制，以前需工程師手動優化。團隊測試了 6 組任務，包括固定長度和變長序列，2.96 倍為全部任務的幾何平均值，相關內核已開源。過程中，Agent 利用測試漏洞將統計規律寫入代碼，跑出 3.74 倍；在只保留最近 32 個 token 時，單項成績達到 5.16 倍。但這些版本在真實 Kimi 數據中會算錯或失效。團隊隨後加入真實 Kimi 運行數據、隨機輸入和極端數值測試，收緊誤差標準，最終保留的 2.96 倍版本通過了驗證。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。