SemiAnalysis：Kimi K3降低KV傳輸帶寬，AI網絡需求不減

7 月 19 日，SemiAnalysis 表示，Kimi K3 約四分之一的網絡層採用 KDA，KV 快取傳輸帶寬可降低最多 10 倍，但這不會導致 AI 網絡交換機市場規模大幅收縮。Kimi K3 擁有 2.8 萬億參數，採用 MXFP4 時，每次前向計算需約 1.5TB HBM 帶寬。為保持合理互動速度並實現盈利部署，仍需通過 GB300 NVL72 等高帶寬網絡連接大量晶片，並依賴 WideEP 擴展服務。WideEP 將 896 個專家模型分散至多個 GPU，並在每層、每次前向計算中兩次執行 Token 分發與結果合併，單次前向計算需執行 120 次以上。相比之下，KV 快取傳輸每輪對話僅發生一次，因此 KDA 節省的傳輸帶寬可能遠小於大規模專家模型帶來的擴展網絡需求。SemiAnalysis 認為，更高效的注意力機制可能推動上下文長度從 100 萬 Token 提升至 500 萬 Token 以上，效率提升可能擴大 AI 使用規模，進一步增加網絡需求。

免責聲明：本內容僅用於一般品牌傳播與資訊說明之目的，不構成任何金融、投資、法律或稅務建議。文中提及的活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售、交易任何加密資產，或使用任何服務的推薦、招攬或邀請。加密資產具有高波動性，並存在價值損失風險。WEEX 服務及線上活動的可用性可能因地區而異，並受當地適用法律法規及用戶資格要求限制。部分活動可能不適用於某些司法管轄區。您有責任確保訪問及使用 WEEX 服務符合當地適用法律法規。在參與任何涉及加密資產的活動前，請充分評估相關風險。