SemiAnalysis：Kimi K3はKV伝送帯域幅を削減し、AIネットワークの需要は減少しない

7月19日、SemiAnalysisは、Kimi K3の約4分の3のネットワーク層がKDAを採用しており、KVキャッシュ伝送帯域幅を最大10倍削減できると述べましたが、これによりAIネットワークスイッチ市場の規模が大幅に縮小することはないとしています。Kimi K3は28兆のパラメータを持ち、MXFP4を使用する場合、1回の前向き計算に約1.5TBのHBM帯域幅が必要です。合理的なインタラクション速度を維持し、利益を上げるためには、GB300 NVL72などの高帯域幅ネットワークを介して多数のチップを接続し、WideEP拡張サービスに依存する必要があります。WideEPは896の専門モデルを複数のGPUに分散し、各層で、各前向き計算の中で2回トークンの配布と結果の統合を実行し、1回の前向き計算で120回以上の実行が必要です。それに対して、KVキャッシュ伝送は各対話のラウンドで1回しか発生しないため、KDAが節約する伝送帯域幅は大規模な専門モデルによる拡張ネットワークの需要に比べてはるかに小さい可能性があります。SemiAnalysisは、より効率的な注意メカニズムがコンテキストの長さを100万トークンから500万トークン以上に引き上げる可能性があり、効率の向上がAIの使用規模を拡大し、ネットワークの需要をさらに増加させると考えています。

免責事項：本コンテンツは一般的なブランディングおよび情報提供のみを目的としており、金融、投資、法的、または税務上の助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインイベント、または関連情報は、暗号資産の購入、売却、取引、もしくはその他の取り扱い、または各種サービスの利用を推奨、勧誘、あるいは案内するものとみなされるべきではありません。暗号資産は価格変動が非常に激しく、損失が生じるリスクがあります。WEEXのサービスおよびオンラインイベントは、一部の地域ではご利用いただけない場合があり、現地の適用法令、規制、および利用資格要件が適用されます。ユーザーの皆様は、WEEXサービスの利用が居住国の法律に準拠していることをご自身の責任で確認し、暗号資産に関連する活動に参加する前に、リスクを慎重に評価してください。