值得信赖的区块链资讯!
比推数据  |  比推终端  |  比推英文  |  比推 APP  | 

下载比推 APP

值得信赖的区块链资讯!
iPhone
Android

SemiAnalysis:Kimi K3 大幅降低 KV 传输带宽,但 AI 网络需求不会因此收缩

比推消息,半导体与 AI 独立研究机构 SemiAnalysis 发文表示,尽管 Kimi K3 约四分之三的网络层采用 KDA,相比完整全局注意力模型可将 KV 缓存传输带宽降低最多 10 倍,但这并不意味着 AI 网络交换机市场规模将大幅收缩。

Kimi K3 拥有 2.8 万亿参数,即使采用 MXFP4,每次前向计算仍需约 1.5TB HBM 带宽。若要在保持合理交互速度的同时实现盈利部署,仍需通过 GB300 NVL72 等高带宽网络连接大量芯片,并依赖 WideEP 扩展服务。

WideEP 会将 896 个专家模型分散至多个 GPU,并在每层、每次前向计算中两次执行 Token 分发与结果合并,单次前向计算需执行 120 次以上。相比之下,预填充与解码之间的 KV 缓存传输每轮对话仅发生一次,因此 KDA 节省的传输带宽,可能远小于大规模专家模型带来的扩展网络需求。

SemiAnalysis 认为,更高效的注意力机制还可能推动上下文长度从 100 万 Token 提升至 500 万 Token 以上。根据 Jevons 悖论,效率提升可能扩大 AI 使用规模,从而进一步增加网络需求。

说明: 比推所有文章只代表作者观点,不构成投资建议

比推快讯

更多 >>

下载比推 APP

24 小时追踪区块链行业资讯、热点头条、事实报道、深度洞察。

邮件订阅

金融科技决策者们都在看的区块链简报与深度分析,「比推」帮你划重点。