DeepSeek V4正式发布:首个在昇腾950PR芯片完成全链路推理部署的国产开源MoE大模型
01不是简单调通,而是端到端支持MoE路由
此次适配并非仅实现基础运行,而是覆盖训练、推理、量化、通信全栈优化。DeepSeek 团队与华为联合重写了超 40 万行底层代码,重构 200+ 核心算子,专门针对昇腾 950PR 的 FP4 原生支持、128 字节精细访存、2TB/s 卡间互联等硬件特性进行深度协同设计。关键突破包括:为 MoE 架构新增专用路由算子,解决专家并行中的通信瓶颈;通过 FlashAttention 融合将注意力显存占用从 O(n²) 降至 O(n);并在 CANN 8.2 框架下提供 torch_npu 接口,仅需三处改动即可完成 PyTorch 模型迁移。实测显示,V4 在昇腾平台推理速度较初期版本提升 35 倍,能耗降低 40%,70B 模型 FP4 显存占用从 140GB(FP16)压缩至 35GB。126121138172
02开发者现在能做什么
自 4 月 24 日起,开发者已可在昇腾 950 或 910B 设备上直接加载 DeepSeek-V4-16B-MoE 的官方权重进行推理。华为云 MaaS 平台同步上线 V4 部署方案,提供 TopK/SWA/CFA 等 10 余种高性能融合算子;MindSpeed LLM 开源套件亦支持 V4-Flash 在 A3 八机 64 卡超节点上的预训练复现。对于私有化部署场景,单台昇腾 910B(512GB 显存)即可运行 V4-Flash,而 V4-Pro 推荐使用 2 台 910C 双机一体机(总显存 1.6TB)。值得注意的是,官方明确提示:“受限于高端算力,V4-Pro 当前服务吞吐有限,预计下半年昇腾 950 超节点批量上市后价格将大幅下调”,这意味着大规模商用部署的成本拐点将在 2026 年 Q4 出现。68156187142
03对国产算力生态的实际影响
当前文章无评论,是时候发表评论了