伴随DeepSeek V4发布,华为宣布昇腾超节点系列产品全系支持

2026-04-25 22:02:37 0点赞 0收藏 0评论

今天,DeepSeek V4-Pro与DeepSeek V4-Flash正式发布并开源华为昇腾也同步宣布他们和DeepSeek紧密协同的最新成果——昇腾超节点全系列产品支持DeepSeek V4系列模型。

华为表示,昇腾950超节点可在8K输入场景(Offline推理模式)下,实现DeepSeek  V4‑Pro的TPOT延迟低至20ms且单卡decode吞吐4700TPS;而DeepSeek  V4‑Flash的TPOT延迟为10ms时单卡decode吞吐1600TPS。

拥有这种成绩,离不开昇腾950底层架构的三大升级:对FP8、MXFP8、MXFP4等先进格式的全面支持;硬件级稀疏访存能力的大幅提升;创新存储架构设计,通过向量单元(Vector)与矩阵单元(Cube)的Memory共享降低延迟。

伴随DeepSeek V4发布,华为宣布昇腾超节点系列产品全系支持

华为还表示,昇腾A3 64卡超节点结合大EP模式部署,通过vLLM引擎可实现DeepSeek V4-Flash在8K/1K输入输出场景下的2000+TPS单卡decode吞吐。昇腾A3同步支持DeepSeek V4-Pro的推理部署,且性能还在持续优化中。

软件方面,昇腾CANN推出PyPTO编程范式,提供完善的Python API,让开发者能够更快上手进行开发。DeepSeek V4模型的TileLang-Ascend实现也已经在社区正式发布。

附带一提,DeepSeek在DeepSeek-V4 预览版公告中表示,目前Pro的服务吞吐十分有限,但预计下半年昇腾950超节点批量上市后,价格会大幅下调。

伴随DeepSeek V4发布,华为宣布昇腾超节点系列产品全系支持
展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松