DeepSeek开源6个组件补齐华为昇腾底层短板,国产算力迁移成本大幅下降
9月30日,DeepSeek在GitHub上甩出6个开源项目,全是给华为昇腾芯片写的底层软件组件。这波操作最狠的地方在于,所有组件跟英伟达平台一一对应,且多项关键测试性能直接摸到了硬件上限。相当于DeepSeek把原本只长在英伟达CUDA生态里的那套“地基”,原封不动搬到了国产算力上,华为也亲自下场联合调优了128卡超节点。国产算力卡了十年的软件短板,这次算是被实打实地补上了一块。
开源了啥:把英伟达那套底层零件全搬过来了
大模型训练离不开底层算子,以前这套东西只有英伟达的CUDA生态有。这次DeepSeek一口气开源的6个组件,正好凑齐了训练绕不开的底层环节。打头的是TileLang,这是一门写算子的高级语言,比写CUDA简单得多,昇腾版直接封装了底层指令,开发者不用去啃复杂的硬件细节,写出来的代码还能跑满性能。剩下五个全是硬核计算库:DeepGEMM负责矩阵乘法,在昇腾950DT上跑出了99.8%的峰值利用率;DeepEP负责跨卡通信,带宽干到了375GB/s,基本是压着硬件天花板打;还有管向量计算的TileKernels、管长上下文稀疏注意力的FlashMLA,以及做数据筛选的DeepSelect。这不是放几个演示代码凑数,DeepSeek说自家V4训练里用到的每一个算子,在这都有高性能实现。
大模型训练离不开底层算子,以前这套东西只有英伟达的CUDA生态有。这次DeepSeek一口气开源的6个组件,正好凑齐了训练绕不开的底层环节。打头的是TileLang,这是一门写算子的高级语言,比写CUDA简单得多,昇腾版直接封装了底层指令,开发者不用去啃复杂的硬件细节,写出来的代码还能跑满性能。剩下五个全是硬核计算库:DeepGEMM负责矩阵乘法,在昇腾950DT上跑出了99.8%的峰值利用率;DeepEP负责跨卡通信,带宽干到了375GB/s,基本是压着硬件天花板打;还有管向量计算的TileKernels、管长上下文稀疏注意力的FlashMLA,以及做数据筛选的DeepSelect。这不是放几个演示代码凑数,DeepSeek说自家V4训练里用到的每一个算子,在这都有高性能实现。
真痛点:国产卡终于不缺好用的“鞋”了
国产算力芯片一直有个尴尬:硬件参数不差,但没人愿意用。原因无他,英伟达靠CUDA筑起的高墙太厚,开发者要在国产卡上跑模型,得从零重写底层算子,调试痛苦,迁移成本极高。这次开源等于给国产算力发了一双好穿的“鞋”。DeepSeek把自家跑通训练的工程成果直接开源,开发者不用再手搓底层指令,拿来就能用,模型从英伟达迁到昇腾的工作量大减。正如圈内人所说,以前非CUDA生态只能当备胎,现在终于有了被当“一等公民”对待的可能,国产算力竞争从“有没有卡”正式卷到了“有没有人愿意在这卡上写代码”。
国产算力芯片一直有个尴尬:硬件参数不差,但没人愿意用。原因无他,英伟达靠CUDA筑起的高墙太厚,开发者要在国产卡上跑模型,得从零重写底层算子,调试痛苦,迁移成本极高。这次开源等于给国产算力发了一双好穿的“鞋”。DeepSeek把自家跑通训练的工程成果直接开源,开发者不用再手搓底层指令,拿来就能用,模型从英伟达迁到昇腾的工作量大减。正如圈内人所说,以前非CUDA生态只能当备胎,现在终于有了被当“一等公民”对待的可能,国产算力竞争从“有没有卡”正式卷到了“有没有人愿意在这卡上写代码”。
想迁移别上头:实测数据好看,真换芯还得自己趟坑
看到接近硬件上限的性能数据先别激动,这几个组件的惊艳成绩,目前是在特定的PoC环境和离线测试下跑出来的,代码现阶段更偏向参考实现。真要打算把业务迁到昇腾上,还得冷静看清几件事:华为商用的HDK还没完全公开,企业得自己掂量真实业务场景下的端到端延迟和并发稳定性;DeepSeek也提示了,迁移前得老老实实逐层验收运行时依赖,做好版本锁定和多场景压测,还得留好回滚路径。开源几个组件不等于CUDA二十年筑起的生态墙一夜倒塌,真正的考验是后续有多少第三方项目愿意原生支持。但不管怎么说,方向算是彻底打通了。
看到接近硬件上限的性能数据先别激动,这几个组件的惊艳成绩,目前是在特定的PoC环境和离线测试下跑出来的,代码现阶段更偏向参考实现。真要打算把业务迁到昇腾上,还得冷静看清几件事:华为商用的HDK还没完全公开,企业得自己掂量真实业务场景下的端到端延迟和并发稳定性;DeepSeek也提示了,迁移前得老老实实逐层验收运行时依赖,做好版本锁定和多场景压测,还得留好回滚路径。开源几个组件不等于CUDA二十年筑起的生态墙一夜倒塌,真正的考验是后续有多少第三方项目愿意原生支持。但不管怎么说,方向算是彻底打通了。
历史事件回溯
当前事件
DeepSeek开源昇腾基础适配组件
- 开源组件:昇腾基础适配组件,提升软硬协同效率
- 适配硬件:华为昇腾系列NPU,支撑国产算力
- 生态影响:降低大模型国产算力适配门槛,加速生态繁荣
2024年6月
阿里Qwen2开源昇腾适配代码
- 开源组件:Qwen2训练与推理代码,含硬件适配层
- 适配硬件:昇腾910B等国产NPU,实现多硬件支持
- 生态影响:促进开源大模型在国产算力上的快速部署
2023年11月
百度飞桨开源昇腾适配组件
- 开源组件:飞桨框架的昇腾NPU专属适配插件
- 适配硬件:华为昇腾910系列AI处理器
- 生态影响:补齐框架层算力短板,完善国产深度学习生态


当前文章无评论,是时候发表评论了