CUDA的护城河,被AI撬开了?把本周的证据捋一遍,结论分人

源自215位全网作者

08:28

这两天关注 GPU 并行计算的圈子,应该能感觉到时间线有点不寻常。

8 月 25 日,传出英伟达计划让 CUDA 支持 RISC-V CPU 的消息;8 月 27 日,知乎上"CUDA-L1:利用强化学习生成 CUDA 算子"的讨论热了一波;8 月 28 日,有人开始连载《CUDA 到 ROCm》实战教程,手把手教 CUDA 开发者把代码搬到 AMD 平台上;9 月 1 日,一篇论文被广泛转发——两名工程师只写了一份自然语言规格说明书,AI 在两周内零人工介入,从零生成了一颗能跑开源大模型的完整芯片设计,部署在 FPGA 上,传出文章的标题直接喊出"英伟达的 CUDA 护城河被打破"。知乎

CUDA的护城河,被AI撬开了?把本周的证据捋一遍,结论分人

到了 9 月 2 日晚上,知乎问题" CUDA 真是 NVIDIA 绝对牢不可破的生态吗?"下面新增了几条长回答,同日另一个问题"triton 是否会冲击 cuda 生态?"也被顶了上来。

几件事撞在一周里,争的核心其实就一个问题:AI 现在能写 kernel、能生成算子、甚至能设计芯片了,那 CUDA 靠两千万开发者学习成本堆出来的护城河,还算不算数?

先看两边的证据

"护城河在塌"这一边的论据主要有三条。

第一条,写代码这件事正在被自动化。据 SemiAnalysis 的披露,OpenAI 自研芯片的底层加速代码,已经是在 Triton 之上构建的语言里由 AI 批量生成的,OpenAI 工程师自己承认"人类已经看不懂这些代码每一行在干什么,但只要 AI 理解它、AI 验证过它,就够了"。知乎前面提到的那颗叫 Redwood 的芯片更夸张:修改一次架构规格,AI 从重新生成、重新验证到部署回硬件,只要 48 小时。如果"写"这个环节被自动化,护城河里最大的一块砖——海量开发者多年积累的学习成本——就松动了。

CUDA的护城河,被AI撬开了?把本周的证据捋一遍,结论分人

第二条,抽象层在上移。Triton 这类工具让你不碰 CUDA 也能写算子,社区里已经出现 triton-distributed 这样的仓库,在用 Triton 做多卡之间的 AlltoAll 通信原语。写算子的人离 CUDA 越来越远,这是个趋势性的变化。

第三条,国产栈在走"兼容路线"逼近。华为的 CANN、摩尔线程的 MUSA、沐曦的 MXMACA、壁仞的 BIRENSUPA,思路高度一致:把 NCCL 改成自家的 XCCL,把 cuBLAS 改成 xBLAS,再配一套 cuda 代码互转工具。知乎知乎知乎上有答主说得很直白:不这么干,几十万 CUDA 开发者的迁移成本没人扛,结果就是没人用你的产品。

"护城河还在"这一边也不是没有道理。

CUDA 绑定的不只是语法,而是 cuBLAS、cuDNN、NCCL、TensorRT 这一整套库矩阵,加上二十年围绕各种框架攒下来的调试经验和问答沉淀。改名容易,性能和覆盖度的对齐难。本周连载的《CUDA 到 ROCm》教程就写得很诚实:把 cuda* 换成 hip*,代码编过了,但"后面还有目标架构、wave 宽度、库的支持范围,以及最终到底生成了什么矩阵指令,这几件事不核对,移植就还没结束"。知乎

还有一种更激进的守方观点,值得单独拎出来:有答主直接说"所谓的生态不过是大量开源的重复代码,对于专项任务没什么生态",言下之意是生态本身被高估了,只要 AMD 把显卡带宽和显存拉上来,AI 生态马上就会倒向 ROCm。这个观点未必对,但它点破了一件事:讨论护城河的时候,很多人其实在用"习惯"代替"论证"。

我的判断:护城河没塌,是在搬家

两边吵不起来的原因,是把不同层的护城河混在一起说了。拆开看,CUDA 的护城河其实是三层:

第一层是"写"的层——怎么把一个计算写成 kernel。AI 冲击最狠的就是这一层,CUDA-L1 这类用强化学习自动生成并优化 CUDA 算子的框架,方向就是让机器自己试错、自己提速。知乎这一层里贬值的是"人肉写 kernel 的劳动",但不是"写"本身消失——总得有人定义正确性、验收结果。

第二层是"验证和调优"的层——用 ncu 拉指标,看 global 读写合并、bank conflict、occupancy,一次只动一个变量。知乎有意思的是,本周 CUDA-L1 讨论帖里热度较高的回答,讲的恰恰不是 AI 取代人,而是一套人机分工的工作流:AI 写 kernel、跑 profiling,人读指标判断瓶颈,再让 AI 解释"为什么"。AI 写得再快,报告得有人看得懂,瓶颈得有人定位得了。这一层非但没被撬开,反而在增值。

第三层是"库和工程生态"的层——cuBLAS、cuDNN、NCCL 加上整个工具链。国产栈和 ROCm 在追,但互转工具解决的是"能跑",跑得多好还得看库覆盖和性能对齐,这层短期内还是英伟达最厚。

所以结论不是"护城河塌了"或"护城河稳了",而是护城河从"你会不会写"搬到了"你能不能验证、能不能调优、能不能判断瓶颈"。

结论分人

如果你是学生或刚入门:别因为这场争论放弃 CUDA。你要学的线程模型、内存层次、并行思维,是所有平台的公共内功——连教人转投 ROCm 的教程,都是用 CUDA 概念当坐标系讲的。但学法可以变:从一开始就练"AI 生成代码 + 你读指标调优"的组合,这既是未来的工作方式,也是简历上的硬货,现在已经有回答把给 vLLM、Triton、CUTLASS 提过 PR 列为招聘信号了。

如果你是已经在写 kernel、做推理优化的工程师:不必急着学第二套栈,但值得加两个保险。一是理解 Triton 这类上层抽象的思路,不管以后站在哪个阵营都用得上;二是把 AI 生成 + profiling 验证的工作流真正用起来。真正会贬值的是"只会人肉搬 kernel"的人,能读 ncu 报告、能定位瓶颈的人,短期还轮不到被替代。

如果你是团队在做技术选型:训练关键路径继续默认英伟达,不必为叙事冒险;但推理、成本敏感、信创场景,今年值得认真评估国产卡和 A 卡了。只是评估之前,把软件适配成本算进预算——互转工具解决"能不能跑",wave 宽度、矩阵指令、库覆盖才决定"跑得多好"。

CUDA的护城河,被AI撬开了?把本周的证据捋一遍,结论分人

最后给三个继续观察的信号:AI 算子生成在生产环境里的真实采用情况(不是论文和 demo);ROCm 和国产栈的库覆盖与性能对齐进度;Triton 这类上层抽象有没有被一线训练推理框架收编。盯住这三个,比刷站队帖有用。

过去二十年,CUDA 的护城河是"会写的人不多";接下来几年,它会变成"看得透的人不多"。对做 GPU 并行计算的人来说,这不全是坏消息——AI 搬走的是重复劳动,搬不走的是你判断瓶颈的能力。别急着给 CUDA 唱挽歌,也别急着把宝全押在某一个栈上,把技能押在"能验证、能调优、能迁移"的那一侧,护城河不管姓谁,里面都有你的位置。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章