英伟达 CUDA 的优势没有被抹掉，但它拦人的那道墙——把代码迁到其他平台上所付出的工程成本——正在被 AI 实打实地推平。Anthropic 的 IPO 路演内容在 11 月 11 日被媒体披露：联合创始人兼首席算力官 Tom Brown 表示，其前沿模型 Claude Mythos Preview 在基本没有人工干预的情况下，用约三天就自主完成了核心 GPU 底层计算内核的代码移植与重写，让 Claude 模型在 AMD 旗舰 GPU 上跑通了关键推理环节。36氪
作为对照，Anthropic 自家过去的经验是：把大模型适配到一款全新异构芯片，意味着数十名顶级编译器与高性能计算工程师，长达 6 到 12 个月的攻坚周期。硅谷投资人 Marcelo P. Lima 随即断言“英伟达的 CUDA 护城河已经不复存在”，一线系统分析师则反驳：CUDA 是二十年打磨、涵盖软硬件协同与工业级稳定性的庞大系统工程，绝不是几段可以独立转译的算子代码。所以“开发者现在要不要换平台”的答案是：今天不必换，但衡量它的尺子已经换了。36氪
三天证明了什么：第一道门槛被跨过
路演的边界条件其实写得很具体：Mythos 实际达成的指标，是让某款 Claude 模型的提示词处理阶段（Prefill），在配备 288GB HBM3E 显存的 AMD Instinct MI355X 上达到了可用性能。而后面逐字生成的 Decode 阶段，更依赖多卡互联带宽与极低的网络通信延迟，Anthropic 也并未在路演中公布具体的吞吐量基准与性能损耗对照。换句话说，“三天”证明的是“编译通过、能跑起来”不再需要人海堆出来；生产级的端到端等价，目前还没有公开证据。36氪
82% 的成功率，不等于 82% 算得对
国内工具链上同样的落差已经被量化。根据 FlagOS 社区公布的实验，KernelGen 的算子生成成功率为 82%，但整体数值正确率只有 62%。在由上海人工智能实验室主办的 KernelSwift 算子创新大赛里，智源团队用 KernelGen 完成了昇腾、沐曦、天数、燧原等十款芯片上的十道 Triton 赛题，以 9237 分排名第一，其中 mhc_post 一道题把昇腾 910B4 上的耗时从 2.345 ms 压到 0.446 ms、取得 5.26 倍加速。FlagOS 2.2 公布的数据则显示，在 8 款芯片上自动生成完成的算子数量从 77 到 551 不等，全部通过精度评测。知乎知乎知乎
这些数字不能一律往大写。Meta 的工程团队在 Triton 北美大会上承认，即便有了 Agent，在很多内存带宽受限的算子上，也未必能轻易超过成熟 Triton Kernel 的性能。能编译、能算对、能跑快，是算子编译器必须跨越的三个门槛，而 CUDA 的壁垒从来不只建立在第一个门槛上。知乎知乎
英伟达正在把护城河换成另一种形状
“优势没了”的反证就在同一周。英伟达正式发布 CUDA 13.5，跨主要新平台提供全面可用（GA）功能，对 Vera Rubin 平台的支持从开发者早期访问转入正式发布。另一侧，开发者对 CUDA C++ 的直接依赖正在下降，英伟达自己也在通过 CuTe DSL、cuTile、CUDA Tile IR 等工具把更多硬件能力封装成高层编程接口。真正的残余壁垒在框架和系统层：vLLM 内部按 CUDA 分路的调用点大约有 207 处，第三方 runtime 的接口形态像不像 CUDA，直接决定了这些调用点能否被原样复用。知乎知乎知乎
开发者该做的不是换平台，而是换算法
分层看，决策其实很清晰。绝大多数应用层和训推开发者的日常工作早已落在 PyTorch、vLLM、Triton 的抽象后面，底层震荡传导到这里需要时间，不必恐慌式迁移。真正可以立即小规模试跑的是推理成本敏感、或有跨芯合规诉求的团队：谷歌已开源 TorchTPU，4917 个模型、97% 对齐 GPU，TPU 变成 PyTorch 原生设备。但验收口径要用“数值正确率＋端到端吞吐”，而不是“编译成功率”。36氪
值得持续盯住的信号有三个。一是 KernelGen 的开放节奏，其最新版尚未上线，何时对公众开放将直接反映多芯算子工具的成熟度。 二是 Anthropic 与 AMD 是否公布 Decode 阶段与吞吐基准，这背后是一份已经签下的生意——Anthropic 计划部署最高达 2GW 的 AMD Instinct MI450 系列 GPU 集群，其中首期 1GW 预定于 2027 年上半年上线。 三是 vLLM 等主流框架里英伟达 CUDA 分路的调用点是否开始缩减。对 CUDA 底层工程师，退出也不是选项：Agent 工作流最缺的，恰恰是读得懂执行证据、能做编译器与 Profiling 层调试的人。CUDA 优势的消退不是一个开关，而是一场正在进行的护城河搬家；换平台不着急，换标尺要趁早。知乎36氪
