Anthropic 在 IPO 路演中披露的一组数字,把"换芯片"重新推上了热榜:其 Claude Mythos Preview 模型在 AMD MI355X 上完成适配,周期从行业传统的 6 到 12 个月压缩到约 3 天,几乎 100% 的底层 GPU 内核由模型自主移植或编写。摩根大通随后在研报中给出呼应:一年前,在 AMD GPU 上完成模型迁移需要 6 至 12 个月、工程成本高且繁琐,如今借助最新 AI 模型辅助,3 天即可完成。36氪今日头条知乎
但"3 天"没有回答企业真正关心的问题:CUDA 生态绑定的成本,究竟由哪几项构成,哪一项被 AI 工具压掉了,哪一项还纹丝不动。
答案可以先给结论:换芯片的成本从来不是一个数,而是一串——语法翻译、数值对齐、性能回收、通信层适配、生态排障。AI 目前只把第一项的工时打到了接近于零;剩下四项,按一份被工程圈广泛转引的拆解,通常让总工期在翻译之外再翻倍甚至更多。
绑定在哪里:不是代码,是框架之下的一整层
CUDA 2006 年发布,二十年里英伟达围绕它积累了底层计算库、编译链、性能分析工具、多卡通信组件,以及数百万开发者的使用习惯,主流深度学习框架多年来也始终默认把 CUDA 排在第一优先级。结果是一种结构性绑定:不是你的模型离不开英伟达,而是模型下面那一层——算子、内核、通信库、调优参数——全是按英伟达微架构写的。36氪
传统上每引入一种新芯片架构,要自下而上重写一整套系统工程:适配底层计算内核、重构推理软件栈、排查微架构兼容性,再进行极为繁琐的性能优化。即使竞品的纸面算力和显存配置足够出色,为英伟达深度优化的代码也不会因为"接口一致"就自动跑满。
一个常被误用的概念是"兼容率"。一份工程侧的拆解把兼容拆成三层:能编译、能跑对、能跑满,三件事难度差着量级;而厂商宣传常把不同分母的数字放在一起——92.94% 是项目跑通率,761 是接口数量,80% 与 95% 是 API 覆盖且分属两代产品,99% 是算子覆盖度,横向排名本身没有意义。评估迁移成本的第一步不是看参数表,是数清楚自己代码里有多少不可替换的内核。

换芯片的真实账单:五笔钱,四笔还没降价
第一笔:语法翻译——被工具接管,但失败率集中在要害。 AMD 官方的 hipify 工具文档承认不能无缝转换所有 CUDA 代码,一项基于 CASS 数据集的转换统计显示约 43.9% 的文件转换失败被丢弃,失败恰好集中在 WMMA、cuBLAS TensorOp 函数、内联 PTX 和硬编码 32 线程 warp 宽度这些性能要害上。另有应用团队报告 hipify 自动转换了绝大部分代码、人工改动不到 5%——样本群体不同,唯一可靠的结论是:自己的代码库必须自己扫一遍。Anthropic 披露的"3 天、近 100% 内核由 AI 编写",压掉的正是这一笔。知乎
第二笔:性能回收——还是人肉活,工期普遍翻倍。 转换工具处理语法,不碰调优。warp 宽度从 32 变 64、每线程可用缓存变小、占用率曲线不同,原来调好的分块尺寸、寄存器压力控制、内存访问合并模式全部失效。上述拆解给出的经验是:把性能回收算进去,工期通常在翻译工作量之上翻倍甚至更多,而且这项工时最难预测——只有做了才知道。这就是"能跑对但跑不满"的由来,也是"兼容 92% 听起来够用,实际全部重写"的真实含义。
第三笔:训练栈 vs 推理栈——差距一个数量级。 推理侧这两年确实变便宜了:智源 FlagOS 提供 vLLM 与 SGLang 插件,官方说明业务代码无需修改、只调环境依赖和启动参数;摩尔线程 MUSA 已成 vLLM 官方后端并合入 SGLang 主线;谷歌与 Meta 上个月开源 TorchTPU,谷歌称开发者只需"极少修改代码"就能把现有 PyTorch 工作流搬到 TPU 上。训练侧是另一套东西:集合通信库要换、并行策略要重配、混合精度数值要对齐、断点续训格式要兼容,任何一环出问题表现为训练不收敛,排查成本远高于推理精度比对。新浪财经
第四笔:通信层——最容易被漏掉的隐形项。 公开测量显示 NCCL 约为理论峰值带宽的 85%,AMD 的 RCCL 约 70%,国产集合通信库缺少可比的公开数据。典型失败形态是:单机和小规模验证一切正常,扩到几十张卡之后多机训练效率突然崩掉——不是模型的问题,是这一层从没被验证过。知乎
第五笔:生态排障——社区规模决定的等待成本。 CUDA 约六百万开发者、十五年以上的积累,意味着绝大多数报错都能搜到现成答案;作为对照,昇腾 CANN 开源社区月活开发者约五千余名。对缺少底层工程师的团队,踩坑时无人可问的排障时间,可能超过转换本身。
把五笔加总,公开估算的跨度非常大:有研究机构估计训练任务迁到昇腾,时间与成本至少增加 50%,业内认为这是相当务实的下限;参与过迁移的工程师给出的则更具体——已开源大模型借助现成生态约 2 到 3 名工程师一个月完成训练适配,仅公开权重不开放源码的商业模型约需 10 名工程师投入 6 个月以上。变量不是硬件,是代码的开放程度和复杂度。知乎
"3 天"改写了哪条规则,没改写哪条
先看清证据边界。按路演图表附注,Mythos Preview 实际达成的指标是让某款 Claude 模型的提示词处理阶段(Prefill)在 288GB HBM3E 显存的 MI355X 上达到可用性能——属于推理的计算密集环节;Decode 阶段依赖多卡互联与低延迟通信,路演没有公布吞吐量基准与性能损耗对照。"3 天干完半年的活"是真实的,但它证明的是内核翻译可以被模型接管,而不是整个技术栈的重写、多机训练和万卡生产稳定性被 3 天覆盖。36氪
即便如此,它改变的成本结构已经足够行业认真对待,三条线同步在动:
其一,买方开始多线布局。摩根大通策略师 Michael Cembalest 统计了主要前沿实验室宣布的、2026 年后部署的全部算力协议,总规模约 44 吉瓦,英伟达仅占 12.1GW、份额 28%,博通定制芯片 23%、AMD 18%、亚马逊 Trainium 16%、谷歌 TPU 14%。这与英伟达 2024 至 2025 年占据 AI 芯片收入八成到九成的地位形成反差。Anthropic 自己同时在英伟达、AMD、谷歌 TPU 与亚马逊 Trainium 之间管理算力池。AMD 与 Anthropic 的协议则包括最高 2GW 的 MI450 系列部署(首期 1GW 定于 2027 年上半年)和最高 50 亿美元的战略股权投资。知乎今日头条36氪

其二,各家厂商在主动拆自己的"入口墙"。FlagOS 多芯片插件、TileLang 这类中间层算子语言,都在把"每个使用者各自重写"的成本,转移到"厂商一次性完成后端对接"。公开报道称,DeepSeek V4 用到的每个 TileLang 算子,在昇腾上都有对应的高性能实现。当迁移工时可以被模型消化,硬件就从深度绑定的资产变成可替换的资源,75% 毛利率的定价权随之承压。知乎
其三,英伟达的护城河确实在变浅,但浅的方式不同以往。Epoch AI 的推理基准测试显示,AMD MI455X 综合评分约为英伟达 GB300 的 2.9 倍,高于其自家 Vera Rubin VR200 的约 2.2 倍。真正的挑战不在"对手造不出芯片",而在对手的软件债正在被 AI 自动清偿。知乎
什么时候值得动:一张自算成本的清单
对企业用户,换芯片的成本账可以按五步落地。第一步,冻结一个代表性负载,数清楚代码里自研内核、非标准接口、硬编码 warp 假设的数量——这个分母决定后面所有估算。第二步,分别预算翻译覆盖率和性能回收两笔钱,不要合并成一个数。第三步,单独验证通信层:多机多卡实测 all-reduce、all-gather、reduce-scatter 的带宽与延迟,小规模通过不等于规模可扩展。第四步,评估排障支撑:目标社区的月活规模、报错可检索程度,对小团队往往比兼容率更致命。第五步,灰度与回滚演练先于全量切换。
触发条件同样清晰:负载以推理为主、模型已开源、价格差足够覆盖工期翻倍、供应安全本身构成刚性约束。英伟达的芯片出口业务正面临美国联邦机构审查。四项满足得越多,迁移的性价比越高;反过来,深度定制训练栈、闭源权重、多机依赖重的业务,成本仍按 6 到 12 个月的旧规则计。新浪财经
AI 把换芯片最贵的那笔人力账——几十名专家一整年的底层攻坚——砍到了 3 天量级;但它砍不掉跑满性能、多机通信和生态支持这三段工期。对绝大多数企业来说,CUDA 解绑的真实进度不是"护城河消失",而是从"不敢换"变成"算得清什么时候值得换"。这道门一旦从恐惧变成算术,议价权和选择权才真正回到买方手里。
当前文章无评论,是时候发表评论了