这两天AI算力圈发生了一件比"字节阿里腾讯砸350亿美元抢卡"更值得细品的事,只是它没那么热闹。
10月19日,亚马逊发布 TorchNeuron,20日在圣何塞的 PyTorch Conference 2026 上以 Apache 2.0 协议开源。同一天,谷歌正式宣布开源 TorchTPU,让 TPU 成为 PyTorch 的原生后端。这也不是谷歌单打独斗——TorchTPU 是和 Meta 的 PyTorch 团队共同开发的。知乎哔哩哔哩知乎
事件落地后,圈内反应很快。IT之家今早跟进报道,知乎上已经挂出了新问题:谷歌正式开源 TorchTPU,能否撼动英伟达 CUDA 的生态壁垒?知乎
48小时,两大云巨头,两个开源自研芯片的 PyTorch 原生后端。这不是巧合,是一场约好了的围攻。
先把事实摆清楚:这次开源的是什么
亚马逊 TorchNeuron:开发者把模型 `.to(‘neuron’)` 一行代码,原有 PyTorch 代码和调试工具就能跑在 Trainium2/Trainium3 上,支持 eager 模式、torch.compile 和自研 NKI 内核,还配套了 vLLM Neuron 推理插件。知乎
官方口径:已有30多家早期客户,覆盖机器人、世界模型与语音AI,自研芯片业务年化营收超250亿美元。更狠的是,亚马逊还计划向 PyTorch 主项目贡献代码,减少框架对特定 GPU 架构的依赖。知乎知乎
谷歌 TorchTPU:合作生态名单相当能打——Hugging Face、vLLM、SGLang、TorchTitan、Ray,基本把大模型训练和推理的主流基础设施一网打尽。谷歌还秀了肌肉:TorchTitan 在 Ironwood TPU 上支持最高8192颗芯片的大规模分布式训练,Qwen3 8B 训练测试中实现约52%的模型浮点运算利用率(MFU)。知乎
这里要先泼一盆冷水,也是最容易被营销号带偏的地方:52% MFU 不等于"比英伟达快52%"。MFU 衡量的是实际计算量占硬件理论算力的比例,反映的是软件栈把硬件"喂饱"的能力,跨硬件比较速度完全是另一回事。这些官方指标仍需独立测试验证,不能直接据此认定 TPU 已经全面超越英伟达 GPU。知乎
而且围攻 CUDA 的阵容远不止这两家。DeepSeek 9月30日开源了面向华为昇腾的六件基础设施组件,涵盖 TileLang 编译工具、计算库和分布式通信库,并且特意强调——与面向英伟达平台的组件一一对应。知乎

AMD 那边,10月19日的技术博客显示 Nunchux 在8卡 MI355X 上优化 MiniMax-H3 视频生成,与 SGLang 基线相比15秒成品产出时间从150.5秒降到6.49秒,约23倍——同样硬件只换运行时和内核,就能榨出这种差距。知乎"连英伟达都承认消费级显卡已经失控"那个32万浏览的问题下,高赞回答说得更直白:消失的不光是 CUDA 的护城河,还有消费级显卡的护城河——AMD 社区已经有 DLSS 移植版了。知乎知乎
为什么这一刀捅得准:CUDA 的墙,砌的不是算力
很多人以为英伟达的护城河是芯片快。不对。2006年 CUDA 发布至今近20年,这堵墙真正的砖是迁移成本:cuDNN、NCCL、TensorRT、无数经过长期打磨的算子库、调试工具,以及围绕英伟达硬件测试优化的海量开源项目和受过训练的工程师。用一位作者的话说,拆的从来不是算力,CUDA 真正的护城河不是峰值 FLOPS,而是"换芯片要重写一遍"。买别家芯片,硬件价格只是账单的一部分,软件重写、性能调优、系统维护、人员培训才是大头。知乎

所以过去挑战者屡战屡败:你芯片再快,开发者一想到"要重写一遍代码"就退缩了。
这次谷歌和亚马逊换了打法——不复制 CUDA,而是把 PyTorch 变成"共同入口"。逻辑链是这样的:全球绝大多数 AI 开发者已经用 PyTorch 写模型;那就让 TPU 和 Trainium 成为 PyTorch 的原生后端;于是开发顺序被倒转了——过去是"先选芯片、再学它的软件生态",未来是"先用 PyTorch 写模型,再根据价格、性能和供应情况挑硬件"。
微博上一位 AI 博主去年12月路透刚曝出 TorchTPU 项目时就点破了要害:守着 JAX 的话英伟达并不怕,动 PyTorch 才是要害。此前 TPU 深度绑定谷歌自家的 JAX 框架,等于只服务自己的一亩三分地;现在直接接入全球最大的框架生态,性质完全变了。微博
更微妙的是这两家的身份:谷歌和亚马逊在云计算市场互为死敌,却在这件事上利益完全一致——他们既是英伟达最大的客户之一,又都不想继续把利润的大头交给老黄。Meta 参与共同开发的动机也一样:作为全球顶级 AI 基建买家,多一种可用的计算架构,就多一分采购议价权。
墙会倒吗?先别急着下结论
反方的证据同样要摆出来:
TorchTPU 不等于所有 CUDA 程序直接能跑。涉及 CUDA 专用算子、自定义 Kernel 和硬件特定优化的应用,仍需要适配和调优,降低迁移门槛不等于迁移成本归零。知乎
企业换算力平台是一整套决策:模型精度、运行稳定性、集群网络、调试工具链、每 Token 成本,任何一项翻车都足以让人退回英伟达。
谷歌和亚马逊自己都没抛弃英伟达。谷歌明确表态云平台上会继续提供英伟达产品,大厂普遍是"自研芯片+第三方GPU"混部。就连据报订购超300万张 RTX PRO 5500、总价超350亿美元的字节、阿里、腾讯,也在用真金白银投票:现阶段该买还是得买。知乎
所以更现实的判断是:这一波不会"终结 CUDA",但会把 AI 算力市场从单一架构高度集中,推向多架构并存。真正的观察窗口是未来两三年——会不会有企业在不显著增加软件成本的前提下,把实际业务规模化迁出英伟达。

跟你有啥关系?三类人三种看法
如果你是拿 N 卡跑本地 AI 的玩家:短期内不用慌,CUDA 在消费级生态里依然是最顺滑的选择,你的 4090/5090 该跑什么跑什么。但有一个长期变量值得盯:大厂疯抢工作站卡、消费级显卡和内存被 AI 需求挤到涨价失控,这轮"挤压"能持续多久,恰恰取决于这场软件战——如果推理算力未来大规模流向 TPU/Trainium 这类自研芯片,GPU 的供需紧张才可能真正松动。换句话说,TorchTPU 每前进一步,"等等党"的胜算就多一分。

如果你关注英伟达概念股:别把这条新闻读成"CUDA 明天就塌",市场没那么简单。英伟达市值最近本来就经历剧烈回调(知乎热问题的标题是"9天蒸发4万亿"),苹果刚以突破5万亿美元的市值逼近英伟达的王座,华尔街正在重新给"AI 高资本开支"定价。软件生态被围攻,动摇的是长期溢价叙事里最贵的那一块。接下来盯三个可验证信号:PyTorch 主项目是否真的合并亚马逊贡献的代码;Anthropic、Meta 这类大客户是否宣布在 TPU/Trainium 上规模化跑生产负载;以及英伟达自己数据中心业务的增速和毛利率有没有拐点。36氪
如果你是纯游戏玩家:这事对你眼下没有直接影响,但长期反而是个好消息的胚子——英伟达的 AI 溢价逻辑如果被削弱,游戏显卡业务在它的战略版图里就得重新被当回事,而不是像现在这样,消费级卡沦为 AI 算力的"边角料生意",连英伟达自己都承认消费级显卡已经失控。知乎
最后说两句
过去二十年,英伟达最聪明的一步棋不是造出最快的芯片,而是让"换芯片"变成一件痛苦的事。现在,谷歌和亚马逊正在把这份痛苦拆解、开源、然后分发给所有人。
这场仗的胜负手不在发布会的 PPT 上,而在未来两三年每一个真实业务负载的迁移决策里。CUDA 的墙不会一夜倒塌,但梯子已经架上去了——而且架梯子的人,手里有的是钱和耐心。
你觉得 PyTorch 成为"万能入口"之后,英伟达的溢价还能撑几年?评论区聊聊。