一行代码换芯片:谷歌开源TorchTPU,英伟达的护城河还在吗

源自43位全网作者

10-22 09:30

10月20日PyTorch大会,谷歌开源了TorchTPU——一套和Meta PyTorch团队共建的TPU原生软件栈。卖点简单粗暴:把`.to(“cuda”)`改成`.to(“tpu”)`,模型就从英伟达GPU搬进谷歌TPU。深科技智东西知乎

一行代码换芯片:谷歌开源TorchTPU,英伟达的护城河还在吗

关注英伟达的人得心里一咯噔:这次对准的不是算力,是CUDA这条命根子。

CUDA为什么是命根子

2006年推出的CUDA,英伟达耕了整整20年。cuDNN、NCCL、TensorRT,建起庞大的软件生态。过去想换芯片,等于搬家重新装修:改源码、忍编译延迟、重调分布式,没几家敢想。深科技知乎

一行代码换芯片:谷歌开源TorchTPU,英伟达的护城河还在吗

这次是全家桶上阵

这不是一个驱动的发布——四个仓库同一天开:torch_tpu、vllm-torchtpu、sglang-torchtpu,加上TorchTitan集成,一场排练过的生态突袭。Hugging Face Transformers v5里,一句`device_map=“tpu”`就能部署到TPU。知乎智东西

训练侧,TorchTitan已在最多8000颗Ironwood TPU上完成验证,Qwen3-8B跑出最高52%的浮点利用率。智东西深科技

一行代码换芯片:谷歌开源TorchTPU,英伟达的护城河还在吗

前一天,亚马逊刚发布TorchNeuron,给Trainium干同样的事。两大云巨头目标一致:换芯片,不用换代码。深科技

Meta的姿态尤其微妙。作为英伟达的大客户之一,它的PyTorch工程总监把话挑明:不能被单一硬件架构绑住。全球最大的PyTorch用户亲手修路离开CUDA——在那个采购量级上,"有的选"就是议价权。知乎

三盆冷水,先泼为敬

一,不是所有CUDA程序都能直接跑。标准PyTorch项目改一行就行,自定义算子、手写Kernel照样得适配。深科技

二,52%的MFU不等于比英伟达快52%——那只是特定配置下的硬件利用率,且全是谷歌自报,暂无第三方复现。深科技知乎

三,最要命的问题藏在HN热帖里。高赞第一问:谷歌云之外,哪儿买TPU?答案基本是——没有,除非你是Anthropic量级的直采客户。而英伟达的卡,好歹谁有钱都能买(虽然抢不抢得到另说)。知乎

护城河没塌,但下沉了一层

真正的影响在这:当框架层标准化,`.to(“tpu”)`和`.to(“trainium”)`变得一样无聊,竞争就被逼回框架之下——谁能造出芯片、分配到加速器。那一层,谷歌的牌不差。SemiAnalysis 9月首份第三方实测:Ironwood每美元性能最高领先B200和B300达50%。知乎华尔街见闻

Anthropic最多100万颗TPU的世纪订单已确认,2026年内上线超1GW容量。知乎华尔街见闻

一行代码换芯片:谷歌开源TorchTPU,英伟达的护城河还在吗

到底该不该慌

短期不用。英伟达GPU仍有成熟生态和开发者基础,很难被一次开源撬动。谷歌云自己也明确,将继续在云平台提供英伟达计算产品。智东西深科技

但方向值得警惕:这是"离开英伟达"第一次从重大工程变成配置项。未来两三年,真搬业务的企业越多,护城河才开始被侵蚀。深科技

墙还立着,但门的价目表已经贴出来了。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章