谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

2026-10-23 16:35:01 0点赞 0收藏 0评论

快科技10月23日消息,据报道,谷歌与亚马逊在PyTorch Conference 2026上同步放出软件大招。谷歌开源TorchTPU,亚马逊推出TorchNeuron,目标直指英伟达CUDA生态最坚固的壁垒:模型迁移成本。

谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

谷歌宣称,超过98%的既有PyTorch模型,只需将设备设定改为“model.to(‘tpu’)”,便能在TPU上运行。谷歌验证了近5000个Hugging Face高频模型,其中4917个完成端到端验证,Tier-1无崩溃通过率达98%。迁移时间压缩至几分钟到数天。

亚马逊的TorchNeuron同样采用开源策略(Apache 2.0授权),让PyTorch模型直接运行于Trainium2与Trainium3芯片。开发者只需修改少量配置,将指向CUDA的设定改为AWS Neuron,无需重写整套应用。

性能层面,TPU已展现出竞争力。据悉,16颗谷歌Ironwood TPU(TPU v7)运行Kimi K3模型,开启推测解码后,单用户生成速度达每秒709个token。同等配置的16块英伟达GB200搭配vLLM,速度为每秒452个token,TPU领先约57%。

谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

需要指出的是,CUDA的护城河,从来不只是GPU算力,而是二十年积累的工具链、开发者习惯与迁移成本。当TorchTPU和TorchNeuron把“换芯片”的软件门槛从数月压缩到几分钟,企业就有了按能效和价格重新选择硬件的底气,而英伟达的生态黏性,正被软件工具一点点撬开。

谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

编辑:红茶

【本文结束】如需转载请务必注明出处:快科技

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松