美东时间11月9日,谷歌发布第八代TPU的两款新变体:TPU 8tx和TPU 8i Max。 8tx面向政府机构及受监管行业的保密计算需求,并与AMD芯片协同工作;8i Max则把两颗TPU封装在一起,用封装换取算力和内存容量,服务需要长上下文窗口的AI应用。 谷歌芯片负责人瓦赫达特说得很直白:这两款不是从头设计的新芯片,而是在现有芯片基础上重新配置,预计明年推出。财联社每日经济新闻新浪财经
对云用户来说,这次发布改变的不是单卡性能上限,而是算力的选法:谷歌一年内把TPU铺成覆盖训练、推理、机密计算、长上下文四种场景的产品矩阵,同一时间还开放了配套的PyTorch软件栈,GPU之外的"非英伟达选项"第一次把芯片、软件、购买渠道凑齐了三层。但新选项有明确的边界——新品明年才落地,谷歌现有TPU货源已被预订一空,零部件短缺仍在制约供货。财联社
两年一代变一年四款,训推拆分继续切细
谷歌芯片部门过去大约每两年推出一代TPU,今年4月22日的谷歌云Next大会上,第八代TPU一口气发布两款——主攻模型训练的TPU 8t和主攻推理的TPU 8i,训练与推理第一次被拆成两条独立产品线。财联社
训练侧的8t,单个超级芯片组可扩展至9600颗芯片、共享2PB高带宽内存,芯片间带宽翻倍,整套架构提供121 ExaFlops计算能力。36氪
推理侧的8i则把账算在性价比上:与上一代产品相比,这批创新让每美元性能提高80%,企业能以同样成本服务近两倍的客户量。36氪
11月9日的两款新品,把这个矩阵剩下的两格填满。8tx主要面向需要处理安全、机密数据的客户,例如政府机构以及受到严格监管的行业企业,它与AMD芯片协同工作,属于谷歌与AMD合作的一部分。 8i Max对应的则是超长上下文负载——上下文越长,KV缓存吃掉的内存越多,单颗芯片的容量和带宽最先触顶,两颗芯片封装在一起,就是直接向容量要空间。新浪财经
切分背后是需求结构在变。集邦咨询预测,2026年北美五大云服务商的AI训练算力增长56%,推理算力将暴增122%,后者增速是前者的两倍以上。 推理成为算力消耗的主场之后,单位token成本比峰值性能更受重视,芯片设计自然按场景越切越细。经济观察报
便宜约30%:要分开看的三本账
市场把这次发布读成对英伟达的直接冲击,成本是主要论据。彭博行业研究分析师估算TPU综合成本比英伟达GPU便宜约30%,在吞吐量上有竞争力,但谷歌TPU业务的利润率仍不如英伟达;该机构同时预计到2028年谷歌TPU相关销售额将超过1350亿美元,远高于今年预计的120亿美元。 前一个是第三方估算,后一个是机构预测,都不构成谷歌官方定价或指引。微博
推理端另有实测口径:当前一代TPU v7搭配新推理栈,在8K输入、1K输出的场景下,每百万token成本已降到2.01美分,比9月首次测得时低了约四成。 客户动向与数字互相印证:Anthropic签下最多100万颗TPU的使用协议,Meta被曝达成数十亿美元的租用合约;彭博社称谷歌正凭性价比吸引苹果、Meta等客户,并已开始向自家云业务以外的客户出售这些芯片。 今年6月起,谷歌改变只通过云租用的模式,宣布向第三方数据中心及客户直接出售自研TPU芯片及配套AI算力硬件。36氪IT之家雷科技
软件墙拆掉之后,换赛道还剩什么门槛
芯片好卖不等于生态能迁移。10月底的圣何塞PyTorch大会上,谷歌宣布开源TorchTPU,这是一套让PyTorch原生运行在TPU上的完整软件栈,TPU由此与GPU、CPU并列成为PyTorch原生选项。 对普通AI团队而言,"要不要试试TPU"从过去重写整套工程,变成了一次可以负担的评估。机器之心
但要留意的边界同样来自谷歌自己的报告:它持续在TPU上测试HuggingFace下载量最高的约5000个模型,共4917个可跑通,657个代表性架构里97%的输出与GPU数值一致;可报告也承认,只改一行代码拿不到峰值性能,模型形状、分片和算子选择可能本就偏向GPU,CUDA打磨二十余年,新算法研究仍以GPU为首选。 发布同一天,谷歌还宣布Pathways在谷歌云正式全面开放——这个训练Gemini的分布式运行系统开始向云客户出售,TPU的竞争从单卡参数进一步挪到了系统级。机器之心财联社
云用户现在该盯什么
股价反应给不出结论,只提供情绪:隔夜美股收盘,英伟达跌4.27%,一夜之间市值缩水超过1900亿美元,折合人民币1.28万亿。 而费城半导体指数涨超6%,资金明显正从单一龙头流向其他算力链条——市场开始给"算力非英伟达不可"打折,但这不等于格局已定。微博
对处在选型位置的团队,眼下能用的选项其实来自今年已落地的部分:推理类负载可以拿在售TPU加PyTorch新栈做成本测算,受监管行业可以等明年8tx上市后再评估机密计算方案,长上下文负载则盯8i Max的出货节奏。真正值得盯的三个信号是:明年两款新品能否如期交付并在谷歌云开放、零部件短缺下谷歌给出的供货与价格条件、首批第三方客户在生产环境跑出的每token成本。谷歌的野心已经从自用降本转向对外卖系统,1350亿美元的机构预测能否兑现取决于这三件事——在此之前,多数团队更稳妥的姿态,是把它当作一个正在变便宜、但还没到全面替换时点的备份选项。