谷歌两款新TPU瞄准英伟达,云用户选算力会有什么新选项

源自212位全网作者

09:21

美东时间11月9日,谷歌发布第八代TPU的两款新变体:TPU 8tx和TPU 8i Max。 8tx面向政府机构及受监管行业的保密计算需求,并与AMD芯片协同工作;8i Max则把两颗TPU封装在一起,用封装换取算力和内存容量,服务需要长上下文窗口的AI应用。 谷歌芯片负责人瓦赫达特说得很直白:这两款不是从头设计的新芯片,而是在现有芯片基础上重新配置,预计明年推出。财联社每日经济新闻新浪财经

对云用户来说,这次发布改变的不是单卡性能上限,而是算力的选法:谷歌一年内把TPU铺成覆盖训练、推理、机密计算、长上下文四种场景的产品矩阵,同一时间还开放了配套的PyTorch软件栈,GPU之外的"非英伟达选项"第一次把芯片、软件、购买渠道凑齐了三层。但新选项有明确的边界——新品明年才落地,谷歌现有TPU货源已被预订一空,零部件短缺仍在制约供货。财联社

两年一代变一年四款,训推拆分继续切细

谷歌芯片部门过去大约每两年推出一代TPU,今年4月22日的谷歌云Next大会上,第八代TPU一口气发布两款——主攻模型训练的TPU 8t和主攻推理的TPU 8i,训练与推理第一次被拆成两条独立产品线。财联社

训练侧的8t,单个超级芯片组可扩展至9600颗芯片、共享2PB高带宽内存,芯片间带宽翻倍,整套架构提供121 ExaFlops计算能力。36氪

推理侧的8i则把账算在性价比上:与上一代产品相比,这批创新让每美元性能提高80%,企业能以同样成本服务近两倍的客户量。36氪

11月9日的两款新品,把这个矩阵剩下的两格填满。8tx主要面向需要处理安全、机密数据的客户,例如政府机构以及受到严格监管的行业企业,它与AMD芯片协同工作,属于谷歌与AMD合作的一部分。 8i Max对应的则是超长上下文负载——上下文越长,KV缓存吃掉的内存越多,单颗芯片的容量和带宽最先触顶,两颗芯片封装在一起,就是直接向容量要空间。新浪财经

切分背后是需求结构在变。集邦咨询预测,2026年北美五大云服务商的AI训练算力增长56%,推理算力将暴增122%,后者增速是前者的两倍以上。 推理成为算力消耗的主场之后,单位token成本比峰值性能更受重视,芯片设计自然按场景越切越细。经济观察报

便宜约30%:要分开看的三本账

市场把这次发布读成对英伟达的直接冲击,成本是主要论据。彭博行业研究分析师估算TPU综合成本比英伟达GPU便宜约30%,在吞吐量上有竞争力,但谷歌TPU业务的利润率仍不如英伟达;该机构同时预计到2028年谷歌TPU相关销售额将超过1350亿美元,远高于今年预计的120亿美元。 前一个是第三方估算,后一个是机构预测,都不构成谷歌官方定价或指引。微博

推理端另有实测口径:当前一代TPU v7搭配新推理栈,在8K输入、1K输出的场景下,每百万token成本已降到2.01美分,比9月首次测得时低了约四成。 客户动向与数字互相印证:Anthropic签下最多100万颗TPU的使用协议,Meta被曝达成数十亿美元的租用合约;彭博社称谷歌正凭性价比吸引苹果、Meta等客户,并已开始向自家云业务以外的客户出售这些芯片。 今年6月起,谷歌改变只通过云租用的模式,宣布向第三方数据中心及客户直接出售自研TPU芯片及配套AI算力硬件。36氪IT之家雷科技

软件墙拆掉之后,换赛道还剩什么门槛

芯片好卖不等于生态能迁移。10月底的圣何塞PyTorch大会上,谷歌宣布开源TorchTPU,这是一套让PyTorch原生运行在TPU上的完整软件栈,TPU由此与GPU、CPU并列成为PyTorch原生选项。 对普通AI团队而言,"要不要试试TPU"从过去重写整套工程,变成了一次可以负担的评估。机器之心

但要留意的边界同样来自谷歌自己的报告:它持续在TPU上测试HuggingFace下载量最高的约5000个模型,共4917个可跑通,657个代表性架构里97%的输出与GPU数值一致;可报告也承认,只改一行代码拿不到峰值性能,模型形状、分片和算子选择可能本就偏向GPU,CUDA打磨二十余年,新算法研究仍以GPU为首选。 发布同一天,谷歌还宣布Pathways在谷歌云正式全面开放——这个训练Gemini的分布式运行系统开始向云客户出售,TPU的竞争从单卡参数进一步挪到了系统级。机器之心财联社

云用户现在该盯什么

股价反应给不出结论,只提供情绪:隔夜美股收盘,英伟达跌4.27%,一夜之间市值缩水超过1900亿美元,折合人民币1.28万亿。 而费城半导体指数涨超6%,资金明显正从单一龙头流向其他算力链条——市场开始给"算力非英伟达不可"打折,但这不等于格局已定。微博

对处在选型位置的团队,眼下能用的选项其实来自今年已落地的部分:推理类负载可以拿在售TPU加PyTorch新栈做成本测算,受监管行业可以等明年8tx上市后再评估机密计算方案,长上下文负载则盯8i Max的出货节奏。真正值得盯的三个信号是:明年两款新品能否如期交付并在谷歌云开放、零部件短缺下谷歌给出的供货与价格条件、首批第三方客户在生产环境跑出的每token成本。谷歌的野心已经从自用降本转向对外卖系统,1350亿美元的机构预测能否兑现取决于这三件事——在此之前,多数团队更稳妥的姿态,是把它当作一个正在变便宜、但还没到全面替换时点的备份选项。

精选参考来源

1
#谷歌推出两款新TPU芯片# #曝谷歌向英伟达发起挑战# 【谷歌发布TPU 8tx和8i Max 加速挑战英伟达AI芯片主导地位】财联社11月9日讯,谷歌当地时间周一发布第八代TPU的两款新变体,分别瞄准机密计算和长上下文AI应用,通过细分产品线进一步挑战英伟达。TPU需求旺盛、货源已被预订一空,但零部件短缺制约供货,AI基建支出放缓的风险也仍未消散。据媒体当地时间11月9日报道,谷歌当天发布张量处理单元(TPU)的两款新变体:TPU 8tx和8i Max。TPU是谷歌自研的AI专用芯片系列,用于AI模型的训练和推理,与英伟达的GPU形成竞争。谷歌芯片部门过去大约每两年推出一代TPU。据谷歌官网信息,该公司今年4月22日在谷歌云Next大会上同时发布了第八代TPU的两款芯片,即主攻模型训练的TPU 8t和主攻推理的TPU 8i。此次的8tx和8i Max正是在这两款芯片的基础上衍生而来,第八代TPU由此扩展至四款,开发节奏明显加快。(编辑 李莹) 谷歌发布TPU 8tx和8i Max 加速挑战英伟达AI芯片主导地位
2
#谷歌TPU芯片明年上新#【#谷歌将推两款新TPU芯片#】11月9日,据报道,谷歌将推出两款新型张量处理器(TPU)芯片TPU 8tx和8i Max,以满足不同AI应用需求。其中,TPU 8tx面向政府机构及受监管行业的保密计算需求,并与AMD芯片协同工作;TPU 8i Max主要面向需要长上下文窗口的AI应用,通过将两颗TPU芯片封装在一起提升算力和内存容量。谷歌芯片负责人Amin Vahdat表示,两款新产品预计将于明年推出。(财联社,艾塔)
全部
来源
内容由AI生成

精选参考来源

1. #谷歌推出两款新TPU芯片# #曝谷歌向英伟达发起挑战# 【谷歌发布TPU 8tx和8i Max 加速挑战英伟达AI芯片主导地位】财联社11月9日讯,谷歌当地时间周一发布第八代TPU的两款新变体,分别瞄准机密计算和长上下文AI应用,通过细分产品线进一步挑战英伟达。TPU需求旺盛、货源已被预订一空,但零部件短缺制约供货,AI基建支出放缓的风险也仍未消散。据媒体当地时间11月9日报道,谷歌当天发布张量处理单元(TPU)的两款新变体:TPU 8tx和8i Max。TPU是谷歌自研的AI专用芯片系列,用于AI模型的训练和推理,与英伟达的GPU形成竞争。谷歌芯片部门过去大约每两年推出一代TPU。据谷歌官网信息,该公司今年4月22日在谷歌云Next大会上同时发布了第八代TPU的两款芯片,即主攻模型训练的TPU 8t和主攻推理的TPU 8i。此次的8tx和8i Max正是在这两款芯片的基础上衍生而来,第八代TPU由此扩展至四款,开发节奏明显加快。(编辑 李莹) 谷歌发布TPU 8tx和8i Max 加速挑战英伟达AI芯片主导地位

2. #谷歌TPU芯片明年上新#【#谷歌将推两款新TPU芯片#】11月9日,据报道,谷歌将推出两款新型张量处理器(TPU)芯片TPU 8tx和8i Max,以满足不同AI应用需求。其中,TPU 8tx面向政府机构及受监管行业的保密计算需求,并与AMD芯片协同工作;TPU 8i Max主要面向需要长上下文窗口的AI应用,通过将两颗TPU芯片封装在一起提升算力和内存容量。谷歌芯片负责人Amin Vahdat表示,两款新产品预计将于明年推出。(财联社,艾塔)

3. 【#谷歌推出芯片新品进一步挑战英伟达#】谷歌扩充 TPU 芯片阵容,推出 8tx/8i Max 两款新品挑战英伟达据彭博社报道,Alphabet 旗下谷歌正在扩大人工智能芯片产品阵容,希望借助自身在 AI 芯片市场的快速崛起,进一步挑战英伟达。这一市场规模已达数千亿美元。谷歌将推出两款新的张量处理单元(TPU)。TPU 是谷歌自主设计的专用芯片,主要用于开发和运行 AI 软件。此次推出的新版本分别针对机密计算,以及帮助 AI 模型在处理请求时访问更广泛的信息。总体而言,这些芯片旨在满足行业向 AI 智能体转型过程中不断增长的需求,同时应对随之而来的安全挑战。此次发布也意味着谷歌芯片部门正在加快产品迭代速度。过去,谷歌通常每两年推出一款新的 AI 处理器;今年,该部门一次性推出了两款芯片。而即将在周一发布的最新版本,将进一步扩充这两款芯片的产品阵容。谷歌芯片业务负责人阿明 · 瓦赫达特(Amin Vahdat)在接受采访时表示,四款 TPU 产品将分别针对不同需求进行优化。他说:“这实际上遵循了谷歌一直坚持的一个理念:未来将属于专业化,而专业化带来的优势仍然十分显著。”谷歌选择在 AI 芯片行业局势动荡之际进一步扩大布局。市场对 AI 基础设施投资可能放缓的担忧,已经令科技股出现震荡;而美国中期选举中民主党取得胜利,也让数据中心项目面临新的不确定性。不过,市场对英伟达 AI 处理器的需求依然超过其供应能力,这为谷歌及其他竞争者留下了发展空间,使它们有机会在这一市场建立规模可观的业务。瓦赫达特表示,新推出的 TPU 8tx 和 TPU 8i Max 并非完全重新设计的芯片,而是在现有芯片基础上重新配置,以满足客户提出的具体需求。其中,TPU 8tx 主要面向需要处理安全、机密数据的客户,例如政府机构以及受到严格监管的行业企业。该系统将与 AMD 的芯片协同工作,这是谷歌与 AMD 合作的一部分。TPU 8i Max 则面向需要运行超长上下文窗口 AI 应用的场景。上下文窗口决定了 AI 系统在处理单次请求时能够考虑多少数据。瓦赫达特表示,这类能力对于药物研发和数学计算等任务十分重要,同时也对编程类应用具有重要意义。TPU 所处的市场目前主要由英伟达的图形处理器(GPU)主导。十多年前,谷歌便开始研发这项技术,并与博通(Broadcom)合作,由后者协助芯片设计并协调生产。谷歌最初研发 TPU,是为了更高效地满足这家搜索巨头不断增长的计算需求。随后,谷歌发现 TPU 在 AI 计算领域同样具有巨大潜力,如今已经开始向自家云计算业务以外的客户销售这些芯片。(IT之家)

4. 谷歌推出第八代TPU,3倍性能、2倍带宽,搭配自研CPU

5. AI算力变局:TPU正成为“另一个选项”

6. #黄仁勋或被英伟达免职#谷歌再推两款AI芯片,分析师估算:比英伟达GPU便宜约30% 谷歌11月9日又推出两款AI芯片,TPU 8tx和TPU 8i Max,一款主打机密计算,一款主打超长上下文,让它的TPU产品线扩到四款。谷歌芯片负责人瓦赫达特说,这两款不是从头设计的新芯片,而是在今年4月发布的TPU 8t和8i基础上改出来的,预计明年上市。据彭博行业研究分析师估算,TPU成本比英伟达GPU便宜约30%,在吞吐量上有竞争力,但谷歌TPU业务的利润率还是不如英伟达。行业研究预计,到2028年谷歌TPU相关销售额将超过1350亿美元,远高于今年预计的120亿美元。#微博视频精选大赏##海外编译精选##热点聚焦##谷歌发tpu芯片挑战英伟达# 干弟Nick在学英语的微博视频

7. 谷歌开源TorchTPU,TPU成PyTorch原生设备,CUDA最深的护城河开始松动

8. 【谷歌扩充 TPU 芯片阵容,推出 8tx/8i Max 两款新品挑战英伟达】谷歌推出 TPU 8tx 与 TPU 8i Max 两款专用 AI 芯片,分别面向机密计算与超长上下文场景,依托性价比优势吸引苹果、Meta 等客户,正式向英伟达主导的千亿级 AI 芯片市场发起挑战。#谷歌TPU#

9. Google开卖TPU,大厂想要靠AI芯片生产“低价token”

10. 实时播报: 【谷歌宣布Pathways在云端正式全面开放】11月9日,谷歌宣布,Pathways现已在Google Cloud Platform正式全面开放。Pathways是谷歌自主研发的大规模分布式机器学习运行系统,曾用于训练Gemini等大型模型,目前向谷歌云客户开放。(财联社)

11. 涨爆了,纳指却大涨2.74%!今天A股高开后,最怕这一件事隔夜美股收盘,英伟达跌了4.27%,一夜之间市值缩水超过1900亿美元,折合人民币1.28万亿。按常理想,AI总龙头摔成这样,科技股还不集体慌神?结果恰恰相反——纳斯达克大涨2.74%,标普500涨2.35%,道指涨2.15%,费城半导体指数更是狂飙6.85%。AMD暴涨13.26%,应用材料涨超11%,博通涨超8%,连光通信的Coherent都涨了16.79%。一边是龙头大跌,一边是全场狂欢。这说明什么?市场的钱根本没走,只是换了个地方接着炒。这,才是今天A股最该读懂的那条暗线。一、美股为什么突然就"涨爆了"这次大涨,核心就两个字:油价。美伊核谈判传出实质性进展,直接重创原油,油价大跌。油一跌,通胀预期就降温;通胀一降温,12月加息的预期自然也就松了。资金一听这个信号,立刻大举杀回风险资产。再叠加AI交易延续了上周五的回暖势头,之前被压抑太久的科技板块,直接来了一波报复性反弹。说白了,这是一次"情绪+流动性"的双重修复,不是某一家公司基本面的突飞猛进。把这点想明白,后面你才不会看走眼。二、打破认知:英伟达跌,不等于AI行情死了这是今天最反常识、也最关键的地方。大多数人一看"英伟达跌4.27%",第一反应是:完了,AI要崩了。但事实恰恰相反——英伟达跌,是它自己的消息面风波,是资金从"一家独大"的英伟达,流向"百花齐放"的整个算力产业链。证据硬不硬?谷歌新推出的TPU 8tx采用了第五代EPYC处理器,直接把AMD在算力领域的地位往前推了一大步,AMD当天暴涨13.26%。而英伟达陷入麻烦的时候,恰恰是AMD、博通、应用材料、拉姆研究、希捷、西部数据这些"二线算力玩家"疯狂抢筹的时候。换句话说,AI这盘棋,已经从"英伟达一个人的独角戏",变成了"整个算力产业链的大合唱"。这个认知一旦扭转,你看今天A股的眼光就完全不一样了——别盯着英伟达恐慌,要盯着国产算力、芯片、光模块这条链找机会。三、中概股独跌,别慌,但也别不当回事隔夜纳斯达克中国金龙指数收跌1.32%,阿里跌3.72%、拼多多跌3.05%、京东跌2.51%。美股涨成这样,中概股却逆势下跌,确实有点扎眼。但这里要说清楚:中概股跌,更多是外资对中概股的态度问题,跟A股自身的运行逻辑不是一码事。外盘的狂欢,外资没把钱分给中概股,这不等于A股今天就一定弱。有意思的是,中概股里也不是无差别下跌——富途涨2.97%,蔚嘉楠科技涨8.71%。说明即便是外资,也不是无差别看空,而是在挑。四、今天A股怎么走?高开几乎是明牌,真正的难处是"高开之后"日韩早盘大幅高开高走,这基本已经是定局。外盘涨得这么猛,A股今天大幅高开,悬念不大。但说实话,我最担心的从来不是高开,而是"高开之后怎么走"。周一那根教训还热乎着——一高开,立马就有资金抢跑,高开低走往下砸,投资者心里没底。那么今天会不会重演?关键看三件事:第一,看开盘情绪打得有多满。 如果高开幅度不大、开盘情绪没有一次性打满,反而是好事,说明后面还有空间;如果一开盘就极度亢奋、恨不得一步到位,那大概率又要高开回落。第二,看主力资金动向和量能。 主力资金继续做多、量能同步放大,这才是真金白银的入场信号,而不是嘴炮式的高开。第三,看风格怎么切换。 银行这些红利方向如果不出来抢戏,券商这些进攻性板块能够发力,那这个高开就站得稳。这三条里能对上两条,就不用慌;三条全占,高开低走的剧本基本就废了。五、今天重点关注哪些热点基于外盘的映射,今天盘面上最值得盯的几条线:1. 芯片半导体。 费半涨6.85%,AMD、博通、应用材料全线大涨,这个情绪大概率会传导到A股的国产芯片、半导体设备、封测这条链上。2. AI算力及基础设施。 美股里Coherent、TTM科技、伟创力、Lumentum这些AI数据中心基础设施链集体走强,映射到A股就是光模块、PCB、液冷、服务器、电源这些方向。3. 光通信/光模块。 Coherent涨16.79%,这个信号对A股光模块板块的刺激会非常直接。4. 券商及进攻性板块。 如果今天券商能发力,那是对"高开不低走"最重要的支撑信号之一,值得全程盯紧。六、最后说句实在话外盘涨得猛是事实,但A股从来不是外盘的简单复读机。它有它自己的节奏、自己的资金、自己的脾气。今天高开是大概率,但能不能守住、能不能走出真正像样的行情,还得看开盘的情绪分寸和主力资金的真实态度。别在开盘那一瞬间的亢奋里去追高,那是情绪最贵的地方;分批、看量、看风格,比一上来就一次性重仓要稳得多;真正该盯的不是指数的红绿,而是主力资金往哪走、量能放没放、券商和芯片这些进攻方向有没有真启动。

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章