当前位置：
AIGC文章详情

张大妈

Google发布第八代TPU：TPU 8t与8i详解及性能提升

源自新浪微博：趋势不简单

04-27 11:13

精选参考来源

Google 在 Cloud Next 26 大会上正式发布了其第八代TPU，包括TPU 8t 和 TPU 8i。8t将主要用于大模型训练，8i将用于推理、采样与推理服务。 --TPU 8t具备极致扩展性： 单个超级集群（Superpod）可扩展至9600个芯片，提供高达 2 PB 的共享高带宽内存。配合新的 Virgo 网络，理论上可以支持多达 100 万个芯片 组成的逻辑集群，实现近乎线性的性能增长。 --8i拥有 384 MB 的巨大片上 SRAM，可以将复杂的模型（如 MoE 架构）的 KV 缓存完全保留在芯片上，从而极大减少数据传输延迟。网络拓扑采用Boardfly 架构，这种新拓扑结构减少了网络直径，使1152个 TPU 能像一个低延迟单元一样协同工作。在处理混合专家模型（MoE）时，其单位美元性能比前代（Ironwood/TPU v7）提升了 80%。 两者均采用了 Google 自研的 Arm 架构 Axion CPU 作为宿主处理器，相比传统 x86 实例，性价比提升了 100%。两款芯片均原生支持 Google 最新的液冷技术，以维持高性能运作。两者在单位瓦特性能上均比前代提升了 2 倍，这对于降低 AI 运营的TCO至关重要

趋势不简单 2026-04-25

来自新浪微博
内容由AI生成
0
0
扫一下，分享更方便，购买更轻松
0评论

当前文章无评论，是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
查看更多
相关兴趣推荐

已收藏
去我的收藏夹