当前位置:
AIGC文章详情

张大妈

谷歌TPU 8t与8i架构解析:网络连接升级与带宽演进

源自新浪微博:一图复盘尚

04-24 10:27

精选参考来源

【广发通信】谷歌推出TPU 8t&8i,“连接”用量增加,利好谷歌链标的核心要点:谷歌架构的升级凸显了“连接”的重要性。随着TPU向V8、V9迭代,其网络带宽持续扩张、超节点规模不断扩大,#带动光模块配比提升、OCS应用场景打开,利好谷歌链#中际旭创/长芯博创/光库科技/腾景科技1️⃣#训练芯片TPU8t:更大集群、更高带宽。Scale Out侧采用全新的两层无阻塞Virgo网络,带宽提升4倍;Scale Up侧沿用3D Tours结构,芯片间ICI互联带宽提升2倍,超节点域扩大至9600芯片。带宽提升带动光模块用量提升,如果考虑到光模块从800G迭代到1.6T,#ScaleUp域配比不变+ScaleOut域配比翻倍。Front-end网络采用Jupiter架构,连接存储及CPU#新增OCS用量2️⃣#推理芯片TPU8i:侧重更短的网络直径跳数、时延更低。Scale Up侧采用全新的分层式Boardfly拓扑结构,4个TPU组成一个BB,8个BB通过铜线组成一个Group,36个Group通过OCS连接成1152卡的超节点,网络直径从16跳减少到仅7跳,适配大型MoE模型的低延迟目标。根据我们的计算Scale Up域光模块配比为1:1.25,同时#增加OCS连接[红包]持续推荐谷歌链的高敞口标的#中际旭创 (光模块/NPO绝对大份额、OCS储备)、#长芯博创 (MPO/AoC)、#光库科技 (OCS准直阵列)、#腾景科技 (OCS晶体材料+准直阵列)风险提示:产业发展不及预期
内容由AI生成

精选参考来源

【广发通信】谷歌推出TPU 8t&8i,“连接”用量增加,利好谷歌链标的核心要点:谷歌架构的升级凸显了“连接”的重要性。随着TPU向V8、V9迭代,其网络带宽持续扩张、超节点规模不断扩大,#带动光模块配比提升、OCS应用场景打开,利好谷歌链#中际旭创/长芯博创/光库科技/腾景科技1️⃣#训练芯片TPU8t:更大集群、更高带宽。Scale Out侧采用全新的两层无阻塞Virgo网络,带宽提升4倍;Scale Up侧沿用3D Tours结构,芯片间ICI互联带宽提升2倍,超节点域扩大至9600芯片。带宽提升带动光模块用量提升,如果考虑到光模块从800G迭代到1.6T,#ScaleUp域配比不变+ScaleOut域配比翻倍。Front-end网络采用Jupiter架构,连接存储及CPU#新增OCS用量2️⃣#推理芯片TPU8i:侧重更短的网络直径跳数、时延更低。Scale Up侧采用全新的分层式Boardfly拓扑结构,4个TPU组成一个BB,8个BB通过铜线组成一个Group,36个Group通过OCS连接成1152卡的超节点,网络直径从16跳减少到仅7跳,适配大型MoE模型的低延迟目标。根据我们的计算Scale Up域光模块配比为1:1.25,同时#增加OCS连接[红包]持续推荐谷歌链的高敞口标的#中际旭创 (光模块/NPO绝对大份额、OCS储备)、#长芯博创 (MPO/AoC)、#光库科技 (OCS准直阵列)、#腾景科技 (OCS晶体材料+准直阵列)风险提示:产业发展不及预期

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章