GPU将不再是AI芯片老大 谷歌28年TPU数量达1500万:首次压NVIDIA一头
快科技8月1日消息,这几年的AI浪潮中,受益最大的当属NVIDIA,各大公司的训练、推理都少不了购买后者的GPU显卡,不过两年后GPU恐怕就不是主宰了,谷歌的TPU会后来居上。
在AI芯片技术路线上,可以简单分为NVIDIA为主的GPU通用计算及谷歌为主的ASIC专用计算,谷歌自研的张量处理器TPU也有10年历史了,只不过部署的数量是比不过NVIDIA的GPU的。
但是这两年来,各家都不希望算力芯片完全捆绑到NVIDIA的显卡上,自研AI芯片开始爆发,谷歌的TPU部署量也迅速提升,第七代TPUv7已经部署,4月份发布了第八代TPUv8,首次针对训练及推理做了区分。
其中V8T偏重AI训练,虽然谷歌说也可以做推理,但主要还是训练用的,每个Pod节点堆了9600个V8T芯片,FP4性能达到了121EFlops,配备了2PB HBM内存,内存带宽19.2TB/s,芯片内部带宽400GB/s,几乎都是2-4倍的变化。
V8i主要面向AI推理负载,规格上要降不少,每个节点只有1152个V8i芯片,算力降低到了11.6EFlops,内存带宽19.2TB/s没变。

再下一代的第九代TPUv9会更猛,会上4芯封装,封装要求更高,因此除了此前合作的台积电之外,还会用上Intel的EMIB封装,分给Intel大约300万颗TPU芯片的订单。
这也意味着TPUv9这一代的总数量惊人,日前供应链消息称谷歌28年部署的TPUv9数量将达到1200万到1500万颗。
这是什么概念呢?NVIDIA的AI GPU显卡芯片供应市面上大多数算力厂商,今年的销量预计是820万颗,2028年也就提升到1240万颗,谷歌的TPU将首次在数量上领先NVIDIA的显卡。
ASIC路线的AI芯片数量超过NVIDIA的GPU,这事本身并不稀奇,因为谷歌、微软、亚马逊等大厂肯定是不希望AI芯片完全依赖NVIDIA或者AMD的,用自己研发的芯片不仅可以降低成本,还可以减少对NVIDIA的技术依赖性。

编辑:宪瑞
【本文结束】如需转载请务必注明出处:快科技
