谷歌在Hot Chips 2025大会上发布了新一代TPU系统“Ironwood”，专为超大规模AI模型训练与推理设计。其核心价值在于通过系统级架构创新，解决了当前AI算力面临的内存墙、通信瓶颈和能效三大挑战，为训练前所未有的基础模型提供了硬件基础，展现了AI计算基础设施的未来演进方向。
智能速览
Ironwood TPU专为推理、训练和模型服务设计，追求高性能、高性价比与高能效。
通过OCS技术连接9216颗芯片，构建了1.77PB的统一共享内存空间，创世界纪录。
能效表现突出，达到29.3 TFlops/Watt，是前代TPUv5p的两倍以上。
第四代SparseCore架构能卸载通信任务，实现计算与通信并行，提升训练效率。
芯片集成硬件级安全机制，全面支持LLM训练与服务安全需求。
精华内容
谷歌Ironwood TPU的问世，标志着超大规模AI计算基础设施的一次重大演进。其架构设计直指当前AI模型训练中的核心痛点，通过系统级创新，为训练万亿级参数模型铺平了道路。
超级内存池突破
Ironwood最显著的架构突破在于其超大规模的统一内存系统。借助光路交换（OCS）技术，谷歌成功将9216个TPU芯片连接成一个单一的逻辑计算单元，共享高达1.77PB的内存空间。
这一规模远超前代TPUv4的4096芯片池，打破了传统集群中因内存分散而导致的大型模型训练瓶颈。它使得那些需要巨大内存资源的单一任务，例如训练一个超大规模基础模型，可以在一个无缝的、巨大的内存空间中高效运行，从而实现前所未有的并行度和性能。
性能与能效飞跃
性能与能效是衡量AI芯片的关键指标。数据显示，从TPUv2到Ironwood，谷歌TPU的性能呈现指数级增长。Ironwood的算力远超其前代产品。
更值得关注的是其能效比，Ironwood达到了惊人的29.3 TFlops/Watt。这一数据不仅显著高于前代产品TPUv5p的14.6 TFlops/Watt，更是远超Trillium TPU约5.2 TFlops/Watt的水平。这表明谷歌在提升绝对性能的同时，对功耗控制也取得了巨大进步，有效降低了总拥有成本（TCO）。
SparseCore并行革新
Ironwood采用了第四代SparseCore架构，这是其提升训练效率的关键。相较于第三代，其FLOPS性能提升了2.4倍。SparseCore的核心作用不仅是处理大规模的嵌入操作，更重要的是卸载了集合通信任务。
在传统模型训练中，芯片间的All-Reduce等通信操作会占用计算资源，形成等待。而SparseCore可以独立处理这些通信任务，让主要的TensorCore计算单元持续进行计算，二者并行工作，极大减少了通信开销，显著提升了整体训练吞吐率。
安全与物理设计
为满足大型语言模型（LLM）训练与服务的安全需求，Ironwood在芯片层面集成了多重硬件级安全机制，包括根信任（iROT）控制器，为安全启动、调试和认证提供保障。
在物理设计上，每个Ironwood托盘集成4颗TPU芯片，采用先进的液冷系统，并通过阀门智能控制水流，优化散热效率。机架级部署则结合了铜质机架内与光纤机架间的ICI高速互连，确保了数据在系统内的高速流转，为这套庞大系统的稳定运行提供了坚实基础。
谷歌Ironwood TPU不仅是硬件性能的又一次迭代，更是AI计算系统架构理念的一次重要实践。它通过构建更庞大、更统一、更高效的计算平台，为应对未来更复杂的AI模型挑战提供了答案。这种系统级创新的思路，将持续影响AI基础设施的发展，并推动通用人工智能（AGI）的探索进程。
