AWS发布Trainium3 ASIC，降低对英伟达硬件依赖

AWS亚马逊云科技推出最新自研AI训练芯片Trainium3，面向内部及精选外部客户。单芯片FP8算力2.52 PetaFLOPS，片上HBM3E内存扩容至144 GB，带宽4.9 TB/s。

新芯片支持dense与expert-parallel模型拓扑，并引入MXFP8、MXFP4紧凑数据类型，在实时、多模态和长上下文推理任务中更好平衡内存与算力。Trainium3由台积电N3 3 nm工艺代工，现已通过Amazon EC2 Trn3 UltraServe实例对外开放。

一台Trn3 UltraServer最多可装144颗Trainium3，整机FP8峰值约362 PetaFLOPS；多台可进一步组成EC2 UltraClusters 3.0超大规模集群。满配UltraServer提供20.7 TB HBM3e内存与约706 TB/s总带宽，并搭载NeuronSwitch-v1互连，片间带宽较前代翻倍。

AWS表示，相比Trainium2，Trainium3训练性能提升4.4倍，内存带宽提升3.9倍，每瓦性能提升约4倍；同时在推理速度与token效率方面也为多项亚马逊服务带来显著增益。

亚马逊提供这些ASIC，意在帮助客户把计算基础设施从传统的英伟达和AMD GPU中分散出来。目前，亚马逊已用这套硬件训练并部署自家内部模型，也向部分顶尖AI实验室开放算力。亚马逊已向Anthropic投资近80亿美元，后者一直在AWS基础设施（如Trainium2）上训练和部署其旗舰模型。随着Trainium3的推出，Anthropic等客户有望获得显著效率提升，从而可能吸引更多大型实验室转向AWS基础设施。