AMD在一个机架塞了90颗2nm芯片、31TB HBM4内存

“芯硬件”美国旧金山现场报道——

2nm工艺、Zen6架构、最多256核心512线程的第六代EPYC 9006系列CPU处理器有了。

2nm工艺、CDNA5架构、432GB HBM4内存的Instinct MI400系列GPU加速器有了。

但是，AMD并没有就此止步，让它们单打独斗。

AMD不但将EPYC、Instinct有机结合起来，还拉上了新一代Pensando 400 DPU数据处理器(代号Salina)、Pensando 800 NIC网卡(代号Vulcano)，以及针对性优化的ROCm.AI开放开发平台，组成了AMD的第一个机架级整体解决方案：AMD Helios！

这可以说是对标NVIDIA的最后一步，意味着AMD提供给客户的不再是单一组件，而是一套完整的参考设计解决方案，以及开放的业界标准，可以快速投入部署和应用。

AMD Helios去年就已宣布，今年初的CES 2026上首次进行了公开展示和初步介绍，如今终于修成正果，已经投入量产，并得到了多家大客户的采纳。

AMD董事长兼CEO苏姿丰博士兴奋地强调，Helios的客户需求非常强烈！

AMD宣称，Helios在三项核心能力上都做到了无可争议的业界第一：

算力第一，无论CPU单核性能，还是GPU绝对算力。

内存第一，无论HBM4内存容量，还是HBM4总带宽。

网络第一，无论scale-up机架内纵向扩展带宽，还是scale-out跨机架横向扩展带宽。

作为一个完全协同设计的机架级AI基础设施，AMD Helios既是自家先进技术和产品集大成者，也是开放标准的胜利，包括OCP（开放计算项目）、UAL（超加速器链接联盟）、UltraEthernet（超以太网联盟）、ESUN（扩展网络以太网联盟），都有AMD的积极参与和贡献。

CPU方面，它采用96核心高频率版本的六代EPYC（应该能跑到5GHz），内存带宽高达1.6TB/s，并通过高速的PCIe 6.0通道与GPU直连。

GPU当然是五代Instinct MI455X，单卡具备432GB HBM4内存、23.3TB/s带宽，FP4精度算力高达40 PFlops。

负责高速互连的是AMD Pensando NIC网卡，采用UALoE（以太网上的UAL），可以在单个域内连接多达72块GPU，每个GPU都搭配三个800G网络接口。

整个机架可以提供31TB HBM4内存，总带宽高达1.7PB/s，同时机架内纵向带宽260TB/s，机架间横向带宽43TB/s。

总算力达到FP4 2.9 EFlops（每秒290亿亿次）、FP6/8 1.4 EFlops（每秒140亿亿次）。

AMD Helios采用44U ORW标准机架规格设计，包括18个计算托盘、6个交换托盘、4个线缆盒。

每个计算托盘内有一颗EPYC处理器、四颗MI455X加速器，因此总计18颗CPU（1728核心）、72颗GPU一共90颗芯片组成统一的算力域。

供电采用50V直流液冷母线，散热设计为后部盲插快速液冷接头。

计算托盘的内部结构设计和配置。

GPU计算部分包括四个MI455X EAM模块，每个模块拥有36组x2 UALoE网络链路，每个GPU的双向带宽均为3.6TB/s。

CPU主机部分是单路EPYC 9006 SP7 CPU，通过16通道的Infinity Fabric高速互联网络直连GPU，双向带宽256GB/s。

横向扩展网络方面，每个GPU EAM搭配三块Pensando Vulcano 800G AI网卡，通过UALink128直连GPU，双向带宽256GB/s。

负责前端网络则是Pensando Salina 400G DPU。

交换托盘的内部结构设计和配置。

核心芯片是两颗200G UALoE交换机ASIC，每个ASIC拥有512条通道、432条活跃UALoE跃通道，双向带宽21.6TB/s。

同时配套高速铜缆纵向互联、全互联多平面架构、锐龙CPU和BMC管理单元，采用全液冷散热。

机架爆炸图和物料清单，可以清楚地看到模块化的组装结构。

核心结构组件包括：前后加强梁、左右导轨组件、机架主体、左右液冷歧管、EMI电磁屏蔽支架、线缆盒、横梁等。

纵向扩展网络架构示意图。

18个计算托盘对接6个交换托盘，72颗GPU通过12台UALoE交换机实现全互联。

核心特性包括：单跳多平面无阻塞、单跳低延迟、硬件加速远程内存访问、无损以太网传输。

AMD Helios还设计了三大容错机制，保障业务连续：

自动故障转移：任何链路、线缆、交换机发生故障，都可以流量自动绕行，业务无中断。

优雅降级：故障后只会临时暂停，不会丢失作业进度，并保留全部可用带宽。

故障隔离：机架可划分为多个虚拟Pod，故障会被限制在单个Pod内，其余负载不受影响。

接下来是关键的性能展示部分。

设计指标对比NVIDIA Vera Rubin NVL72，FP4/8算力领先15％，内存容量领先50％，内存带宽领先6％，纵向带宽持平，横向带宽领先50％，

实际性能方面，Kimi K2模型上，每用户Token输出效率对比NVIDIA Vera Rubin可以领先10-15％。

更关键的是，同样价格的性能可以领先最多30％。

第三代AMD Pensando Salina DPU，是整个机架的前端网络入口核心，完全可编程，性能是上代的2倍。

它专门承担超大规模智能体AI场景的网络、防火墙、加密、负载均衡、存储加速等任务，从而将CPU核心资源释放出来，使其可以专注于智能体编排与业务计算。

该产品已在全球头部超大规模数据中心批量落地部署，包括微软、甲骨文、IBM。

AMD Pensando Vulcano 800 AI NIC，完全可编程，是整个机架的横向扩展核心网络硬件，负责跨机架、跨集群的AI算力互联。

它并非普通网卡，而是内置硬件加速引擎处理AI通信协议的AI专用智能网卡，并完全可编程，可通过软件定制传输策略，适配不同AI负载的流量特征，而且符合UltraEthernet联盟开放标准。

相比竞品，它带宽更高领先50％，大模型训练更快领先13％，网络成本更低领先33％，还支持智能传输协议。

苏妈亲自展示AMD Helios，这是计算托盘，上方四个铜质散热器之下是GPU，下方中间是CPU，左右两侧是NIC、DPU。

去掉散热器后，布局可以看得更清楚。

从左往右分别是：GPU、CPU、DPU、NIC。是的，芯片面积越来越小。

GPU无疑是最庞大的。

AMD Helios方面已经获得大规模AI头部客户的青睐和采纳，包括OpenAI、Meta、Anthropic、微软、甲骨文。

其中，微软会在Azure中大规模部署AMD Helios，今年下半年开始交付。

Anthropic会通过AMD Helios方案，部署高达2GW（20亿瓦）的MI450系列GPU，其中第一部分明年上半年交付。

基础设施合作伙伴则有：戴尔、慧与、联想、Bull、超微、Sanmina、IBM等等。