2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

2026-07-21 10:57:24 0点赞 0收藏 0评论

快科技7月21日消息,AMD首个全栈机架级AI方案Helios将在Advancing AI 2026活动上正式发布,目前官方已经公布了详细规格参数,从GPU到CPU到网络芯片全部自研,对标NVIDIA现有Oberon和即将推出的Kyber机架。

根据AMD的说法,Helios不是直接销售的独立整机产品,而是一套“开放机架级参考设计”,采用Meta提交给OCP的Open Rack Wide标准,整体为全液冷设计,包含18个计算托盘和6个交换机

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

每个计算托盘配备4块Instinct MI455X GPU和1颗EPYC Venice CPU,整机架共搭载72块GPU。每块GPU均覆盖铜制液冷冷板,整机架重量约5000磅(约2268公斤),功耗在225至245kW之间。据报道,单机架成本约500万至550万美元。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

整机架规格方面,Helios可提供2.9 Exaflops FP4算力和1.4 Exaflops FP8算力,搭载总计31TB HBM4内存,聚合带宽1.4PB/s,纵向扩展互连带宽260TB/s,纵向扩展带宽43TB/s。CPU与GPU核心总数分别达到4600和18000个。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

Helios的三大核心组件分别是Instinct MI455X GPU、第六代EPYC Venice CPU和Pensando网络芯片。

GPU方面,MI455X基于CDNA 5架构,单卡提供40 PFLOPS FP4算力和20 PFLOPS FP8算力,相比上一代MI350系列算力翻倍。作为对比,NVIDIA Rubin GPU提供50 PFLOPS FP4和17.5 PFLOPS FP8算力,AMD在FP8算力上领先。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

MI455X还从MI350系列的288GB HBM3e升级到432GB HBM4,容量提升50%,带宽从8TB/s跃升至19.6TB/s,提升超过一倍。NVIDIA Rubin GPU则配备288GB HBM4,带宽22TB/s,AMD在内存容量上领先50%,

更大的容量意味着能加载更大的模型分片,减少跨节点通信开销,对大规模推理场景尤为关键。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

MI455X属于MI400系列三款产品之一,其中MI455X和MI450X面向大规模AI训练和推理,MI455X专门用于Helios机架。MI430X则面向HPC和主权AI场景,具备最高性能FP64计算能力,支持CPU+GPU混合计算,搭载与MI455X相同的HBM4内存。

CDNA 5架构还带来基于标准的机架级网络互连支持,包括UALoE、UAL和UEC等开放标准,与NVIDIA依赖NVLink和InfiniBand的封闭路线形成鲜明对比。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

CPU方面,EPYC Venice是首款基于Zen 6架构的HPC产品,也是台积电2nm工艺首个进入量产的高性能计算芯片。台积电2nm工艺从FinFET转向GAA晶体管架构,同功耗下性能提升10至15%,同性能下功耗降低25至30%,晶体管密度提升最高15%。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

Venice最高配备256核心512线程,采用8个大型计算芯片和2个更大的I/O芯片的多芯片封装设计,性能和能效提升超过70%,线程密度提升超过30%。

目前Agentic AI工作负载对CPU性能的要求正在急剧攀升,AI Agent需要频繁的调度、内存管理和数据预处理。AMD早期基准测试显示,第五代Turin(Zen 5)已在性能上领先NVIDIA基于Arm架构的Vera CPU,第六代Venice的领先幅度进一步拉大,在相近功耗下提供更高性能和更优的TCO。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

网络互联方面,Helios搭载Pensando Vulcano 800 AI NIC和Salina DPU。Vulcano 800提供800 Gbps以太网吞吐量,是目前唯一提供单GPU最高2.4Tbps纵向扩展带宽的网卡,是其他方案的8倍。

通过UALink/PCIe Gen6主机接口驱动GPU间超低延迟通信,支持UEC标准和RDMA以太网优化。基于UALoE开放标准,Helios实现机架内最多72块GPU的高速互连,正好对应单机架GPU总数。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

Salina DPU搭载16个Arm N1核心,负责网络、安全和存储卸载,比仅用CPU处理快40%,性能是AMD上一代DPU的两倍,比NVIDIA BlueField-3 DPU快40%。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

软件生态方面,AMD ROCm已更新至7.14版本,原生支持PyTorch、TensorFlow、JAX、Hugging Face、vLLM、SGL、Deepspeed、ONNX、llm-d、OpenXLA、MLID、Llama Stack等主流框架,提供Day-0支持。AMD强调其采用开放硬件和软件标准,降低集成复杂度,与NVIDIA封闭生态形成差异化竞争。

客户方面,微软已经宣布将部署Helios机架用于Azure AI服务,提供三种实例:

面向CPU密集型负载的Azure HDv2(近500个EPYC核心、4TB内存、32TB NVMe存储、400Gb Azure Boost网络)

面向Agentic AI的Azure HXv2(176核心3D V-Cache、5GHz+频率、50%更多缓存、2至4TB内存、800Gb InfiniBand)

搭载72块MI455X GPU的ND MI455X v7实例。

OpenAI、Meta、Oracle、HPE、TCS、Celestica、Nutanix和美国能源部也确认采用Helios方案或相关产品。

2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

编辑:黑白

【本文结束】如需转载请务必注明出处:快科技

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松