张大妈

华为昇腾Atlas950对比英伟达Vera Rubin NVL72 #华为 #昇腾芯片 #英伟达 #超算集群

源自抖音:苏讯科技

03-05 11:31

这是一次面向超大规模AI训练场景的硬核架构对比,聚焦万卡级集群的实际算力、互联带宽与协同效率。不谈单卡参数,直击国产全光互联能否真正突破算力扩展瓶颈。

华为昇腾Atlas950对比英伟达Vera Rubin NVL72 #华为 #昇腾芯片 #英伟达 #超算集群智能速览

  • 华为Atlas 950采用8192颗昇腾950芯片,构建万卡级超级计算中心

  • 训练算力达8亿Flops,是英伟达Vera Rubin NVL-72的3.2倍

  • 全光互联总带宽16PB/s,为英伟达NVLink方案的62倍

  • 万卡统一内存1152TB,延迟低至200纳秒,实现无阻塞协同

  • 英伟达NVL-72受限于NVLink跨柜带宽,仅支持72卡单机柜部署

  • 华为依托通信底座与零区全光架构,在集群规模与协同效率上实现结构性突破

华为昇腾Atlas950对比英伟达Vera Rubin NVL72 #华为 #昇腾芯片 #英伟达 #超算集群精华内容

当AI训练从千卡迈向万卡,决定上限的早已不是单芯片性能,而是芯片之间‘说话’的速度与方式。这场对比揭示了两种技术路径的根本分歧。

架构差异

英伟达Vera Rubin NVL-72采用‘1颗Willow CPU+2颗Rubin GPU’为基本单元,整机柜集成72个单元,共36颗CPU与72颗GPU,属典型单机柜旗舰方案。

华为Atlas 950则跳过单元堆叠逻辑,直接以8192颗昇腾950芯片构成完整系统,通过分布式架构与全局调度引擎支撑万卡级统一视图。

二者起点不同:前者延续GPU服务器集群范式,后者基于全栈自研通信协议与光交换网络重构计算组织形态。

算力实测

在FP16混合精度训练场景下,Vera Rubin NVL-72实测峰值算力为2.5亿Flops;Atlas 950达8亿Flops,提升3.2倍。

推理任务中,NVL-72为3.6亿Flops,Atlas 950达16亿Flops,高出4.4倍。

关键在于:上述数据均基于满配万卡集群实测,非理论峰值。华为方案在扩大规模时未出现明显算力衰减,而NVL-72跨机柜扩展后因通信瓶颈导致有效算力下降约18%。

互联瓶颈

NVL-72依赖NVLink 5.0,整机柜内部带宽260TB/s,但跨机柜需经InfiniBand或以太网中转,实际有效带宽降至不足40TB/s,延迟升至1.2微秒以上。

Atlas 950采用零区全光互联,端到端总带宽16PB/s,是前者的62倍;跨芯片通信延迟稳定在200纳秒,相当于全球互联网峰值带宽的10倍。

测试显示:万卡同步训练ResNet-50时,NVL-72集群通信等待时间占比达37%,Atlas 950仅为5.3%。

内存协同

NVL-72单机柜配备144TB HBM3显存,但各柜内存物理隔离,无法形成统一地址空间。

Atlas 950实现1152TB全局统一内存,是NVL-72单柜容量的8倍、全集群理论最大值的15倍。

该设计使大模型权重可全程驻留内存,避免频繁IO调度。实测训练LLaMA-70B时,Atlas 950完成单步迭代平均耗时1.8秒,NVL-72七机柜组合为4.3秒,效率提升58%。

这场对比不只是参数碾压,更是计算范式的分野:一方延续加速器集群路线,另一方以通信为基座重定义超算结构。当万卡成为AI基础设施标配,互联效率将比单卡性能更深刻地影响研发节奏与成本曲线。未来三年,集群级能效比或将成为比拼新焦点。

华为昇腾Atlas950对比英伟达Vera Rubin NVL72 #华为 #昇腾芯片 #英伟达 #超算集群关键评论

  • 赛道路非常干净,懂的人自然知道其中的含金量

  • 华为昇腾AI芯片打破美国的封锁,带领我国人工智能勇敢向前

  • 集群不止看单位算力的购买成本,关键还要看单位算力的能耗成本。综合下来,华为的性价比更高

  • 通迅和计算全产业链自研的优势显现出来了

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章