张大妈

NVIDIA 于 CES 宣布 Rubin 全面量产:相比 Blackwell 实现 5 倍性能升级

源自公众号:热控大家说

02-02 14:02

NVIDIA 正式揭晓下一代 Rubin AI 平台,相较 Blackwell 实现了高达 5 倍的性能飞跃。这不仅是一次常规迭代,更通过一系列核心技术升级,将大模型推理成本降至 1/10,为 AI 计算的下一阶段发展奠定了基础。

NVIDIA 于 CES 宣布 Rubin 全面量产:相比 Blackwell 实现 5 倍性能升级

NVIDIA 于 CES 宣布 Rubin 全面量产:相比 Blackwell 实现 5 倍性能升级智能速览

  • Rubin GPU 推理性能相较 Blackwell 提升 5 倍,训练性能提升 3.5 倍。

  • 采用 HBM4 内存,单芯片带宽达 22 TB/s,NVLink 6 带宽提升 2 倍。

  • Vera CPU 搭载 88 核定制 Arm 核心,数据处理性能相较 Grace 提升 2 倍。

  • 部署该平台可将大模型推理 token 成本降至 1/10,训练所需 GPU 数量减至 1/4。

  • Rubin 平台已全面进入量产阶段,客户将在今年晚些时候收到首批芯片。

NVIDIA 于 CES 宣布 Rubin 全面量产:相比 Blackwell 实现 5 倍性能升级精华内容

Rubin 平台的升级是全方位的,从 GPU 核心到网络互连,再到系统架构,共同构筑了性能飞跃的基础。

GPU 性能跃升

Rubin GPU 是此次升级的核心,采用两块光罩级晶粒设计,专为 AI 密集型工作负载打造。该芯片可提供 50 PFLOPs 的 NVFP4 推理性能和 35 PFLOPs 的 NVFP4 训练性能,分别相较 Blackwell 平台提升 5 倍和 3.5 倍。

在内存方面,Rubin GPU 集成了 HBM4 内存,单芯片带宽高达 22 TB/s,是 Blackwell 的 2.8 倍。同时,每颗 CPU 通过 NVLink 6 互连的带宽也达到了 3.6 TB/s,实现了翻倍。

Vera CPU 架构

NVIDIA 为 Rubin 平台设计了下一代定制 Arm 架构 CPU,代号为 Olympus。这款名为 Vera 的 CPU 拥有 88 个核心和 176 个线程。

其系统内存容量达到 1.5 TB,是前代 Grace 的 3 倍,并通过 SOCAMM LPDDR5X 提供了 1.2 TB/s 的内存带宽。这些升级使其在数据处理、压缩与 CI/CD 等关键任务上的性能相较 Grace CPU 提升了 2 倍。

高速互连网络

Rubin 平台的互连能力由 NVLink 6 交换芯片驱动,该芯片为整个系统提供了 Scale-Up 3.6 TB/s 的互连带宽。网络方面,新一代 ConnectX-9 SuperNIC 提供 1.6 TB/s 带宽,而集成了 64 核 Grace CPU 的 BlueField-4 DPU 则相较前代提供了 2 倍的网络能力和 6 倍的计算能力。

NVIDIA 还发布了 Spectrum-X CPO 以太网方案,提供 102.4 Tb/s 的交换机基础设施,声称在规模化场景下可实现 95% 的有效带宽。

系统级整合效益

所有这些技术最终整合到 NVIDIA Vera Rubin NVL72 机柜中,带来了系统性的显著提升。一个完整的 DGX SuperPOD 将由 8 个 NVL72 机柜构成。

最关键的效益在于成本和效率。NVIDIA 表示,相较 Blackwell GB200,Rubin 平台可将大模型推理的 token 成本降至原来的 1/10,同时将训练混合专家(MoE)模型所需的 GPU 数量减少至原来的 1/4。

NVIDIA Rubin 平台的全面量产,预示着 AI 算力将进入新的纪元。其显著的性能提升与成本优化,将为更复杂、更大规模的 AI 模型训练与部署扫清障碍,未来应用值得期待。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章