英伟达下一代AI数据中心系统Vera Rubin的细节被披露，其设计远超芯片堆砌的范畴。通过可插拔内存、全液冷散热和模块化快拆等系统级革新，Vera Rubin在实现算力指数级增长的同时，显著降低了维护成本与单Token生成能耗，为AI工厂的未来构建了新的标杆。
智能速览
Vera Rubin采用可插拔HBM4内存，大幅简化了组装与维护流程。
系统全面采用液冷散热，以应对高达220千瓦的单机架功耗。
Rubin GPU性能相比前代提升约2.5倍，单Token生成成本却降低10倍。
计算托盘实现5分钟快速拆卸，而前代Blackwell需要2小时。
下一代Kyber架构原型首秀，将集成288个GPU，计划于2027年推出。
精华内容
Vera Rubin不仅是芯片的堆砌，更是系统级工程的全面革新。其设计从内存、散热到互联都进行了重构，旨在应对未来AI工厂对算力密度和运营效率的极致追求。
架构革新
Vera Rubin在架构上最显著的变化是放弃了前代Grace Blackwell的内存全焊接方案，转而采用可插拔的HBM4高带宽内存堆栈。每个Rubin GPU的顶部和底部共配置了8组HBM4，由SK海力士和三星等供应商提供。这一改变不仅提升了内存升级的灵活性，更关键的是大幅减少了焊接工艺，使得后续的维修和更换变得异常简便，是系统实现快速维护的核心基础之一。
散热与能耗
为应对130万个组件满载运行产生的巨大热量，Vera Rubin成为英伟达首款100%采用液冷的系统。这一决策吸取了Blackwell早期部署中因液冷阀门未对齐导致过热的教训。计算托盘内部完全摒弃了软管和风扇，虽然单机架功耗飙升至220千瓦，但闭环液冷系统减少了对传统蒸发冷却的依赖，反而大幅降低了数据中心的整体水资源消耗。
性能与成本
在性能层面，Vera CPU的每瓦性能相比上一代提升了约2倍，而Rubin GPU可提供约50 Petaflops的AI性能，实现了约2.5倍的飞跃。虽然硬件采购成本随之上涨，业内预计单机架价格将达到300万至400万美元，比Grace Blackwell高出约25%。但由于算力的几何级增长，其单Token生成成本实际上比Blackwell降低了约10倍，这是买家最为看重的核心价值指标。
维护与互联
得益于焊接工艺的精简，Vera Rubin的组装与维护效率得到革命性提升。拆卸一个完整的计算托盘仅需5分钟，而在Blackwell平台上，这一过程需要耗费2个小时。在数据交互方面，NVLink交换芯片的线路速率从1.8TB/s翻倍至3.6TB/s，通过9个交换机托盘将72个GPU紧密连接，机架背部的垂直通信脊柱由5000根铜缆构成，总传输速度高达260TB/s，确保了海量数据在节点间的高速流转。
未来展望
在Vera Rubin之后，英伟达还展示了下一代大型机架架构Kyber的原型。Kyber架构将GPU数量从72个翻四倍至288个，并通过革命性的布线精简，将整体重量控制在仅增加50%的水平。预计搭载Kyber机架的Vera Rubin Ultra系统将于2027年正式问世，继续引领AI算力的演进方向，追求更少的物理连接点、更低的故障率以及更高的系统整合度。
Vera Rubin的亮相，标志着AI基础设施建设进入了一个全新的阶段。它通过系统级的创新思维，平衡了性能、能耗与成本三大核心矛盾，为构建更大规模的AI工厂铺平了道路。这种以提升效率和降低总拥有成本为导向的技术演进，将如何影响整个AI产业的格局？
关键评论
HBM可插拔的设计让人非常意外，这在以往是难以想象的。
很好奇这代Vera Rubin会像H100一样仅限数据中心，还是日后会推出消费级版本。
