英伟达新机柜首测：吞吐30倍、成本降35倍，但一台要5300万

源自538位全网作者

16:33

一个Agent干活的耗Token量，是普通聊天的15倍。这个数字正在改写GPU行业的计价方式。

10月底，英伟达在Hot Chips 2026上首次公布下一代旗舰机柜Vera Rubin NVL72的片上实测数据。测试用SemiAnalysis的AgentX基准回放真实智能体编码会话，跑DeepSeek-V4-Pro，对比现役主力GB300 NVL72：每兆瓦吞吐量最高提升30倍，每百万Token成本最高降低35倍。CoreWeave更早的生产测试也给过中间值：对比上一代GB200 NVL72，每兆瓦Token吞吐提升约10倍。知乎机器之心知乎

先泼一盆冷水：30倍是怎么算出来的

这30倍不是芯片单核快了30倍，而是机柜级协同设计的账。Rubin GPU配288GB HBM4、22TB/s带宽，第六代NVLink把72颗GPU连成260TB/s全互联，再加上NVFP4量化、Prefill/Decode分离、KV感知路由这些软件栈优化。拆开看每一层都不到30倍，叠在一起才是30倍。知乎

而且英伟达自己标注了“非正式结果，待SemiAnalysis复核”，测试用的是英伟达选定的第三方基准，独立复现之前只能当厂商口径看。评论区的争议也大多集中在这点：有人说低速场景下差距只有2倍，有人吐槽“降低35倍”这种说法本身就不严谨。这些质疑都有道理，但方向错了——重点不在30倍准不准，而在于计量单位换了。知乎

以前比的是峰值算力FLOPS，现在比的是每兆瓦Token数、每百万Token成本。对电力受限的AI工厂来说，后者才是经营指标。

为什么单位突然变了

因为Agent把负载结构改了。OpenRouter的数据显示，真实流量里平均Prompt长度涨了约4倍，单次Agent请求消耗的Token最高到普通聊天的15倍；一条真实Agent轨迹的上下文能从6万Token一路涨到40万。上下文越长，KV缓存越占显存，瓶颈从算力挪到了内存和互联。知乎

这正是H200这类上一代卡吃亏的地方。141GB显存在固定长度测试里看着够用，放到长上下文、多轮工具调用的Agent负载里，缓存驻留和内存带宽立刻变成短板。

国产卡最近交的答卷也换成了同一套口径。10月28日天数智芯开放天垓300实机演示，第三方实测在典型PD分离部署下，折算单卡端到端吞吐达到H200的1.05倍；64K长上下文下Attention性能为H200的1.05倍，GLM-5.3的MoE吞吐为H200的1.15倍。注意这是特定模型、特定部署下的端到端吞吐，不是峰值算力反超，训练对比对象还是H100而非H200，别混读。知乎

性能的另一面：一台机柜5300万，明年再涨15%

性能翻着倍涨，价格也没闲着。摩根士丹利的BOM拆解显示，一台VR200 NVL72从ODM处采购价约780万美元（约5300万人民币），上一代GB300 NVL72约400万美元；存储成本从约37.4万美元飙到超200万美元，涨了435%，占整机BOM比重从9%升到26%。知乎

推手是HBM。SK海力士三季度营收约753亿美元、净利润约286亿美元，同时放话存储供不应求可能持续到2030年，2027—2028年超一半产能已被长协锁定。TrendForce把2027年HBM混合平均售价年增幅上修到121%。英伟达已通知微软、谷歌、甲骨文等客户，2027年初出货起AI服务器价格普遍上涨超15%。36氪知乎知乎

这波涨价已经烧到消费级。7月以来RTX 5080 16GB从约1.27万—1.35万元涨到1.45万—1.5万元，RTX 5090系列实质性停供，双十一不降反涨。想趁双十一装机跑本地模型的，预算按上调后的现价来核，别拿首发价当参照等降价。知乎

下一步：单机架576颗GPU，Kyber推迟到2028

英伟达在OCP 2026上预告了Vera Rubin Ultra NVL576：单机架576颗GPU、365TB HBM4E、15 Exaflops FP4推理，比GB300 NVL72提升14倍；每颗GPU配1TB HBM4E，是Blackwell的8倍。Kyber机架据传已推迟到2028年，中间可能插一版NVL144过渡。知乎

单柜功耗也在爬：NVL72满载约190—230kW，Rubin Ultra预计600kW，后续平台可能迈向1MW。到那一步，竞争就不是比芯片了，而是比电力、液冷、存储成本和可服务性的综合工程——这也解释了为什么“每兆瓦吞吐”会成为新的通用货币。