44TB/s砍到38.5TB/s，英伟达图什么

十月下旬，有人把两份规格文档摊在一起比了一遍：六个月前的一版，和这个月更新的一版。同一颗芯片，HBM4 内存带宽从 44TB/s 掉到 38.5TB/s，NVLink 从 7.2TB/s 掉到 6TB/s，而这颗芯片还没正式铺货。

上一代产品还在往上堆数字，这一代先往回退了一步，退得还不小。

这份对比流传开后，中文圈的反应基本分成两派：一派说英伟达压不住显存供应了，另一派说这是在给明年留后手。两种说法都只看了半张表。完整的那张表里，还有一栏是反着走的，那是网络带宽。

真正值得问的是另一件事：它为什么宁愿在纸面上难看，也要把这两个数字调下来。这件事牵扯到显存怎么造出来、推理到底卡在哪一环，以及你下一次选机器时该不该按旧表算。

降的是哪两条通道

先把对比的基准说清楚。这次比的是英伟达自己的规格文档，2026 年 10 月版对 2026 年 6 月版，后者有第三方存档可以逐行对照。

Vera Rubin 超级芯片这一档，HBM4 带宽 44TB/s → 38.5TB/s，降了 12.5%；同一颗芯片上的 NVLink 从 7.2TB/s → 6TB/s，降了约 17%。往下走到 HGX NVL8 整机方案，HBM 容量和带宽一起收：2.3TB / 176TB/s 变成 2TB / 130TB/s，带宽降了 26%，NVFP4 和 FP8/FP6 的训练算力也跟着下调，NVLink Switch 的 28.8TB/s 变成 24TB/s。

同一张表上，往外扩的那条网络通道是涨的。超级芯片的横向扩展带宽 0.8TB/s → 0.9TB/s，NVL4 那一档更明显，0.4TB/s → 1TB/s，等于翻了 2.5 倍；NVL8 的双向网络带宽从 1.6TB/s 提到 1.8TB/s。连 Vera CPU 那边的内存描述都改了，从"单颗 1.5TB LPDDR5X"变成"至多 1.5TB LPDDR5X"，一个字的差别，把一颗芯片的内存配置从保证值改成了上限。

一条在收，另一条同时在放，而且放得更狠。这不像是随手改的错别字。

带宽为什么会被显存颗粒反推

要理解这个下调，得先知道 HBM 的带宽是怎么来的。一句话说清：显存带宽就是每秒能从显存里搬出多少数据，它等于颗粒的引脚速率乘以位宽，再乘以堆叠的层数。

拆开看，这三个乘数没有一个是软件能调的。位宽由封装决定，堆叠层数由键合工艺决定，引脚速率则由颗粒在特定电压和温度下能稳定跑多快决定。而一颗 HBM4 从晶圆到成品，要经过堆叠、键合、测试几道关，每一道都会筛掉一批。良率从来不是一个平均值，它是一条分布：跑得快的颗粒少，跑得稳的颗粒多。

规格表上的那个带宽数字，实际上是在跟供应链说"我要求你给我这个速率的颗粒"。要求定得越高，能达标的颗粒比例就越低，最后能装进机器的显存总量就越少。反过来，把要求往下挪一点，同一批产线上下来的颗粒，合格的那部分立刻变多，出货节奏也跟着松了。

公开报道里对这层逻辑的描述很直接：降低带宽门槛，能让更多 HBM4 满足 Rubin 的要求，从而提高最终产量。规格表上的数字变小了，能装进机器的内存变多了。

这就解释了它为什么敢降。它让出的不是计算能力，而是自己对供应链的筛选标准。

推理到底卡在哪一环

那砍掉 12.5% 的带宽，跑模型会不会真的变慢？这要看你的负载停在哪一段。

大模型推理分两截。一截是把你的输入读进去、算出第一句回复要多久，这一段主要是矩阵运算，吃的是算力。另一截是逐字往外吐，每吐一个 token，都要把模型权重从显存里完整读一遍，吐字这一段是被带宽管着的。

vLLM 团队在十月初的技术博客里写得很实在：MoE 结构在 decode 阶段受限于从 HBM 读取权重，所以他们的优化方向是提高显存吞吐，而不是提高算力利用率。他们用 CUDA 13.4 的 locality domain 把 MoE 权重按列切成两半，让每个 SM 只读离自己最近的那一半显存，实测在小 token 前向时平均有 1.2 倍的加速。

这里有个容易被忽略的细节。默认创建 locality domain 时，212 个 SM 里只有 200 个能进两个等分域，剩下 12 个闲着；要开启 backfill 模式才能全部用上。同一个硬件上，软件配错一个开关，就白扔 6% 的算力，这跟工厂里少开一条产线是一个道理。

所以带宽当然重要，但重要性得放在对比里看。同一批博客里还有另一组数：Rubin NVL72 的单卡 HBM 带宽仍约为 GB200 NVL72 的 2.4 倍，双向 NVLink 带宽约 1.7 倍；在 AgentX 这套智能体负载上，vLLM 跑 MiniMax M3 拿到 7.84 倍于 GB200 的单卡吞吐，MLPerf v6.1 的视觉语言模型测试里比 GB300 NVL72 高 3.7 倍。

砍完之后，它还是比上一代快一大截：规格表上的上限收窄了，交付出来的吞吐没有跟着掉。