打游戏帧数不变、AI推理却离不开它?HBM和GDDR的差距藏在这
打游戏的朋友最近有个困惑:HBM显存带宽比普通DDR高出8到20倍,听起来吓人,但看跑分和实际帧数,好像跟GDDR6X没什么区别。另一边,AI训练和大模型推理的用户又在疯狂抢HBM服务器。这两种显存到底差在哪?普通玩家有没有必要关心HBM?先把这个问题拆开看。
HBM和GDDR根本是两条路
HBM和消费级GDDR的差别,不在参数表上的数字,而在生产线里。GDDR的做法是把内存颗粒一颗颗焊在GPU周围的电路板上,信号走PCB走线,每颗颗粒32位宽。RTX 5090用16颗组出512位,总带宽约1792GB/s,已经是消费级显卡的工程极限。HBM则是把8到12层DRAM芯片垂直堆叠,用硅通孔(TSV)技术连接,再通过硅中介层与GPU封装在一起,单堆栈位宽直接开到1024位甚至2048位,H100用5个堆叠组出5120位带宽,H200的HBM3e更是突破4800GB/s。这个差距有多大?等于GDDR在比"单线道车速",HBM直接盖了四十线道的高速公路。1
这套工艺完全不兼容传统封装。HBM在制造过程中额外增加了19道专属材料工程工序,后端测试从传统DRAM的3到4道暴增到15道以上,测试设备需求是传统DRAM的5到6倍。三星正在把韩国的通用DRAM封装线迁往越南,腾出空间全力扩HBM产能,原因就在这儿——工艺不兼容,HBM产线没法临时改产DDR5。生产同等容量的HBM,消耗的晶圆面积大约是DDR5的3到4倍,这也是HBM价格居高不下的根本原因之一。2
打游戏没区别,是因为场景不对
HBM的极致带宽,只在超出GDDR上限的负载里才有意义。消费级应用根本跑不到那个天花板——没有消费级游戏显卡搭载HBM,高端游戏卡用的GDDR6X已经够用。在游戏、日常办公、4K以下视频渲染这些场景下,访存模式对极致带宽完全无感。换句话说,你花再多钱上HBM,打游戏帧数也不会多一帧。2
但在AI推理场景,差距就不是8倍而是质的区别。大模型推理的Decode阶段几乎是纯内存带宽约束的——每生成一个token,GPU都要把整个KV Cache从显存里读一遍。带宽直接决定每秒能吐多少token。行业里有个简单的心算公式:模型大小乘以目标tokens/s,等于所需带宽。拿这个公式对规格表,70B级模型要跑到合理的生成速度,必须用HBM卡;14B以下模型与影像生成,GDDR7的每元效能反而更划算。1
HBM正在变得更夸张
AI时代对HBM的胃口只会越来越大。美光在Hot Chips 2026上分享了一组数据:两颗GPU搭配8颗12层HBM4封装,存储部分占整体面积约90%,存储面积是GPU计算核心的8倍以上。即便堆到这种程度,数据供给依旧跟不上AI算力的胃口——AI加速器计算性能每两年提升3倍,但HBM性能两年提升还不到2倍。内存墙不是要被解决,而是越砌越高。3
| 显存类型 | 代表产品 | 容量 | 带宽 | 主要应用 |
|---|---|---|---|---|
| GDDR6X | RTX 4090 | 24GB | 1008GB/s | 消费旗舰游戏 |
| GDDR7 | RTX 5090/RTX PRO 6000 | 32-96GB | 1792GB/s | 消费旗舰/工作站 |
| HBM2e | A100 | 40-80GB | 最高2000GB/s | 上代数据中心 |
| HBM3 | H100 | 80GB | 3350GB/s | 数据中心主力 |
| HBM3e | H200/B200 | 141-192GB | 4800-8000GB/s | 数据中心顶规 |
未来HBM会往哪走
但这条路有现实挑战。HBM之父Kim Jung-ho提出了另一种思路tHBM。他认为,把HBM直接堆在发热的GPU上,底层方向可能有问题——GPU会热,内存会被烤。tHBM的做法是把堆叠关系翻过来,HBM放在下面,GPU放到上面。这个分歧背后是热管理和责任归属:GPU是封装里最热、最贵、最难替换的核心器件,当内存和GPU绑得更紧时,谁来承担返工、报废和可靠性风险,成了商业层面的关键问题。9
简单总结一下:HBM和GDDR的带宽差距是真实的,但这个差距只在特定场景下有意义。打游戏、日常办公、剪视频,GDDR完全够用,HBM的带宽优势是屠龙刀。跑AI训练或大模型推理,HBM是唯一解,没有替代方案。至于HBM技术本身往哪个方向走——是三星的zHBM还是Kim Jung-ho的tHBM——普通消费者暂时不用操心,那是芯片厂商和云厂商要解决的问题。你需要做的是:搞清楚自己在跑什么负载,然后看带宽够不够用,够用就别追高,不够用再考虑升级。
当前文章无评论,是时候发表评论了