当AI不再“健忘”:从HBM到HBF,看懂下一代存储战争
过去两年,AI的竞争焦点是算力,英伟达的GPU一卡难求;但在2026年的今天,行业的焦虑点正在悄然转移。随着大模型从“训练”走向“推理”,从“聊天”走向“Agent(智能体)”,一个新的瓶颈已经浮现——存储。
如果说算力决定了AI有多“聪明”,那么存储则决定了AI有多“博学”且“持久”。最近,随着OCP(开放计算项目)正式发布High Bandwidth Flash(HBF,高带宽闪存)的首个标准,一场围绕AI存储的底层变革正在拉开序幕。
一、 AI的“脑容量”危机:为何传统存储不够用了?
大模型(LLM)的运行机制,决定了它对存储有着近乎变态的要求,主要体现在三个维度:
模型参数暴涨:GPT-3是1750亿参数,而Llama 405B、GPT-4的参数量已达万亿级。仅加载一个模型权重,就需要数百GB的内存空间。
长上下文(Long Context):为了处理一本书甚至一个图书馆的资料,AI需要巨大的“KV Cache(键值缓存)”来存储对话历史。上下文窗口从4K扩展到128K甚至1M,意味着显存占用呈指数级增长。
极低延迟要求:AI推理讲究“人机实时交互”,数据必须在纳秒到微秒级内喂给GPU,一旦存储跟不上,昂贵的GPU就会空转等待,造成算力浪费。
二、 金字塔尖的HBM:昂贵且稀缺
为了应对延迟挑战,目前最顶级的AI芯片(如NVIDIA Blackwell、AMD MI300)都配备了HBM(高带宽内存)。
HBM通过TSV(硅通孔)技术将多层DRAM芯片堆叠在一起,紧贴着GPU封装。它的优点是极快(带宽可达数TB/s),缺点是极小且极贵。
容量小:单颗芯片通常只有几十GB。
成本高:价格通常是普通DRAM的数倍,甚至接近黄金。
这就导致了一个尴尬的局面:为了运行一个大模型,企业不得不购买大量搭载HBM的高价显卡,仅仅是为了容纳那些只读不写的模型参数。这就像为了放下一本厚重的字典,你必须买一个极其昂贵的保险柜,而这个保险柜大部分时间只是在“存放”,而非“计算”。
三、 远水救不了近火:SSD的尴尬
既然HBM贵,能不能用便宜的大容量SSD(固态硬盘)呢?
答案是:太慢了。
SSD通常通过PCIe接口连接,虽然容量可达数TB甚至数十TB,但带宽通常不到100GB/s,且延迟在毫秒级。当GPU需要从SSD读取数据时,速度差异就像是从消防水管喝水变成了用吸管喝水。SSD只能作为“数据仓库”,无法胜任“实时工作台”的角色。
四、 HBF登场:NAND界的“HBM”
正是在这样的背景下,HBF(High Bandwidth Flash)应运而生。它由闪迪(SanDisk)提出,SK海力士联合推进,并在近日通过了OCP的标准化。
HBF的核心思路极具颠覆性:用制造HBM的思路来制造闪存(NAND Flash)。
介质替换:将HBM中的DRAM换成3D NAND闪存。NAND虽然读写速度不如DRAM,但容量极大(单栈可达512GB),且断电不丢数据,成本仅为DRAM的十分之一。
堆叠革命:像HBM一样,将8层或16层的NAND晶圆进行堆叠,使用TSV和混合键合技术。
接口升级:放弃传统的PCIe接口,转而使用UCIe(通用芯粒互联)标准,直接与GPU相连。这使得HBF的带宽跃升至0.4~3.0 TB/s,虽然略逊于HBM,但远超SSD。
HBF的定位非常清晰:它是HBM的“扩容层”或“副驾驶”。

五、 AI存储的新金字塔
随着HBF的加入,AI系统的存储架构正在重构为一个更加高效的金字塔:
HBM(热数据):位于塔尖,负责存放当前正在计算的激活值和最热的临时数据。追求极致速度。
HBF(温数据):位于中间,负责存放整个大模型的权重参数和长上下文的静态KV Cache。追求大容量与高带宽的平衡。断电后数据不丢失,下次启动无需重新加载模型。
CXL内存池(共享数据):位于腰部,通过CXL总线连接多个CPU/GPU,实现内存资源的池化共享,灵活调配。
NVMe SSD(冷数据):位于底层,负责存储海量的训练数据集、日志和归档数据。追求极致容量和低成本。

六、 结语:存储定义AI的未来
HBF的出现,标志着AI基础设施从“算力中心论”向“存算平衡论”的深刻转变。对于A股和全球半导体产业链而言,这意味着先进封装(TSV、混合键合)、封装材料(GMC、球硅)以及存储模组厂商将迎来新的增量市场。
未来的AI竞争,不再仅仅是看谁的GPU算力更强,更是看谁能以更低的成本、更快的速度,让AI拥有更大的“脑容量”和更长的“记忆力”。在这个意义上,存储,正在成为定义AI未来的关键变量。
