AI新时代，SSD在进化：你需要一个单独的3.5层存储

近日，一年一度的全球闪存峰会在武汉举办。

华中科技大学、杭州电子科技大学、Solidigm（思得）、华为、慧荣科技、紫光闪芯、联想凌拓、浪潮信息、中科曙光、数合泰、中国电信等科研机构、科技企业齐聚一堂，共同探讨AI新时代下的闪存存储技术变革与发展。

另外，铠侠、闪迪、佰维、海康、建兴、欧康诺、忆恒创源、紫光数据存储等存储企业，现场展示了各自的最新技术与产品。

参加本次峰会的Solidigm（思得），是一家一线NAND生产商、SSD供应商，原本是Intel NAND闪存事业部，被SK海力士收购后成为独立运营的子公司，在中国大连拥有自己的闪存工厂，并坚持承诺“在中国，为中国”。

Solidigm背靠Intel的技术积累、SK海力士的全球业务规模，以AI为主要方向，以企业级SSD为主要业务，拥有端到端的全线产品堆栈。

Solidigm可以说是QLC闪存普及的最大贡献者，先后全球首发了61.44TB、122.88TB容量的企业级QLC SSD，大大推动了QLC在企业级领域的普及。

根据Solidigm提供的数据，2025年，全球出货的QLC闪存企业级SSD总容量，大约80%都来自Solidigm。

其中，30-60TB企业级SSD容量的50%均出自Solidigm，122TB企业级SSD更是只有Solidigm一家在稳定大规模供货。

预计很快，到2028-2029年，QLC就将占据一半以上的企业级SSD。

同时，Solidigm正在加速研发下一代PLC SSD，为新一波技术浪潮做好相应的准备。

亚太区销售副总裁倪锦峰在主题演讲指出，存储一直是个周期性的行业，眼下更是在经历一特殊的“超级周期”，变化剧烈，而且数据和存储正是AI的基石，行业关注的焦点也不再只是算力，更是“存力”。

AI的快速发展，包括AI推理链路愈加复杂、智能体AI逐渐普及、KV Cache容量需求快速攀升，带来了数据规模的急剧扩张，反过来又对AI基础设施提出了全新考验，GPU内存和系统内存的承载能力已经远远跟不上，也让存储的作用和价值愈发明显。

新的形势下，传统的GPU内存、系统内存、硬盘三级存储金字塔架构已经非常吃力，必须进一步细化、拆解，从而精准满足GPU服务器、上下文存储、共享存储等不同层次的不同需求。

基于此，Solidigm提出了“3.5层存储”的新概念，位于传统的G3本地SSD、G4共享存储两层之间。

Solidigm的大模型推理多级存储分层金字塔上，GPU HBM高带宽内存依然高高在上作为第一层（G1），速度最快，带宽最高，延迟最低（ns级），资源极其宝贵，主要承载模型权重、激活值、最热的KV缓存。

系统内存或者说主机内存还是第二层（G2），主要负责CPU临时缓冲、KV缓存预加载，但是当下DRAM内存实在太昂贵，也太稀缺，不可能用来承载海量的并发会话。

第三层（G3）是本地高速SSD，主要承担模型加载、检查点（Check Point），还承接一部分溢出的热KV，但仅限本地单机，不能跨节点共享。

新增的第3.5层（G3.5）是专门的KV缓存分层，面向Agent智能体、多轮对话场景。

大量的用户会话会产生海量的KV缓存数据，不需要也不可能全部放在昂贵的系统内存中，即便是高速的本地SSD也扛不住，所以可以继续下沉。

KV缓存层支持跨节点共享的KV上下文，多个GPU可以读取同一份会话缓存，不用每个GPU都各自复制一份，从而大幅削减前三层的消耗。

这一层可以在单个超节点内提供多达18PB的容量，延迟则可以控制在毫秒级，不至于造成读写瓶颈。

最下方的第四层（G4）则是共享存储，用来保存海量的冷数据，包括很久不用的历史会话KV、训练数据集、备份归档等，都不参与实时推理，对延迟要求极低，甚至可以做成PB级容量的分布式集群。

众所周知，大模型推理的最大痛点就是KV缓存会急剧膨胀，随着用户和上下文的增加，会迅速吞噬GPU内存和系统内存。

这套多层级存储金字塔的最大意义，就是对KV缓存进行分级：

最热的放GPU HBM，热的放系统内存，温的下沉到3/3.5层的SSD，冷的丢到共享存储，让不同档次的企业SSD物尽其用，最终大大降低AI集群硬件的总成本。

AI推理不是简单的需求、响应，而是有着复杂、多样的几十个流程，需要清晰了解每个流程节点对存储性能、带宽、容量、密度、成本的不同要求，再分配到最合适的存储层级，发挥最大效益。

上图中，黄色圆点代表G3本地存储，蓝色圆点对应G3.5上下文存储，紫色圆点代表G4共享存储。

针对这一新的存储分层金字塔，Solidigm的全产品线优势得到了淋漓尽致的发挥，G3、G3.5、G4都有合适的产品可以精准匹配。

比如高性能的D7-PS1010，非常适合服务于G3本地存储层，为高频率、低时延的KV缓存、模型重载等任务提供高带宽支持。

它提供E1.S 9.5/12mm、E3.S、U.2等多种形态，采用Solidigm 176层TLC NAND闪存颗粒，最大容量15.36TB，支持PCIe 5.0，顺序读取最高可达14.5GB/s、10.5GB/s，随机读写最高可达380万IOPS、275万IOPS，读写延迟仅为60us、7us，平均故障间隔时间250万小时，支持每天一次全盘写入。

如果对于读写负载都有极高的要求，Solidigm还有更高级的D7-PS1030，支持每天三次全盘写入，最大容量也有12.8TB。

面向G4共享存储层，D5-P5336堪称上佳之选，可以高效承载海量数据，优化集群空间利用率。

它可选E1.S、E3.S、U.2三种不同形态，采用Solidigm QLC NAND闪存颗粒，最大容量122.88TB，随机读写性能最高90万IOPS、1.9万IOPS，平均故障间隔时间200万小时，支持每天0.6次全盘写入。

针对G3.5上下文缓存层，可以根据实际负载特征，灵活选择高性能SSD或高密度SSD方案，完成对话上下文、检索数据的快速存取。