什么值得买App下载 App ›
连续签到专享现金活动

DRAM太贵?AI时代闪存正悄悄“兼职”内存

2026年,AI推理负载激增与DRAM产能持续紧张形成双重压力,推动行业探索以闪存部分替代DRAM的可行性。多家机构与厂商指出,KV缓存、长上下文数据等低频顺序读取场景对延迟容忍度较高,适合由高容量、低成本的NAND闪存承接。与此同时,SSD与内存的物理特性差异仍构成根本限制——前者延迟在微秒级,后者为纳秒级,相差约1000倍。当前技术路线并非“用SSD完全取代内存”,而是通过智能分层调度,在维持系统性能的同时优化成本结构。这一趋势已在数据中心和端侧设备同步演进,AMD、苹果等企业分别布局不同场景。123
01成本与容量:55倍价差驱动架构重构
成本是闪存替代DRAM的核心驱动力。据Citrini Research测算,QLC NAND闪存每GB成本约0.05美元,而DDR5 DRAM约为2.75美元,HBM3E高达15美元,闪存单位成本仅为DRAM的1/55。这一差距在AI推理中尤为关键——单次长对话生成的KV缓存可达数百GB,若全部使用DRAM,整机内存成本将难以承受。TrendForce数据显示,2026年第一季度DRAM合约价环比暴涨90%以上,而NAND涨幅仅55%-60%,价格基数远低于内存。因此,云厂商与芯片企业开始将冷数据、缓存数据下沉至闪存层,以摊薄总拥有成本。例如,AMD收购MEXT后,计划通过AI预测调度技术,让闪存在数据中心中承担更多内存角色;苹果则在端侧推行“LLM in a Flash”方案,利用本地闪存放置模型参数,减少对DRAM的依赖。345
02性能边界:延迟与寿命的硬约束
尽管成本优势显著,闪存无法完全替代DRAM的根本原因在于物理特性差异。DRAM访问延迟为10-60纳秒,而NVMe SSD即使最快也需50-100微秒,相差三个数量级。CPU依赖内存的极低延迟进行实时数据交换,若频繁从SSD调取数据,系统将严重卡顿。此外,NAND闪存存在擦写寿命(P/E Cycle)限制,无法承受DRAM每秒亿万次的高频读写。多位技术分析指出,“SSD再快,走的是PCIe通道,中间隔着控制器和协议栈,反应速度根本不是一个量级”。因此,当前可行路径仅限于低频、顺序读取场景,如KV缓存或模型权重加载,而非通用计算内存。虚拟内存虽可应急,但实测体验远逊于真实RAM扩容。267
03落地路径:数据中心 vs 端侧AI
闪存替代DRAM的实践已分化为两条主线。在数据中心,AMD通过收购MEXT,整合其AI驱动的预测内存技术,目标是在服务器集群中实现“少量DRAM+大容量闪存”的混合架构,降低AI推理部署成本。摩根士丹利认为,该方案有助于AMD在代理式AI浪潮中扩大云端份额。而在端侧,苹果自2024年起推进“LLM in a Flash”,利用设备本地闪存放置大模型参数,按需加载至DRAM,实现在有限内存下运行超大规模模型。江波龙与AMD的合作进一步验证此路径:通过SPU芯片与HLC高级缓存技术,在256K上下文场景下将DRAM占用降低近40%,硬件成本下降约30%。两类方案共同指向同一结论——存储层级正从单层堆料转向分层分工,高频热数据留驻DRAM/HBM,低频温冷数据下沉至NAND。389
维度数据中心路径端侧AI路径
主导企业AMD、云服务商苹果、江波龙、AMD
核心技术MEXT预测调度、分层内存架构LLM in a Flash、SPU+iSA算法
目标场景AI推理集群、KV缓存卸载本地大模型部署、长上下文推理
DRAM节省效果未披露具体数值,强调TCO降低DRAM占用降低近40%,成本降30%
依赖硬件企业级QLC SSD、高速NVMeGen5 mSSD、LPDDR5x + NAND组合
04用户影响:消费级市场短期难受益
尽管技术路径清晰,普通用户短期内难以直接受益。当前闪存替代方案高度依赖定制化软硬件协同,如AMD锐龙AI Max+平台或苹果专用固件,消费级PC缺乏相应调度机制。同时,AI服务器吞噬全球53%-70%的DRAM产能,导致消费级内存价格半年内暴涨300%,32GB套条从800元升至2200元。有分析指出,“这事短期未必立刻反映在手机、电脑价格上”,但长期看,若分层架构普及,未来中低端设备或可通过减少DRAM配置、增加SSD容量来控制成本。不过,对于游戏、视频编辑等高随机I/O负载场景,仍需依赖真实内存扩容,SSD无法提供同等体验。81011

评论

评论区空态插画

当前文章无评论,是时候发表评论了