DRAM太贵?AI时代闪存正悄悄“兼职”内存
01成本与容量:55倍价差驱动架构重构
成本是闪存替代DRAM的核心驱动力。据Citrini Research测算,QLC NAND闪存每GB成本约0.05美元,而DDR5 DRAM约为2.75美元,HBM3E高达15美元,闪存单位成本仅为DRAM的1/55。这一差距在AI推理中尤为关键——单次长对话生成的KV缓存可达数百GB,若全部使用DRAM,整机内存成本将难以承受。TrendForce数据显示,2026年第一季度DRAM合约价环比暴涨90%以上,而NAND涨幅仅55%-60%,价格基数远低于内存。因此,云厂商与芯片企业开始将冷数据、缓存数据下沉至闪存层,以摊薄总拥有成本。例如,AMD收购MEXT后,计划通过AI预测调度技术,让闪存在数据中心中承担更多内存角色;苹果则在端侧推行“LLM in a Flash”方案,利用本地闪存放置模型参数,减少对DRAM的依赖。345
02性能边界:延迟与寿命的硬约束
03落地路径:数据中心 vs 端侧AI
闪存替代DRAM的实践已分化为两条主线。在数据中心,AMD通过收购MEXT,整合其AI驱动的预测内存技术,目标是在服务器集群中实现“少量DRAM+大容量闪存”的混合架构,降低AI推理部署成本。摩根士丹利认为,该方案有助于AMD在代理式AI浪潮中扩大云端份额。而在端侧,苹果自2024年起推进“LLM in a Flash”,利用设备本地闪存放置大模型参数,按需加载至DRAM,实现在有限内存下运行超大规模模型。江波龙与AMD的合作进一步验证此路径:通过SPU芯片与HLC高级缓存技术,在256K上下文场景下将DRAM占用降低近40%,硬件成本下降约30%。两类方案共同指向同一结论——存储层级正从单层堆料转向分层分工,高频热数据留驻DRAM/HBM,低频温冷数据下沉至NAND。389
| 维度 | 数据中心路径 | 端侧AI路径 |
|---|---|---|
| 主导企业 | AMD、云服务商 | 苹果、江波龙、AMD |
| 核心技术 | MEXT预测调度、分层内存架构 | LLM in a Flash、SPU+iSA算法 |
| 目标场景 | AI推理集群、KV缓存卸载 | 本地大模型部署、长上下文推理 |
| DRAM节省效果 | 未披露具体数值,强调TCO降低 | DRAM占用降低近40%,成本降30% |
| 依赖硬件 | 企业级QLC SSD、高速NVMe | Gen5 mSSD、LPDDR5x + NAND组合 |
04用户影响:消费级市场短期难受益
当前文章无评论,是时候发表评论了