11月上旬的拉斯维加斯"AMD InDepth"技术日上,AMD第一次把MEXT这套"把闪存虚拟成DRAM"的软件讲透:利用AI分析应用程序的数据访问规律,将暂时不常用的内存数据转移至NVMe SSD,并在预计需要之前提前搬回DRAM。 AMD对它的官方说法,是降低内存配置成本的同时,维持接近全DRAM方案的应用性能。 “我们和企业客户的十次对话,十次都在谈内存,谈供应也谈成本”,这是EPYC业务负责人Dan McNamara在现场的说法。 结论可以先行:性能确实不怎么降,但这组数字只对一类负载成立。知乎IT之家36氪
贵,是这一切的背景。据媒体援引TrendForce的数据,通用服务器DRAM价格在过去两个季度里飙升了约3.5倍,而AMD现场给出的数字是,DRAM每GB成本已回到约50到60美元。更关键的是,内存成本和实际用量并不匹配:DRAM保守占服务器成本60%到70%,大内存系统能到80%到90%,然而微软Azure的论文显示,一半虚拟机从未访问超过一半内存。 一大批冷数据常年闲置在昂贵的DRAM里,传统操作系统又不会主动腾挪它们。36氪
MEXT要做的,是把"闲置"卸给闪存。软件持续监控内存页面的访问情况,把长期不活跃的数据标记为冷页面并转移至SSD。 而闪存这一侧,每bit成本约是DRAM的1/50、功耗约1/30,延迟却高约500倍,本地50到60微秒,所以预测窗口必须拉到150微秒开外,赶在应用真正访问之前把数据搬回DRAM。知乎36氪
撑起"抢跑"的是一套Transformer衍生架构的核心预测模型,预测下一步可能需要的内存页面,可以在EPYC处理器单个CPU核心上运行,无需额外GPU。 它不需要更改现有硬件,五分钟以内即可完成安装——这是MEXT被收购前公司自己的说法。“别人预测下一个词,我们预测下一页内存”,MEXT这家初创公司的创始人、现任AMD计算与企业AI业务拓展副总裁的Gary Smerdon如此概括。知乎
哪些业务真的能用
官方披露的测试集,基本指向同一类场景。芯片设计仿真:在Synopsys PrimeTime电子设计自动化应用中,DRAM容量减少50%后,系统仍能保留约95%的原始性能。 Azure HX系列上,1.4TB DRAM跑四个EDA作业分两轮要9.3小时,换MEXT后6.6小时。 闪存把有效内存从1.4TB扩到2.6TB,四个芯片设计任务得以并行跑完,每小时吞吐高了40%。知乎36氪新浪
大数据与AI配套计算同样在名单上:部分Spark SQL测试采用一半DRAM、一半MEXT扩展内存的配置,性能可达到全DRAM方案的99%。 5个智能体负载砍掉一半DRAM,仍保留99%的全DRAM性能,并发被标为1.9倍。 同样的机器能接住接近翻倍的并发智能体。把这些能用的业务放在一起看,共同点是批处理周期长、内存数据按规律重复使用、单次访问对微秒级延迟不敏感。预测命中,500倍的速度差被藏住;预测失手,代价立刻现形。知乎36氪
省下来的钱,也有前提
Smerdon在现场说得很直接:客户拿到的节省大概在75%甚至更多,而且它是EPYC专属的。36氪
AMD先拿自家IT部门试水,最初145台服务器减少约490万美元DRAM采购,较全DRAM方案省83%。 这套软件目前主要面向EPYC服务器,采用Linux内核模块形式提供,暂时并未开源,客户需要通过AMD销售渠道获取授权。 也就是说,能用上它的前提,本身就是一道筛选:只认EPYC,只认Linux,商务上是付费许可,付费交付刚刚起步。36氪知乎
被问到与CXL内存扩展的区别时,Smerdon的回答是:差别就是AI——256或512个线程一起取内存时,操作系统根本看不清,要做的是在这种噪声里预测。 反过来读,这正是MEXT的边界:它赌的是负载的访存本身有规律。内存访问无章法、延迟极度敏感的业务——低延迟交易、在线服务数据库——不在已公布的测试集里,减内存不可能是免费的。目前的性能数字均出自AMD自家活动,独立第三方复测还未出现,AMD计划2027年把部署从145台扩大至2000台,并与HPE合作推进服务器方案。 收益成色,还要时间来验证。36氪知乎
对普通用户来说,这件事的意义或许不在别人的服务器账单:当内存涨到足够贵,“装多大"开始让位于"用得多省”,纯软件的调度开始走上硬件成本竞争的主桌,DRAM的紧缺也就多了一种被"绕开"的可能。