AMD服务器内存减负75%,企业采购能省多少钱?

源自18位全网作者

01:29

在拉斯维加斯举行的AMD InDepth技术沟通会上,AMD正式发布了MEXT预测式内存软件:用AI把服务器里暂时不用的冷数据挪到NVMe SSD上,赶在程序需要之前预测性地搬回DRAM,性能基本不变就能把DRAM需求降20%到75%,有效内存最多扩三倍。 对企业采购而言,这句话可以翻译成钱:AMD自己的测算显示,相比直接买内存条扩容,采用MEXT后单系统扩容成本可降低83%。微博

这轮"内存减负"踩中的是当下最疼的成本点。11月10日,96GB服务器内存条(DDR5 RDIMM)合约价从2650美元调到3025美元,32GB、64GB分别调到1030美元和1800美元,三档全线跳涨一成以上,机构对四季度通用DRAM合约价的预期仍是环比再涨10%至15%。 10月,通用型DDR4 8Gb的平均合约价已到27.5美元,较2016年开始统计时涨了约9.5倍。知乎36氪

压力直接落在整机账单上。按常见的8卡AI服务器配置推算,双路满插24条96GB内存约2.25TB,这一档的内存成本已到7.26万美元、折合人民币约51万元;标准企业服务器里内存与闪存过去占整机物料成本约20%至25%,四季度涨价后,密集计算节点的内存占比可能逼近40%。 “几乎每次和企业客户交流,都会谈到内存供应和成本”,这是AMD在现场的直言。知乎

省的钱从哪来

MEXT的省钱逻辑不是砍需求,而是换载体。内存分层是老思路,但此前难以落地,因为闪存访问速度可能比DRAM慢约500倍,被动交换数据会拖垮性能。AMD的补法是加一层预测:核心模型采用Transformer衍生架构,在单颗EPYC核心上运行,应用启动后一秒内完成训练,把冷页面移入SSD,并在程序发出请求之前把数据预取回DRAM,全程不需要GPU。 这项技术源自AMD今年6月收购的同名初创公司,其思路就是让NAND闪存以DRAM形式呈现给操作系统,帮数据中心运营商节省DRAM成本。知乎集微网

落到具体单价,AMD给出的测算链条很清楚:通过购买256GB DIMM扩容,每条DIMM约需1.55万美元,折合每GB超过50美元;采用MEXT后,单系统扩容成本可降低83%,145套系统预计节省超过500万美元。 按这个口径折算,扩容的边际成本大致被压到每GB十美元以内,平均每套系统少花约3.4万美元。省钱的另一半体现在吞吐:一台约1.4TB内存的EDA服务器用闪存把有效内存扩到2.6TB后,原本分两批跑9.3小时的四个芯片设计任务可以并行、6.6小时完成,每小时吞吐提高约40%——没有新增CPU和GPU,只是让同一批硬件同时干更多的活。36氪新浪数码

75%是上限,不是地板

把75%直接写进采购预算会算错账,这个区间对应着不同的性能代价。测试口径里,削减50%物理内存时系统仍可保留95%左右原始性能,削减75%内存时则维持80%水平。 在智能体AI等负载中DRAM减半后性能仍可达全DRAM配置的99%,但其中最吃内存的一项Agent负载只有约90%。 采用DRAM与闪存各占一半的配置,部分多智能体及内存密集型应用的单位成本性能可提升70%至90%;但AMD也明确提示,不同负载对内存延迟的敏感度不同,这些成绩不能直接套用到所有服务器。 换句话说,对延迟极度敏感的业务收益有限,EDA、批处理数据库、智能体沙箱这类"内存大而不都热"的负载才是甜区。快科技36氪知乎

采购什么时候能用上

第一道门槛是可得性。MEXT目前主要面向EPYC服务器,以Linux内核模块形式提供,支持多种发行版但暂未开源,客户需要通过AMD销售渠道获取授权。 它省的是DRAM、买的是闪存,而这一轮涨价里SSD同样没有降价空间,机构预估四季度Client SSD合约价仍将季增5%以内,净节省需要用自家负载实测。知乎知乎

第二道门槛是时间。AMD已把MEXT部署在自家145台服务器上,并计划在2027年扩大至2000台,同时与HPE合作,现阶段可在搭载EPYC的HPE系统上运行,后续计划提供预装MEXT和RAMView的机型。 对绝大多数企业来说,这个季度下单时内存条还得按现价全款照买,MEXT真正进入采购比价表要等2027年商用扩容跑通之后。36氪

值得盯住的信号有两个:AMD那2000台部署和HPE预装机型交付时披露的实测节省,以及下一张月度内存报价表的走向。前者决定83%这笔账能不能从AMD的内部经验变成行业标准解法,后者决定你留给软件换内存的时间窗口还有多大。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章