内存涨疯了,AMD的解法是把SSD当内存:砍一半,性能还剩95%

源自252位全网作者

12:58

内存价格从每GB约8美元涨到10美元以上,装机党人人喊疼。AMD在11月初的EPYC技术活动上摊开了一套很野的解法——内存不够,拿SSD来凑。知乎36氪

这套方案叫MEXT(预测内存),干的只有一件事:把暂时用不上的内存数据挪进NVMe固态硬盘,等程序快要用到了,再提前搬回内存。AMD引用的云厂商数据挺扎人,微软Azure部分虚拟机约一半内存是超配的,50%到80%的内存页长期没人访问,企业买的内存有一大半在机房里躺平。知乎知乎

内存涨疯了,AMD的解法是把SSD当内存:砍一半,性能还剩95%

听着耳熟?这不就是系统自带的虚拟内存吗?区别就在“提前”两个字。闪存的存取速度比DRAM慢约500倍,等程序真的开口要数据再搬,黄花菜都凉了。MEXT塞了一个轻量AI引擎进去,实时判断哪些数据页马上会被用到,赶在应用发出请求之前把货备好。官方说这个模型一秒就能跑完一轮训练,只占一颗EPYC核心,GPU都不用。知乎知乎知乎

官方给出的成绩也确实拿得出手。芯片设计软件Synopsys PrimeTime的测试里,DRAM砍掉一半,性能还剩95%左右。Spark SQL一半内存一半闪存的配置,能摸到纯内存方案的99%。AMD已经拿自家145台服务器当了小白鼠,按它的测算省下了约490万美元的内存采购,2027年还要扩到2000台,一起拉着HPE卖服务器。知乎36氪知乎36氪

内存涨疯了,AMD的解法是把SSD当内存:砍一半,性能还剩95%

但有两盆冷水得泼在前头。第一,省下来的比例和掉下去的性能是同一根滑杆。砍50%性能几乎无感,砍到75%就只剩八成上下,别把“内存减半”读成“白捡”。第二,这碗饭目前只有机房吃得到。MEXT是个Linux内核模块,只面向带NVMe硬盘位的EPYC服务器,没开源,走授权渠道。延迟敏感的负载官方成绩没覆盖,硬上很可能分数字体感两张皮。知乎知乎

内存涨疯了,AMD的解法是把SSD当内存:砍一半,性能还剩95%

那跟普通用户有什么关系?两层。往大了说,AMD把服务器内存从“多买”改成“少用”,恰恰说明它也不觉得内存价格短期能跌回去——软件省内存,是对抗短缺,不是解决短缺。往小了说,本地跑大模型的玩家早就在干同样的事:显存不够拿内存顶,内存不够拿SSD顶。MEXT只是把这套穷人乐玩法做成了企业级方案。知乎

该16G就16G,该32G就32G,别指望机房的软件来救你的钱包。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章