三星把AI芯片塞进内存里,这思路有点野

2026-09-03 22:28:26 0点赞 0收藏 0评论

近期有一批技术路线挺有意思的,三星在Hot Chips 2026上展示了LPDDR5X-PIM,把一个小型处理器直接做到了DRAM每个Bank里头。那么问题来了:DRAM里头塞CPU,这是什么操作?

把小型处理器塞进DRAM每个Bank里把小型处理器塞进DRAM每个Bank里

先说说PIM是什么意思。PIM是Processing-in-Memory的缩写,也就是"内存内计算"。传统架构里,数据从内存搬到CPU算完再送回去,来回跑的过程中延迟高、带宽低、功耗大。PIM的思路是,既然数据本身就在内存里,那干脆在内存边上放个小的计算单元,让数据不用搬来搬去,在原地就处理了。

数据不用搬来搬去,原地处理更省电数据不用搬来搬去,原地处理更省电

那么三星这次的技术更进一步:它把处理器塞进了LPDDR5X的每个Bank里,一共16个Bank,每个Bank配一个小型的神经网络处理器。拿它跑Llama 3.1,端到端的速度是81.3词元每秒,而普通LPDDR5X只有27词元每秒——快了差不多整整3倍,而且用的是同一个561球的封装,物理上可以直接替换现有的手机内存。

这个技术对谁最有用呢?主要是端侧AI。现在的手机处理器跑大模型,靠的是CPU或NPU,计算能力和功耗都是瓶颈。内存本身就占了一大块功耗,如果能把部分推理任务分流到内存里的PIM单元,CPU的负担就轻了,续航也会好很多。三星这颗LPDDR5X-PIM,理论上可以做到在不增加额外芯片的情况下,给手机增加一块专属的"AI加速区"。

AI推理分流到内存PIM单元,手机多块AI加速区AI推理分流到内存PIM单元,手机多块AI加速区

不过这技术目前还在演示阶段,离真正量产还有段距离。三星没有公布具体什么时候量产,也没有说哪家手机厂商会首批采用。但是哥们觉得,这路子值得盯着。内存厂现在被AI服务器的需求推着走,消费级的内存已经贵到离谱,厂商与其在内卷中降价,不如想点新办法提升产品溢价。PIM就是一条路:把内存从"存东西的"变成"能算东西的",溢价空间一下子打开了

对咱们普通消费者来说,等这东西真正落地到手机里,估计还得一到两年。2027年之后的旗舰机,说不定就会出现"内存内置NPU"这种配置,到时候手机跑本地大模型的体验,会比现在再上一个台阶。现在能做的,就是先等等,别急着换机。

等PIM落地手机,2027旗舰的本地大模型体验等PIM落地手机,2027旗舰的本地大模型体验
展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松