什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

内存带宽成AI核心瓶颈,苹果小米英伟达三路拆墙,DDR5价格暴涨6倍

苹果新款Mac的内存带宽干到了1.2TB/s,小米刚发布的玄戒O100更是飙到1.22TB/s,加上英伟达RTX 5090逼近1.8TB/s。三家路线不同,却在同一时刻死磕同一个参数——内存带宽。因为如今AI算力再猛,数据喂不过来芯片也只能干等。这道卡脖子的坎,就是业界谈之色变的“内存墙”。
算得快不如喂得快
很多人买电脑看内存只关心“容量”,觉得能装下大模型就行。但容量只是冰箱大小,带宽才是冰箱门的宽度。大模型推理时,每吐出一个字,都要把几十上百亿的参数从内存搬到计算单元。通道太窄,就像后厨里翻炒极快的大厨,配菜却只能从一扇窄门挤进来,大厨只能握着锅铲干等。这就是“内存受限”,算力再高也是空转。
三路大军,同拆一堵墙
既然瓶颈在搬运,各家就开始拼了。苹果靠的是“大一统”,M5 Ultra用四芯粒封装加上512GB统一内存,把1.2TB/s的带宽全池化,省去了数据跨总线拷贝的麻烦。小米玄戒O100的招数更硬核,直接把内存和NPU像盖楼一样“垂直堆叠”,晶圆对晶圆压合,物理距离缩到最短,硬生生把带宽拉到主流手机的16倍。英伟达则是传统暴力美学,RTX 5090用512-bit超宽位宽配上GDDR7,把显存通道拓到极致。路数不同,目标一致:让数据跑得和算力一样快。
你交的“AI税”,大半花在内存上
死磕带宽的代价,直接传导到了你的钱包。DDR5颗粒价格暴涨超6倍,因为全球70%以上的先进存储产能都被AI数据中心吸走了。你买新电脑新手机的内存,本质上是在和AI服务器抢产能。以前买大内存是买容量,现在买大内存是花钱买通道。面对这波被动涨价,非必要不换机,刚需换机则务必盯紧国补,或者把预算花在刀刃上——既然带宽决定AI体验,选设备时,别光看核心数,带宽参数更值得留意。
历史事件回溯
当前事件
苹果小米等AI PC死磕内存墙的底层逻辑
  • 瓶颈成因:本地运行大模型需海量参数,访存速度远落后于算力增长。
  • 破局方案:大幅提升内存容量与带宽,探索统一内存或先进封装技术。
  • 算力影响:算力闲置等待数据,严重制约模型推理速度与上下文长度。
2020年11月
苹果M1发布以统一内存破局
  • 瓶颈成因:传统架构CPU与GPU显存分离,数据拷贝开销大且带宽受限。
  • 破局方案:首创统一内存架构,CPU与GPU共享内存池,提升带宽。
  • 算力影响:消除跨设备数据搬运延迟,图形与AI推理性能跨越提升。
2016年4月
英伟达P100首发HBM2破显存墙
  • 瓶颈成因:传统GDDR显存带宽遇瓶颈,严重拖累GPU并行计算潜能。
  • 破局方案:首次引入HBM2显存,通过3D垂直堆叠实现超高带宽。
  • 算力影响:打破显存带宽墙,支撑深度学习爆发期的大模型训练。

评论

评论区空态插画

当前文章无评论,是时候发表评论了