凌晨1点,苹果推翻了一条坚持十六年的"祖训"。
乔布斯当年做过大量用户测试,结论是:竖着的触控面用久了手臂会累。可10月29日凌晨,苹果正式发布了首款触控MacBook Pro:双层串联OLED、峰值亮度2000尼特、120Hz ProMotion,iPhone上的灵动岛搬进了Mac,消失十年的发光Logo也回来了。微博微博微博微博

国行22999元起,10月30日开启预购,11月6日发售——时间点正好卡在双11。微博微博
但对本地跑大模型的人来说,真正该盯住的是另一句话。据IT之家消息,苹果表示这台机器最高128GB统一内存,M5 Max版可本地运行具有"数千亿参数"的大语言模型。这句话该信几分?IT之家微博
装得下,不等于跑得快
本地部署有两条命:容量决定装不装得下,带宽决定跑不跑得快。128GB统一内存,把数千亿参数的模型用低位量化塞进去,确实装得下;但出字速度约等于一道除法题——内存带宽 ÷ 模型每吐一个字要读的字节数。先看芯片分档:M5 Pro带宽307GB/s,M5 Max顶配才到614GB/s。知乎微博微博

实测数字更有体感。知乎博主"语码Cace"在M5 Max(64GB内存)上跑27B的Q4量化模型(文件约16.8GB):llama.cpp默认约29 tok/s,已过"读起来不用等"的线;开投机解码、碰上代码类重复任务,能冲到130 tok/s左右。知乎

把这笔账推到"数千亿参数":全参数都要参与计算的稠密模型,压到能塞进128GB,只剩极低的量化档位,按带宽利用率五到七成估算,出字速度会掉到个位数tok/s,"能运行"和"能用"是两码事。若是每次只激活一部分参数的MoE架构,才有实用的可能。而苹果没说演示用的是哪个模型、哪种量化、什么速度,这个问题的答案只能等首批实测。知乎
同款芯片,台式机便宜出一大截
更现实的问题是:跑本地模型,需要的是触控屏吗?
M5 Max不是这台机器独有。8月发布的Mac Studio同样有M5 Max版本,国行19999元起,最高一样能配128GB内存、614GB/s带宽。而触控MacBook Pro的M5 Max版美区4499美元起,直接折算超过3万元。差价买的,主要是那块OLED触控屏和"能背着走"。微博财联社

入门款同理。22999元的M5 Pro版,带宽只有M5 Max的一半——为屏幕买是好机器,为AI买大概率失望。
谁该预购,谁该再等等
想要触控的视频剪辑、绘图、经常移动办公的创作人群,10月30日可以去预购,这代屏幕确实是跨越式升级,24小时续航也不是小数。微博
只想本地跑大模型的人:同样的钱,先看Mac Studio;或者干脆等11月6日发售后的首批评测。宣传语可以很大,但体验上限永远写在带宽那个数字里。
最后泼盆冷水:顶配触控版(M5 Max + 128GB + 16TB)14英寸要108999元,16英寸要111499元。爱范儿在现场进一步勾选纳米纹理玻璃等选项后,16英寸结算价直接突破11.2万元,够买一辆二手车。官网配置页上,M5 Max + 128GB + 4TB的中档配置已经要70598元。下单前不妨先想清楚:你要的到底是屏幕,还是算力?微博爱范儿
