192GB迷你主机卖到5万:多出的64GB价钱抵一台老旗舰

源自1104位全网作者

10:24

跑本地大模型的人都有过这种憋屈:模型下好了,参数调好了,一加载——内存不够。对"内存焦虑"患者来说,最近上市的这批机器堪称对症下药:192GB统一内存塞进巴掌大的盒子,什么模型都装得下。但一看价格,焦虑没治好,心先凉了半截。

扎堆上市的192GB小盒子

9月底开始,搭载AMD锐龙AI Max+ PRO 495的迷你AI工作站密集上架。国内极摩客Evo-X5 Pro卖到5万元上下,磐镭YO2新版首发49999元,TOPC TXA2-495的2TB版45999元。海外Framework Desktop的DIY版预售6799美元。共同点:192GB统一内存起步,价格4.6万往上。知乎哔哩哔哩知乎微博知乎

192GB迷你主机卖到5万:多出的64GB价钱抵一台老旗舰

对比扎心:同样是磐镭YO2,上一代395芯片、128GB+2TB的老款现在只要22999元,国补后低至21499元。内存多了50%,价格直接翻倍。哔哩哔哩

加的钱,到底买到了啥

先泼冷水:这颗处理器基本可以看作老款395的马甲。CPU还是16核32线程Zen5,加速频率从5.1GHz提到5.2GHz,核显还是40个计算单元,从Radeon 8060S改名8065S。内存带宽从256GB/s挪到273GB/s,涨幅不到7%。真正的升级只有一条:内存上限从128GB提到192GB,最多160GB可以划给GPU当显存——上一代只能划96GB。也就是说,多花的两万多,几乎全买了64GB内存。知乎知乎知乎知乎

192GB迷你主机卖到5万:多出的64GB价钱抵一台老旗舰

这64GB能干嘛?按AMD官方演示,160GB显存下,320B参数的大模型4-bit量化后能本地跑起来,生成约20 token/s;125B+51B双模型并行约42 token/s。这是x86阵营第一次把"本地跑3000亿参数"塞进一台桌面小盒子。而128GB老平台的甜点还是35B级模型,320B量级根本装不下。知乎知乎知乎

192GB迷你主机卖到5万:多出的64GB价钱抵一台老旗舰

但注意,容量决定"装不装得下",带宽决定"跑多快"。273GB/s摆在那,320B的20 token/s只是"能用",离流畅还远。

谁该冲,谁该等

三类人适合看495。一是真要跑300B级大模型的;二是做多智能体并发的——每个智能体都吃模型权重和KV缓存,AMD官方描绘的"任意时间点让6到10个智能体同时运行",128GB真不够分。三是企业用户——原生x86架构,Windows/Linux都能跑,不用像Arm平台那样过驱动和转译这道坎。知乎

再加一条时机账:DDR5 32GB套装已从900元涨到3800元,板载192GB等于一次锁定未来几年的内存成本。代价是内存直接焊在主板上,买完没有升级余地。知乎知乎

192GB迷你主机卖到5万:多出的64GB价钱抵一台老旗舰

三类人别碰。只跑35B以内模型、个人开发、日常聊天的,老款395+128GB完全够用,B站评测博主算过账:买两台老YO2组并行,比一台新款还便宜将近7000元。游戏玩家也绕道,这代核显还是上一代的Radeon 8065S,没有任何提升。别被"AI工作站"的名头带偏。哔哩哔哩知乎

一句话:192GB治好的是"装不下",治不了"跑不快"。掏钱之前,先看清自己模型清单里最大的那个,到底要多少GB。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章