五万块的迷你主机能跑3000亿参数大模型了,芯片却是去年的小改款

源自263位全网作者

09:45

这个10月,迷你主机圈集体"通胀"了。

铭凡51999元、极摩客46999元、TOPC 45999元,一批AI迷你主机接连开卖。外观看还是传统小主机的样子,卖点却一个比一个吓人:192GB内存,本地跑3000亿参数大模型。IT之家知乎IT之家

五万块的迷你主机能跑3000亿参数大模型了,芯片却是去年的小改款

对习惯一两千块价位的玩家来说,这价格足以让人怀疑人生。它到底塞了什么进去?

新芯片,其实是老熟人

这批机器搭载的AMD锐龙AI Max+ PRO 495(代号Gorgon Halo),别看名字新,它是去年初亮相的395的小改款:同样的16核Zen5、同样的40CU RDNA 3.5核显,ComputerBase首批测试,它和上代395也只拉开了约12%的差距。真正的升级只有一处:内存从最高128GB变成192GB LPDDR5X-8533,8颗24GB颗粒直接焊在主板上,带宽提到约273GB/s,最多还能划160GB当"显存"用。知乎微博知乎知乎

五万块的迷你主机能跑3000亿参数大模型了,芯片却是去年的小改款

翻译成人话:发动机没怎么动,油箱大了不少。

这64GB,是"能不能"的区别

你可能会问,192GB拿来干嘛?本地大模型。跑它的门槛从来不是快,是"装得下"。博主Genima在极摩客发布会现场实测:上一代395(128GB)因为权重装不下,根本启动不了的DeepSeek-V4-Flash,换到495上顺利加载;轻量的35B模型更夸张,生成速度从62 token/s拉到90 token/s,已经接近云端接口的输出速度。知乎

五万块的迷你主机能跑3000亿参数大模型了,芯片却是去年的小改款

AMD官方的说法更猛:这是全球首款能以4bit量化在本地运行超3000亿参数模型的x86客户端芯片,上一代128GB的门槛还停在2000亿级。所以这钱买的不是"更快",是"从不能到能"。知乎

但先别激动,三盆冷水

第一盆,带宽是命门。273GB/s的带宽决定了大模型只有十几token/s的速度,能用,但不算快。Mac Studio的统一内存带宽几乎是它的两倍,同期开卖的英伟达RTX Spark赢在CUDA生态。495的长板是容量,不是速度。知乎知乎

第二盆,软件生态半成品。开源项目SnowLLM直言:主流推理框架都是给别家GPU写的,直接搬过来只能发挥一半左右的性能。极摩客的对策是出厂预装图形化推理引擎——厂商亲自下场"抹平生态",恰恰说明现状有多糙。知乎

第三盆,别指望拿它打游戏。核显还是去年那40个CU,没有任何提升。而且现在开卖的是面向企业的PRO商用版,消费版要晚些才来。知乎

谁该买?

金融、医疗、政企这类数据合规是硬要求的用户,它就是为你造的:数据不出内网、开箱即用、不用养运维团队,省下的人力和合规成本比硬件差价更值钱。个人AI爱好者不用抢首发:更便宜的388机型已经露头,E人E本刚发布了首款搭载388的迷你工作站EBOX G95。Framework的192GB版预售价也要6469美元起。等消费版和实测潮来了,价格只会松动。知乎哔哩哔哩微博

五万块的迷你主机能跑3000亿参数大模型了,芯片却是去年的小改款

纯游戏党可以直接划走,你的战场依然在独显。

内存疯涨的年份,192GB板载内存既是最大卖点,也是最贵的溢价。问题抛回给你:你的"装不下",值五万块吗?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章