4万6在家跑DeepSeek?AI小主机上市潮,先算内存账再买

源自296位全网作者

10:42

这周关注迷你主机的人应该发现了一个奇观:三款"桌面AI超算"跟约好了一样扎堆上市。

极摩客EVO-X5 Pro在9日拉着AMD和京东开发布会,磐镭YO2新款12日开售,TOPC TXA2-495今天正式发布。同一颗心脏——AMD锐龙AI Max+ PRO 495,16核32线程;同一个卖点——192GB大内存,本地跑大模型;连首发价都排得整整齐齐:4万6到5万。哔哩哔哩知乎知乎知乎哔哩哔哩

4万6在家跑DeepSeek?AI小主机上市潮,先算内存账再买

跑得动吗?实测说话了

至顶AI实验室第一时间拿到了EVO-X5 Pro,实测DeepSeek V4-Flash的Q4量化版:吃掉约130GB显存,加载一分钟左右,生成速度约17 tokens/秒。哔哩哔哩

打开投机解码直接窜到27 tokens/秒,快了六成;换Qwen3.8 Flash Next能到34 tokens/秒。哔哩哔哩

4万6在家跑DeepSeek?AI小主机上市潮,先算内存账再买

翻译一下:自己用足够,不至于盯着屏幕干等,但也别指望云端旗舰那种喷薄感。极摩客给它的说法是"全球首台可适配完全离线运行320B参数大语言模型的桌面AI超算工作站"。TOPC公布的测试里,GPT-OSS 120B跑起来占65GB显存,余量还很大;27B模型连续输出一万四千多token,才用掉37GB。哔哩哔哩知乎

顺手纠个偏:宣传里的"160GB显存"是从192GB统一内存里划出来的,CPU和GPU共用一个池子,不是独立显存。知乎

4万6在家跑DeepSeek?AI小主机上市潮,先算内存账再买

钱花在哪了?全在内存上

说个反直觉的事实:这代机器芯片不贵,内存才贵。奋微FAEX2同样用495,128GB版(不含硬盘)只要21599元。磐镭老款395版128GB+2TB,国补后21499元。哔哩哔哩哔哩哔哩

而一到192GB,各家齐刷刷站上4万6。从128GB档跨到192GB档,差价普遍在两万以上。更麻烦的是,这些LPDDR5X内存全是板载焊死的,买错了需求,后期没有加装的余地。内存价格还在涨的当下,这一刀割得格外疼。哔哩哔哩知乎

三笔账,算清再下单

第一笔,你要跑多大的模型?30B级量化版吃二三十GB显存,128GB绰绰有余;120B级占65GB上下,128GB刚好;非要跑300B级的Q4量化(130GB往上),才真的需要192GB。绝大多数个人用户,卡在第二档就够用了。

第二笔,你的数据出不出得了门?企业内部文档、涉密资料不能上云,本地部署才是刚需。如果只是日常问问AI,有大学生算过账,API一个月也就大几十块。4万6的硬件,等于把一辈子的会员费预付了,不划算。知乎

第三笔,堆机器和堆单机哪个划算?有测评者替磐镭算过:两台老款395版(国补后)合计约4.3万,比一台192GB新款便宜7000元,内存加起来还有256GB——代价是互联损耗和功耗。哔哩哔哩

4万6在家跑DeepSeek?AI小主机上市潮,先算内存账再买

这机器到底给谁准备的

对隐私和离线有硬需求、天天跟百B级模型打交道的开发者和企业,这波上市潮是个节点:本地AI第一次有了开箱即用的成品,不用再自己攒机调环境。对大多数人,理性入口是2万档——128GB的495新机,或者国补后的395老款,性能余量足够未来几年用。

最后提醒一句:495的NPU标称55 TOPS。但真正调用它的软件还很少,连测评者上手AMD新平台的结论都是"距离NPU真正登台唱戏,咱们还是得再等一等"。这个概念,暂时不用多花钱。知乎哔哩哔哩

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章