上周，写出Redis的Antirez悄悄开源了个新东西：DwarfStar推理框架，目标就一个——让消费级迷你主机跑更大的模型。测试机型也很有梗：Framework Desktop，塞着AMD最新的锐龙AI Max+ PRO 495和192GB统一内存。知乎知乎
存储界大神下场给迷你主机写推理引擎，这个书本大小的盒子，到底跑出什么成绩了？
192GB，这次不是噱头
先说结论：对本地AI来说，这一代是分水岭。
DwarfStar的思路很工程流：把DeepSeek V4.1 Flash校准到Q2精度，主权重放进内存，Engram查找表存到SSD里按需查表，省下一大块显存；再叠加投机解码，并适配了DeepSeek新一代的SWA Bounded Replay机制。知乎
实测成绩：DeepSeek V4.1 Flash不开投机解码就有14 tokens/s，开了能冲到16以上；GLM的两个模型则不到10 tokens/s。知乎
关键在另一句话：这批校准好的模型，正好装得进192GB，128GB就装不下。这不是巧合。上一代395最高只有128GB内存，国内发布会上同款DeepSeek-V4-Flash在395平台上根本启动不了——权重装不下；换到495上，14 tokens/s直接能跑。对本地AI来说，「能不能跑」的差距，永远比「快不快」值钱。知乎知乎
大神下场，是个信号
说实话，495这颗芯片本身不算惊喜：CPU还是Zen 5，GPU还是40单元的RDNA 3.5，本质是395的「内存刷新版」——容量从128GB提到192GB，带宽从256GB/s挪到273GB/s。AMD官方给的成绩单是GLM 5.3 Flash（320B参数、4bit量化）最高20 tokens/s，轻量MoE模型能上40+。知乎知乎知乎
真正的短板一直在软件。开源项目SnowLLM直言：现有推理框架大多是给N卡写的，直接搬到这颗芯片上，只能发挥一半左右的性能。厂商各玩各的——极摩客给EVO-X5 Pro预装自家Herdsman引擎，算是曲线救国。所以DwarfStar的意义不在跑分本身：顶级程序员开始为「大内存、小带宽」的消费级设备专门写推理框架，硬件搭好台，软件才刚开锣。知乎知乎
兴奋之前，三盆冷水
一是带宽就是命。273GB/s的物理上限，决定了大参数模型14~20 tokens/s的体验——「能读」，离「爽」还远；倒是35B级的轻量MoE模型能从上一代62 tokens/s拉到90，日常对话接近云端速度。知乎
二是现在清一色商用PRO机，价格感人：极摩客EVO-X5 Pro卖46999元，TOPC TXA2-495卖45999元起，铭凡MS-S1 Max P495工作站也已开售，Framework Desktop DIY版6799美元——上一代395版才3449美元，直接翻倍。消费版495还没影。知乎知乎知乎知乎
三是生态还在早期，比如Linux的NPU驱动至今没跟上。知乎
谁该买，谁该等
数据不能出内网、又有预算的企业：这是目前x86阵营内存最大的选择，192GB比英伟达RTX Spark的128GB多出整整64GB，这笔账值得算。知乎
个人AI玩家：建议再等等消费版上市和软件生态成型，现在冲进去，大概率是给「早鸟税」买单。
纯游戏、办公党：这颗芯片跟你没关系，别为「能跑大模型」的宣传多掏一分钱。
两年前，跑3200亿参数模型还是机房里的事；现在它被塞进桌面迷你主机，开机就能跑。硬件先到场，软件正在被Antirez们一块块补齐——这个赛道，明年才真正好看。
