1400块，能跑125B的大模型？ 不是段子。B站UP主「ZZ是画渣」用X99魔改板、E5-2673 V3、DDR3服务器内存和一张16G的Tesla P100，把Qwen3.8-Flash-Next的IQ3量化版跑到了平均30+ token/s、峰值50 token/s；知乎上的同款配置单把预算压到1500元以内，同样能跑到30+ token/s。哔哩哔哩知乎
为什么一张老卡能塞下125B？ 因为Qwen3.8-Flash-Next是1250亿参数的MoE，里面有24576个“小专家”，每生成一个字只叫其中10个。Strata把常用的几千个专家放显存，剩下的放内存，没命中再从内存搬；社区实测命中率普遍在90%以上，所以DDR3这种老内存也够用。知乎哔哩哔哩
但能跑，不等于能干活。 解码30-50 token/s看着体面，prefill却只有一两百到三百token/s，跑Agent长任务会被拖成小时级。UP主自己也承认，这套方案更适合Strata，对其他大模型兼容性一般；老卡还有故障率、亮机卡兼容、二手涨价和转手难的问题。哔哩哔哩
账也没那么好算。 评论区有人调侃1400元够买280个Gemini Pro账号。UP主算过，输出百万token的电费约1块钱。但你的时间不是：有人用16G的RX 7960 XT跑27B，折腾PCIe atomics和量化参数的时间，比省下的API费还贵。哔哩哔哩知乎
真要拿它干活，得加钱。 想上FP8跑Qwen3.8-Flash-Next，显存需求至少200G，魔改4090 48G四张就是11.2万。换成二手V100八卡整机，也要6万左右。千元机的定位因此很清楚：不是生产力，是体验券。知乎
折中方案也有。 4张P100大约5000元，能跑到40 token/s，每张卡功耗不到100W。或者一张12G显存的新卡，配64G内存，RTX 5070能跑到53-94 token/s。前者适合愿意折腾的人，后者适合想稳定用的人。小红书知乎
适合谁？ 想低成本体验千亿MoE、数据不能出内网、愿意折腾、能接受慢prefill的人。不适合谁？ 想替代API省钱、要跑Agent自动化、要视频生成、要稳定产出的人。
本地部署最贵的一直不是显卡，是你为了省下API费，愿意搭进去多少个晚上。 1400块买到的不是token自由，是一张随时能反悔的体验券。
