内存涨了一年，最先绷不住的不是等等党，是垃圾佬。
但他们的反应不是骂街，是转身：DDR5 买不起就买 DDR3，新卡买不起就去捞服务器退役的 V100。目标也换了——不再是打游戏，而是在自己桌上跑一个 1250 亿参数的大模型。
十一月这一周，这事真被一群人做成了。
为什么十年前的板子能跑 125B
关键不在硬件变强，而在一个叫 Strata 的开源推理引擎，MIT 协议，代码托管在 Niko1221/Strata。知乎哔哩哔哩
它吃的是稀疏 MoE 的结构性便宜：Qwen3.8-Flash-Next 总参数 125B，每吐一个 token 却只激活约 6B——48 层共 24576 个专家，每层 512 选 10，再加 1 个共享专家。哔哩哔哩哔哩哔哩
硬件这边分三层：GPU 显存保留注意力层与高频热点专家，系统内存常驻 24576 个专家池，NVMe SSD 映射那张 51B 参数的 N-gram 查找表。而显存每多 1GB，大约就能多驻留 700 个专家。再叠一层 MTP 投机解码，草稿层先猜后面几个 token、大模型一轮核对，官方称平均能带来 1.6～1.8 倍加速。一句人话：显卡不必装下整个模型，只要装下这一句用得上的那一小撮；内存负责大和便宜，而 DDR3 正好是眼下最便宜的大容量内存。哔哩哔哩知乎知乎专栏
账单和实测
先看行情。德国 3DCenter 的统计里，9 到 10 月 DDR3、DDR4 内存月涨 18.1%，整体已是这轮涨价前的 3～4 倍，同期显卡月涨 15.6%。垃圾也没闲着：原来 1250 元的水冷改 V100，现在卖到 1400 元，有人回忆以前 950 元能买两张、还保一年，如今只够买一张。三星 32G DDR3 ECC 在低价时每条均价不到 70 元，如今翻了几倍。知乎专栏哔哩哔哩哔哩哔哩
再看能跑出什么：
华南 X99-BD3 + E5-2678 v3 + 4×32G DDR3 + 双 V100 16G，配 NVLink 底板，跑 Qwen3.8 27B，UP 主晓数点报出 200 t/s。但评论区当场算账：光底板加两张卡就接近 3000 元。哔哩哔哩
单张 V100 32G、256K 上下文，prefill 约 1080 tok/s、decode 约 65 tok/s。加上第二张，prefill 能冲到 2000+，decode 却几乎没动。哔哩哔哩
2080Ti 魔改 22G 配 256GB DDR3 和双 E5，跑 DeepSeek-V4.1-Flash-1017，prefill 200～300 tok/s、decode 16～22 tok/s。哔哩哔哩
四个坑，比省钱更贵
一、8 个内存槽不等于 8 通道。有八槽板实际只走四通道，就算买精粤、华南的全新板，芯片组和内存通道数也常被写得含含糊糊。双路同样不是真 8 通道，两颗 CPU 各 4 通道，跨 CPU 读内存要走 QPI，有人实测带宽从 14GB/s 左右掉到 9.5GB/s。哔哩哔哩哔哩哔哩
二、单条 32G DDR3 是暖手宝。有人拿红外测温枪测过，满载接近 80 度，D3 不管有没有马甲发热都很大，家用主板必须自己加风扇直吹。哔哩哔哩
三、内存不够，速度断崖。装不下时会退到 SSD 兜底路线，只剩约 7～8.5 tok/s。Q4 量化想把长输出稳在合理速度，估计得 30G 左右显存。高低搭配两张卡时，低端那张还必须手动配成 peer 模式，否则不如单卡。知乎哔哩哔哩
四、"干翻 5090"那类标题得打折。V100 是 Volta 架构（sm_70），硬件不支持 Blackwell 的 NVFP4 原生算子（sm_120），跑 nvfp4 模型只能软件模拟。而那条 200 t/s 出自 27B 模型，不是 125B。哔哩哔哩
还有两件事没人写在标题里。别把 125B 直接接进 Agent——有人一条 24951 token 的请求里，81 个工具定义就占了 94%，光预填要等 18 分钟，客户端等不到就重试，永远出不来。至于"三级调度会透支 SSD 和内存寿命"的说法，机制上 SSD 确实从仓库变成了运算介质，本质是用内存、硬盘的高频读写损耗换部署可行性。但网上流传的"两年""几个月写穿"出自单一作者推算，暂无公开实测支撑。真要 7×24 挂着，别用存重要数据的盘。哔哩哔哩知乎专栏
该不该上
手里已经有 12GB 以上 N 卡和 32GB 内存的，值得花一个晚上试一次：部署本身十几分钟，大头是下模型。想全新采购的先想清一件事——这条路的全部性价比，建立在"垃圾足够便宜"上，而垃圾正在涨价。
11 月初彭博社报道，美光将暂停针对中国台湾地区的 45 亿美元内存厂扩产，美光只回一句"业务运营正常"，新厂是否停工一字不提。行情会不会掉头没人说得准，但"再等等就降"和"现在不买更贵"这两句话，今年都被打过脸。所以别赌行情，只算自己这台机器今晚能不能出字。知乎专栏
