最近这两周,在家跑大模型的折腾党,日子是真的不好过。
8月17日零点,DeepSeek悄悄涨价,部分档位最高涨了5倍:V4-Pro高峰时段输出价格到了27元/百万tokens,缓存命中输入价从0.05元涨到0.25元。知乎再往前看,智谱涨了11%,MiniMax涨了14%,打了两年多的云端大模型价格战,明显打不动了。
几乎同一时间,硬件这边也在补刀。据Tom’s Hardware的数据,过去一年大容量内存价格涨了500%,128GB DDR5套条被炒到3399美元。知乎国内装机圈更是被"内存涨价"刷屏:各家供应链预测轮番上调,有预测说三季度DDR4还要再涨50%。小红书小红书上"内存又要涨65%、等等党又输了"的帖子底下挤了六百多条评论。
云端租的在涨,本地硬件也在涨。头一回,"在家跑模型"这条路的两个方向同时变贵了。

但先说结论:别急着下单内存。这笔账算下来,有一半的疼其实可以绕开。
这一轮涨价,到底挤的是什么
先快速看懂这轮行情的机制,不然后面的账没法算。
AI服务器对HBM(高带宽内存)的需求,把三星、SK海力士、美光的晶圆产能吸走了。HBM没有直接买光你购物车里的内存条,但它和消费级DRAM抢晶圆、抢封装、抢工程资源——三大原厂利润导向一倾斜,消费级内存的供给就被间接挤压了。知乎
这一轮和2021年矿潮最大的区别是:矿潮是"需求把库存抢空",加价都买不到;这一轮是"价格把需求打下去",贵,但货架是满的。知乎所以没必要恐慌性抢购。
但短期也别指望松口气:SK海力士董事长崔泰源公开为涨价速度道歉。同时他警告,2027年存储芯片供应缺口会是最大的。知乎连原本跑128GB/256G内存装开源大模型工作站的极客都吐槽:现在光内存成本就超过了整机其他配件的总和。知乎内存对跑模型的人来说,早就不是"配件",是"主成本"。
反常识:多数人的本地大模型需求,其实到不了128G
很多人对"跑大模型"的印象还停在"显存爆炸、内存拉满"。那是稠密(Dense)模型的逻辑:每个token都要激活全部参数,权重必须全塞进显存。
但现在主流的开源旗舰基本都是MoE(混合专家)架构,游戏规则变了。拿DeepSeek V4-Flash举例:157B参数、模型文件85GB,但每次推理只激活其中6-7个专家,绝大部分权重躺在内存和硬盘里按需加载。社区实测,24G显存的卡跑它只占17GB显存,速度能到35 t/s;再往下一档,8G显存+32G内存的老机器,跑35B级MoE模型(比如Qwen3.6-35B-A3B这类)已经绰绰有余,日常聊天、写代码、查资料全都能覆盖。知乎
所以掏钱之前,先给自己分层:
档位 | 你在跑什么 | 硬件门槛 | 被内存涨价打中的程度 |
|---|---|---|---|
轻度 | 35B级MoE、14B级稠密 | 32G内存+8G显存 | 基本无感 |
中度 | 70B-157B MoE(V4-Flash类) | 24G显存+64-128G内存 | 正面中枪 |
重度 | 稠密大模型、超长上下文、多模型常驻 | 256G-1TB内存 | 重伤,128G DDR5套条已报到3399美元 |
三种情况,三种账
情况一:手头已有32G内存+8G显存的机器——别动,你已经赢了。
DeepSeek这一涨价,反而把你手里这台旧机器的价值抬高了。重度使用的话,一天50万输出tokens走V4-Pro高峰档,一个月的API费不是小数目;本地机器跑起来只有电费,数据不出门,断网能用,模型想换就换。你唯一要做的,是把用法切到MoE模型+合适量化档位,让老机器吃满。内存涨价?跟你没关系。

情况二:需要64-128G的中度用户——这是买内存的主战场,三条路线。
路线A:DDR5新条。省心、保修全、平台新,随买随用。但现在是历史高位,装机圈老话说得很直白:高位买的硬件,等内存降价时出二手会血亏。只适合"这周就要开工、预算不敏感"的人。
路线B:二手服务器平台+DDR4 ECC REG,这是眼下折腾圈最热的解法。服务器退役内存供应量大、历史上单GB价格远低于桌面条,B站专门有人写了"内存涨价解决之道"的折腾日志——用第四代至强4677 ES版配第三代傲腾补带宽短板,万元级预算就能把大内存工作站拉起来。哔哩哔哩但三个坑要提前知道:一是DDR4三季度也预计再涨50%,这个窗口在收窄。二是涨价期翻新条横行,买前用Thaiphoon Burner读SPD、上机跑MemTest86压测,别省这一步。知乎三是闲鱼上倒卖服务器内存已经有人做到单条赚5倍。知乎别把现在的行情价当正常价接盘。另外功耗、噪音、消费级平台无法沿用,都是隐性成本。
路线C:Mac统一内存。纯推理党的省心路线,统一内存带宽在几百GB/s量级,跑MoE offload效率不差,省电安静,二手保值。代价也明确:贵、内存焊死不可扩、和你现有的CUDA与Linux折腾习惯完全两个生态。

情况三:256G以上的重度用户——新DDR5是最差选项。
这个容量下新条成本已经完全失控,只剩两条理性的路:要么整体转向二手服务器平台(EPYC/至强+REG ECC,单GB成本仍低一个量级),要么"本地跑日常+云端补高峰"的混合模式——DeepSeek有闲时半价,把批量任务挪到低谷时段跑,把最贵的高峰档用量压到最低。
等等党看什么信号
"什么时候降价"现在业内大佬们自己都在打架:前三星芯片负责人预测明年下半年内存会显著降价,理由是长鑫等中国厂商在积极扩产。知乎但崔泰源的说法是2027年供应缺口最大。知乎两边都是行内人,方向相反,唯一诚实的态度是不赌、看信号。
值得盯的四个信号:长鑫存储的扩产和出货节奏;三大原厂把多少晶圆切回消费级DRAM;机构季度报告里合约价格的环比变化;以及美国那起针对三星、SK海力士、美光的DRAM反垄断集体诉讼的进展(注意,目前只是诉讼指控,不是司法认定)。知乎

这一轮行情最值得记住的一句话是:缺的从来不是货,是低价的货。真正的拐点不在"没人买了",而在"新增产能超过新增需求、库存重新堆起来"的那一刻。
最后
这轮两头涨价,其实把本地折腾党的最大优势逼出来了:我们从来不是靠"比云端便宜"活着,而是靠有得选——模型可以换小、量化可以压低、平台可以换、负载可以错峰。云端涨价和内存涨价都是别人的决定,但档位怎么切、路线怎么选,决定权还在自己手里。
先分层,再掏钱。评论区聊聊:你现在本地跑的什么模型、多大内存、这个月被哪头涨到了?