这周本地大模型的圈子里,出现了近两年最拧巴的一幕:一边是10月7日Claude Haiku 5.5把小模型API打到输入每百万token 0.1美元、比上代直降九成,"一分钱时代"刷屏;另一边是10月9日界面新闻跟进报道,华强北商家说内存条一年涨超300%,DDR5 16G从最便宜时200多块涨到现在最低1400元以上。腾讯科技界面新闻
老逻辑是"API太贵,装机回本"。今年这两个前提同时反转:云端打骨折,本地门票反而翻倍。观望了大半年的党们卡在双十一预售节点上,吵的已经不是"能不能跑",而是"还值不值得跑"。我把官方价目表、华强北和京东报价、社区自报实测28组数字摆进同一张表,账对完再动手。
一、先把28组数字摆成一张表
账本 | 数字 | 口径/出处 |
|---|---|---|
API账 | Haiku 4.5旧价:输入$1/输出$5每百万token | 36氪(腾讯科技) |
API账 | Haiku 5.5现价(单请求≤10万token):$0.1/$0.5,降90% | 同上,10月7日发布 |
API账 | 超10万token档:$0.5/$2.5,是低价档的5倍 | 同上(按单请求计) |
API账 | 缓存读$0.01、写$0.125每百万 | 同上 |
API账 | Sonnet 5.5缓存读$0.2→$0.1,官方估Agent任务成本降约20% | 同上 |
API账 | 订阅送API积分:$100/$200/最多$500,恰等于订阅费,当月不滚存 | 同上 |
API账 | 新分词器多用约25%token,官方口径"平均实际省约75%" | 同上 |
API账 | GPT-6 Luna输入$0.1持平;Sol/Luna 9月23日已永久降50% | 36氪 |
API账 | Qwen3.7Flash:≤3.2万token $0.03/$0.13,3.2万–25.6万 $0.1/$0.4 | 腾讯科技 |
硬件账 | 华强北DDR4 16G:去年最低100多→现在最低600多 | 深圳广电,10月7日 |
硬件账 | 华强北DDR5 16G:最低200多→现在最低1400+ | 同上 |
硬件账 | 金百达DDR5京东:5月16日底价2399→现3499,涨45.9% | 界面新闻,10月8日 |
硬件账 | 金士顿DDR3淘宝:218→499,涨1.29倍 | 同上 |
硬件账 | 惠普笔电内存成本占比15–18%→约35%,已推16G降8G"减配版" | 惠普Q1财报,界面转引 |
硬件账 | 装机账:5070 12G约8000多+64G DDR5约8000多≈1.6万,整机进2万档 | 知乎"黑虾"10月5日 |
硬件账 | 2万档≈“订10多年GPT Plus”(Plus月费按$20折算) | 同上 |
硬件账 | 高盛:2026年DRAM缺口4.9%、NAND缺口4.2%;大摩/Counterpoint判上行至2027 | 界面新闻转引 |
硬件账 | 威刚XPG龙耀D600G 32GB(16G×2) DDR5-6000套条标价5499元 | 威刚官方与电商标价,知乎10月10日转引 |
硬件账 | TrendForce:9月30日预测Q4一般型DRAM合约价环比再涨10–15%、企业级SSD涨23–28% | TrendForce报告,同上转引 |
速度账 | 同机3090:Strata IQ3_S 67t/s vs llama.cpp 20t/s | tombkeeper微博9月28日 |
速度账 | 12G 5070跑IQ3_XXS:65.6t/s(作者自报) | 同上 |
速度账 | 5070短文本最高90+t/s,MTP投机解码提速1.6倍 | 知乎"黑虾"实测 |
速度账 | A5000+64G内存q2xs:写码100+t/s、指令类80–90t/s,瓶颈在内存带宽 | 知乎高赞回答自报 |
速度账 | 5060Ti 16G+96G内存、512K Q8上下文:35t/s,Cline挂机全程不足100W,10小时1度电 | B站评论区自报 |
速度账 | 4070 12G+96G:部署后34t/s、单Agent"直接坐牢" | 同上 |
速度账 | 2080Ti 22G跑125B:48–60t/s,512K上下文只掉4% | B站自报(单机) |
能力账 | 本地4bit-125B vs 云端DeepSeek:三场综合分93.40 vs 94.57,速度差7倍 | B站"玩客笔记"10月11日实测 |
能力账 | AA智能指数:Haiku5.5 43、Kimi K3 44、Sonnet5.5 56;GDPval-AA2.1:GLM-5.3-Flash 1647>Haiku 1620>Luna 1437≫Haiku4.5 735 | 腾讯科技 |
二、API账:0.1美元是档位价,不是你的账单价
"小模型一分钱"这话只对了一半。Haiku 5.5的地板价只覆盖单请求10万token以内——官方口径90%的Haiku 4.5请求落在这个区间,所以对多数人确实是打一折;但本地党最爱的恰恰是超长上下文,一旦单请求超线,输入输出直接跳到5倍档($0.5/$2.5)。再叠一层:新分词器本身多用约25%token,官方自己承认"平均实际省约75%"而不是90%。腾讯科技
云端真正的护城河其实是缓存:重复上下文读取只要$0.01每百万,约合七分钱,Agent工作流里烧掉的绝大部分是重复的system和对话历史,这块比"降价九成"更狠。加上订阅积分等于把订阅费全额返成API额度(Max 5x返$100、Team最多返$500,当月有效不滚存),一个已经付着月费的人,边际成本被压到了本地装机很难追的位置。独立开发者Simon Willison实测:Max模式画一张鹈鹕骑自行车的SVG,5分09秒花3.38美分。腾讯科技

结论:云端这刀砍在"中轻量的日常量"上,砍得很实;但对10万+长任务、对"不用订阅、纯走量"的两种用法,价格优势没有标题那么大。
Strata这类分层引擎确实把显存门票打下来了:12G的5070就能跑Qwen3.8-Flash-Next 125B,tombkeeper转述的实测同机67t/s,比传统llama.cpp路径的20t/s翻了三倍还多。但"省显存"不等于"省钱"——权重是搬去了内存和SSD,而这两样正在涨疯:DDR5 16G一年从200多到1400+,金百达一款从5月底价2399干到3499。黑虾算的整机账很直白:5070约8000多,配64G DDR5又要8000多,整机2万档,“这个价能订10多年GPT Plus”。微博界面新闻知乎

更要命的是周期判断:高盛说2026年DRAM缺口4.9%,摩根士丹利提出"芯片通胀"、上行走2027年,惠普已经开始在笔记本上拿内存开刀(16G降8G"减配版")。也就是说,"等双十一内存跳水再装机"这个赌注,目前没有一家大机构给你撑腰;反而机构口径一致指向:越等越贵。界面新闻
四、速度账:便宜的是"能跑",贵的是"好用"
28组数字里最诚实的是"93.40 vs 94.57"——4bit的125B本地跑,能力确实逼平了云端DeepSeek,速度差了7倍。5060Ti党晒的35t/s"要啥自行车"和4070党的"34t/s直接坐牢"是同一条数据的两面:单发问答够用,多Agent并行就崩。知乎218赞回答那句总结很难反驳:这套穷鬼方案"效率极高,上限很低",瓶颈是内存带宽,“换5090也不会有质变”,而50系独有的nvfp4在这套架构上用不上——你花大价钱升级显卡,反而吃不到红利。哔哩哔哩知乎

五、对完账:谁该买,谁别买
按切片给结论(换算按汇率7.2、输入输出3:1、"三成请求踩超线档"做假设,纯推算):
月输出1000万token上下的轻度用户:Haiku档全低线也就$8/月、约58块人民币,2万整机要28年才回本——别装机,认了。
重度Agent、月计费4亿token、三成请求超10万token:云端约$176/月、约1270块,整机20个月回本;再往上到"24小时蹬"的量级(社区自算一天1.1亿token),回本压进半年内——本地成立。知乎
三种人双十一该出手:数据不能出门的(公文、财务、电厂这类知乎里反复出现的硬需求);吃超长上下文的(云端超线档5倍加价,本地512K只掉4%);要离线和不设审查版本的。
三种人别出手:月均token没到1亿的轻聊天用户;追着智力上限跑的(AA 43分的小模型和Sonnet 5.5的56分不是一档,本地4bit同理,复杂长任务"上限很低");指望"双十一内存跳水"再入场的——机构口径全在涨价周期里。知乎

六、继续盯四个信号
看Anthropic下一刀砍不砍Sonnet:这次只砍了缓存价,全线调价的信号意义大于Haiku本身。
看双十一预售内存SKU:16G DDR5回不回得破1200元,比任何"整机直降"都真实。
看Strata/NInfer的支持名单:门票能不能用,取决于下一个被深度优化的模型是不是你在用的那个。
看账单上的"实际价":分词器多耗25%token这种细节,等各家真实账单流出来再校准一次,别急着按牌价下结论。
价格剪刀这两周全开到了最大,但它是剪刀:云端砍的是标准化任务的钱,本地涨的是硬件门票的钱。哪边划算,从来不是看牌价,是看你的token到底落在哪一档——对完这三本账再下单,比任何口诀都管用。