同一台机器、同一个模型、同一个星期，B站和知乎评论区里出现了两拨完全相反的战报。
10月12日，UP主"方布块"放出实测：qwen3.8 flash next运行接近20小时、经过25轮对话、消耗2.2亿token，顺利完成游戏从搭建基础框架、debug到添加功能的全流程。 同一条视频评论区里，双卡2080Ti用户晒出的体验更狠，说自己用deepseek harness做长线任务一天烧几个亿token，非常稳定，不输那些付费模型的体验。哔哩哔哩哔哩哔哩
翻到评论区另一端，是同周的高赞抱怨：有用户测试了几天编码Harness，同样一个任务，Codex配合GPT 6.1 Sol五分钟干完，Qwen 3.8 Flash Next每秒70到80token，跑45分钟都没有出结果，直言这就是找罪受。 还有人留下34 tok/s的机器、问个问题等5分钟就转回豆包；有人让模型做个20页PPT，3.5小时跑完，被旁边的DeepSeek评价"太啰嗦，每次思考要100秒左右"。哔哩哔哩
上一轮全网的仗打在"能不能装下"——12G显存跑125B的门槛之争、内存涨价的装机账，该买的卡该补的条，双11清单都快排完了。这一周，问题变成了下一个：装好了，它到底能不能替我干活？我把这周十几条实测和评论战报摆在一起对了一遍，发现成败的分界线基本都不在显卡上。
先把这周的实测摆到一张桌上
以下全部是各来源自述口径（单并发/峰值未统一标注，看的时候记住这一点）：
机器 | 量化/上下文 | 速度（自述） | 结果 | 来源 |
|---|---|---|---|---|
5070Ti+48G内存 | IQ3_XXS+KV Q8+128K | 峰值120/平均75/填充3300 t/s | 32K文档几秒读完 | 知乎"观风小厨" |
2080Ti 22G+48G内存 | IQ3_XXS | 稳定45+ tok/s | “效果惊艳”，需–resident-experts | B站"杭古同学"10-14 |
2080Ti 22G×2+96G | IQ3_S | 单并发填充1700+/解码60+ | 长线任务一天烧几个亿token | B站"是立明阿"评论区 |
i7-13700+2080Ti+64G | IQ3_S | — | 独立拆任务完成整套后台管理系统 | B站"是立明阿"10-06 |
5060Ti+96G内存 | IQ3_S | 输出70+/首轮200K预填充1600-1700 | 后端开发，“细节问题都能发现” | 同视频评论区 |
5090+96G内存 | — | 380K上下文平均150左右 | “500K没问题，1M也行但没啥意义” | 同视频评论区 |
5090+128G内存 | Q4_K_XL 1M | — | 开发"太猛了" | 同视频评论区 |
16G显存+64G内存 | 开满262K | — | 视觉和MTP都在用 | 同视频评论区 |
9070XT+96G内存 | 调优后 | “很满意” | A卡同样能跑 | 同视频评论区 |
Tesla T10多卡 | Strata自动层切分 | 新版反而降速 | 0.1.44版本已修复 | B站"默名。"10-12 |
对照组：V100 32G+NInfer | 27B量化版 | 填充1000+/200+ tps | “本地爽用” | 知乎"Corvo" |
翻车组 | — | 70-80 tok/s | 同任务Codex 5分钟、本地45分钟没结果 | B站评论区 |
翻车组 | — | 34 tok/s | 一问5分钟，弃用回云端 | B站评论区 |
翻车组 | — | — | PPT跑3.5小时，每轮思考约100秒 | B站评论区 |
看明白了吗？赢家不是清一色富哥。2080Ti这种五年前的卡有通关记录，5090也有人喊找罪受。真正拉开差距的是下面四条线。
第一条分界线：接什么Harness，比跑什么量化决定成败
知乎那篇"版本答案"实测文里写得直白：Strata提供OpenAI兼容API（/v1）和Anthropic格式（/v1/messages），可以接到Cursor、Claude Code、Codex CLI这类工具当本地推理后端。 而2080Ti通关组自己承认，Strata原生webui的生成质量比较差，选择合适的AI编码助手是关键一步。 也就是说，模型本体和"驾驶舱"是两回事。同一台2080Ti，挂原生webui是"一问五分钟"，挂上合适的编码Agent就是20小时交付一个游戏。45分钟没结果那位，任务是在错误的人机分工里跑的：本地模型每轮思考都要烧掉约100秒，25轮就是小半个晚上，你还盯着屏幕等，它还在"大力出奇迹"。知乎哔哩哔哩
还有一笔藏在组合里的账：本地模型接上带联网搜索的Harness之后，检索那一段照样可能走云端API产生费用——这不是猜测，是有用户在跟帖里实测数出来的。 本地≠零账单，先看你挂的Harness带不带云腿。哔哩哔哩
第二条分界线：任务类型决定它是生产力还是电老虎
把通关和翻车样本按任务类型切开，规律非常整齐：
通关的全是"不急、量大、可过夜"的活：20小时游戏迭代、一天烧几亿token的长线重构、晚上挂后台慢慢跑。评论区的总结就两句——“本地只给自己用，速度是为数不多可以比云端快的优势了”、“时间换空间，晚上挂后台慢慢跑”。
翻车的全是"要即时反馈"的活：随手提问、要马上看结果的PPT、别人5分钟你45分钟的对照任务。那位跑PPT的用户复盘得很细：20页PPT跑了3.5小时，每次思考要100秒左右，被DeepSeek嫌啰嗦。 盯着进度条等即时反馈，正是这批翻车样本的共同画面。哔哩哔哩
prefill快、decode慢是这个模型+引擎组合的物理属性：填充动辄1600-3300 t/s，扔32K文档几秒钟读完；输出却只有45-93 t/s，长思考任务再乘上轮数。你的活如果吃"读得多、吐得少"，它在甜蜜区；如果吃"一问一答要秒回"，它就是电老虎——满负荷整机三百多瓦。 那位V100用户算完这笔账，机器闲置了快一年。知乎
第三条分界线：量化档选错，速度账直接作废
这周三个新踩坑点，都在装机前没人提醒的位置：
Coder版删了一半专家，中文能力掉线。"版本答案"文里明确提醒：Coder版本在中文和非CJK语言上表现较弱，要跑中文对话，选保留全部专家的版本。 拿Coder版写中文周报然后断言"本地模型不行"的，先回去查你下的是哪个文件。知乎
–resident-experts是低内存机的生死开关。10月14日凌晨刚发实测的2080Ti 22G用户特意标注：这个参数是48G内存能跑IQ3_XXS的关键。 32G内存不补条，跑着跑着大概率撞上engine stopped类报错——"版本答案"文的归因很直接：八成是内存不够。哔哩哔哩
版本不能盲升。10-12有用户实测Strata新版多卡自动层切分会降速，0.1.44才修复。 OpenClaw那波"教程还在刷屏、老用户已在回退"的剧情，Strata也在重演。哔哩哔哩
至于吵得最凶的"Flash-Next Q4和27B-FP8哪个更少胡言乱语"，知乎那位的回答代表一派人：摄影圈讲底大一级压死人，这里叫模大一级压死人。 但同一批实测里，5060Ti+IQ3_S的用户说它"比我自己写的要严谨"。证据覆盖到哪，话就只能说到哪：幻觉之争没有全网结论，只有你机器上的结论——花20分钟拿自己业务里最容易出错的两类问题各测一轮，比看十篇战报管用。知乎
第四条分界线：情绪账也是账，但别把它当成本账
评论区有个钓鱼佬比喻得到了不少赞：买的渔具如果都去菜市场买鱼，这辈子也吃不完，但本地部署就是有一种自己拥有的安心感。 这句值得当真——数据不出本机、无token计费、无速率限制，对隐私敏感场景就是硬价值。但同一页还有另一派掏真金白银的算法：本地部署只是投资，花20块买四个Gemini Pro，一个月消耗的token够本地跑一年。 还有人对本地和云端的关系下了个更朴素的判词：能用跟好用是俩概念。两边都对，因为它们买的不是同一个东西。API那20块买的是"确定能干活"，你的3万整机买的是"数据主权+无限token+折腾权"。想清楚你要哪个再开机：要干活的，先把第二条线（任务类型）过了再说省钱；要主权的，别拿即时问答的体验去折磨自己。哔哩哔哩知乎
结论：这波要不要把活交给Flash-Next，按机器分三档
96G内存+16G以上显存档：可以直接把过夜批次任务迁下来，128K-262K上下文是安全区，380K+属于"能开但边际收益先测"。Codex/Anthropic格式API端点接现成Harness，别用原生webui交付生产。
48-64G内存档：能通关，但必须做三件事再开工——确认–resident-experts、量化档别贪Q4以上、内存占用页开着，见engine stopped先砍量化。中文任务避开Coder版文件。
32G内存及以下档：这周所有通关记录没有一例是32G跑125B出来的，门槛文章里"起步32G"的说法要打个问号。先把内存账补上（双11前内存条还在涨价周期里），或者退到27B+NInfer路线——V100 32G加特调引擎跑出1000+prefill、200+tps的例子就摆在这周。知乎
下一步值得盯的信号：Strata版本还在日更，升级前先翻issue（多卡切分这个坑就是这么填的）；模型文件已经上了国内镜像，实测下载11到14MB/s，70G文件不再是装机障碍。 10月23日64GB版DGX Spark开卖、双11内存价格走向，会决定下一波"要不要上车"的答案。装好不是终点——这周的分界线说明，本地部署的胜负手已经从"装得下"挪到了"配得对"。知乎
