垃圾群里突然都在抄同一个作业
10月4日，B站一位3600粉的小UP发了条教程，标题叫“Qwen3.8-Flash-Next Strata版 AI 大模型本地部署教程｜MTP 加速 8GB显卡就能跑”。十天下来，这条视频6万播放、2870收藏、849条评论——数据比很多数码大V的恰饭视频都好看。10月20日，Strata 0.2.0测试版发布，标题里的说法是“再次降低本地大模型的硬件运行门槛”。哔哩哔哩哔哩哔哩
Strata是什么？一个刚开源十天就冲到GitHub一万星、登上Hacker News榜首的开源推理引擎，开发者Niko Veit，MIT协议。它不再逼模型全挤进显存，而是让显存、内存、固态硬盘三层硬件各司其职——125B参数的Qwen3.8-Flash-Next，显存只占约12GB，84GB的模型主体住在内存和磁盘里，再靠投机解码提速，官方基准在RTX 5070（12G显存）上能跑约53-93 tokens/s。知乎
这就是“门”被踢开的由来：大内存+中等显存的组合第一次真正有效。于是闲鱼上压箱底的DDR3服务器、X99魔改板U、机房淘汰的无头计算卡，全都重新变成了生产力工具。10月11日有知乎作者用一台旧机器——i5-12400、64GB内存、一张自己魔改扩容的RTX 2080 Ti——把125B跑了起来，生成速度53-65 tokens/s，还能塞进256K上下文，全家设备通过局域网调用。10月17日更狠的晒单：1400元垃圾佬装机本地跑Qwen3.8-Flash-Next，实测30~50token/s。知乎哔哩哔哩
看起来，垃圾佬的AI时代提前到来了。但把评论区那849条翻完，你会发现门确实开了，坑也是新的。抄作业前，先把三本账算清楚。
第一本账：最贵的不是卡，是内存和硬盘
过去攒AI机的逻辑是“堆显存”，Strata把逻辑掀翻了：这套架构里，内存容量和硬盘速度才是新瓶颈。
几条真实数据点（均来自10月评论区实测）：闲鱼上有人晒单，7900XTX 24G整卡最低5300，而刚买的32G内存一条就要2200——内存单价正在追显卡。64G内存+12G显存跑IQ3量化，大约50K上下文就开始自动压缩；上IQ2XS能到256K，但100K之后速度变得难以忍受，还有玩家反馈低量化版多轮对话开始“复读上一段、不吐字”。一位4090用户装完只有11 token/s，查半天，原因是模型和数据放在了机械硬盘上——Strata运行时要频繁读盘，模型必须放NVMe。哔哩哔哩
再看那台1400元垃圾机的评论区：有人提醒，必须单条16GB的DDR3服务器条才跑得动。评论区另一条大实话更直接：大显存低内存只能跑27B量化，“现在内存可不比显卡便宜多少”。结论很直接：手里有大条DDR3/DDR4的老平台，这波你能吃到；现在才想去配128G DDR5的，门槛已经不低了。哔哩哔哩哔哩哔哩
第二本账：解码快是错觉，Prefill才是垃圾机的命门
30~50 token/s的解码看着比人眼阅读快，像“爽文”。但1400元机型的作者在视频简介里自己交了底：P100的prefill速度偏弱，这套方案更适合Strata，对其他大模型兼容性一般。评论区有人把数抠了出来：prefill才100多，这也太少了。10月21日《2026二手AI显卡红黑榜》的评论区也有被高赞的总结：长prompt拼Prefill算力，长输出拼Decode带宽。哔哩哔哩哔哩哔哩
翻译到使用场景：挂256K上下文啃整本小说、跑离线问答、做长文本润色——P100这类卡解码够用，Strata也确实是奔着这类负载设计的，视频置顶评论还补了一句：strata开256K上下文没啥压力，解码速度几乎没损失，主要是预填充比较耗时。但接Agent干长任务、频繁喂大段代码，100+的prefill会把每一次请求都拖成长跑。
还有显存账要算：红黑榜评论区有人提醒得细，24G跑27B开32K上下文真会爆，得靠Q8这类KV精度压缩省一半占用——先算显存，再谈速度。“能装下模型”和“能跑你想要多长的上下文”，是两回事。哔哩哔哩
第三本账：涨价潮里，百元神卡还捡得动吗
先看价格数据点的漂移。8月29日《垃圾佬畅玩AI，10张百元级AI神卡》给的阶梯参考价：P104-8G百元内、P102-10G两百内、P4-8G三百内、P100-16G SXM2四百内、M40-24G五百内、V100-16G SXM2七百内。到了评论区，10月的反馈已经是“都涨价了，有些这个价格买不到了，比如P4”。哔哩哔哩
而整个市场在发生什么：10月21日显卡价格日报里，RTX5080最低15988元，比国行首发贵93%。10月20日的日报标题直接写着“显卡供应紧张，大容量内存继续上涨”，同日RTX5090D日低49999元。一句话：新卡疯了，二手高位，洋垃圾这条船正在被更多人盯上。哔哩哔哩哔哩哔哩
再对照一条10月刚校准过价格、222人赞同的知乎回答：2080Ti 22G魔改“最近一段时间涨得厉害，目前海鲜价近3000元”，评论区买家晒的丽台三星显存22G单卡也在2350元档。同一个回答里，V100 16G裸卡约680元、改装完成版约1200元，32G版本接近4000元且最近又涨；T4 16G约2500元、Tesla A2 16G约2000元，只有云游戏卡T10不但没涨反而回落。百元神卡这张价目表，有效期大概只有一个月。知乎
更扎心的是反证。那条回答明确不推荐Tesla P40/P100这些曾经流行的洋垃圾计算卡：2016年Pascal架构的产品，官网上连介绍都已经不见了；V100是sm_70，绝大多数模型节点默认按sm_80+编译，直接跑会报错，还有300W功耗、市面混售ECC错误卡、掉驱动等老毛病，只适合不怕折腾的人。这跟1400元机主自己的说法对上了——只适合Strata这类项目，新模型能不能跑是问号。垃圾佬给V100 SXM2算的细账也摆在那儿：核心530多+SXM转PCIe卡板180+散热，自装700多，买改好的直接一千多。动手能力决定你付哪份钱；而矿渣随时可能炸、笔记本显卡坞压根不认SXM转接卡，这些坑一个都跑不掉。知乎哔哩哔哩
至于到底该不该上本地，评论区两派吵得很实在。怀疑派一句话扎心：1400元我能买280个gemini pro账号。回本派算的是电费：本地哪怕3000瓦，一个小时也就一块五，用得比较狠的话硬件钱两三个月就回本，况且公司保密数据没法往API上传。两派都对，只是人群不同。哔哩哔哩哔哩哔哩
不同垃圾佬，三张不同的入场券
尝鲜党（手里有老电脑，只想跑通看看）：别买卡。先升内存到64G、模型放NVMe，用现成的12G以上显存卡试Strata——20系整卡都在支持名单里，当年魔改扩容的老卡也能直接进名单。8G教程版能跑，但量化档位和上下文长度都会碰壁。知乎
重用量产党（长文本、隐私数据、24小时待命）：本地回本逻辑成立。优先吃自家DDR3/X99存货+ECC大内存条，卡选V100裸卡自攒散热，或T10这类架构更新一代的冷门计算卡，预算1500-2500能落一台能用的AI机。接受两个前提：主要伺候Strata这类生态；且每代新模型出来，你的速度只会更慢——知乎实测玩家的原话是“后面出的模型，只会一个比一个BT（褒义词），运行速度只会越来越慢”。知乎
Agent/写码生产党：垃圾机不是给你准备的。Prefill瓶颈加兼容性问号，意味着现在买是在给未来还债。要么走30系以上Ampere方案，但注意3080 20G魔改矿卡比例特高、基本上是“十卡九矿”，瞬时功率大还得配750W电源；要么API加免费额度混用。知乎
接下来盯什么
三个信号：一是Strata 0.2.0后续正式版的硬件要求，门槛每降一次，你手里的老卡就再值钱一次；二是内存行情，10月20日日报已经写明“显卡供应紧张，大容量内存继续上涨”——这波垃圾AI机的成本结构，是被内存和涨价预期定价的；三是双11后无头卡回调，90HX、3060M这些被游戏党和AI党双线抢购的型号，大促结束大概率有一轮回落，那才是百元档入场的窗口。
捡垃圾这门手艺，赌的从来不是“东西便不便宜”，而是“我要用它干什么”。这波Strata把门踢开了没错，但门后面不是免费午餐，是三本账。算完再下手，才叫垃圾佬；没算就冲，那叫接盘。
