Strata爆火：12G显存真能跑125B，但门槛根本不在显卡
这两周的本地 AI 玩家圈，大家都在聊同一个名字：Strata。
它的卖点嚣张到离谱——12G 显存的显卡，跑 125B 大模型。小红书知乎
安全研究员 tombkeeper 公开安利过：同一块 RTX 3090 跑 Qwen3.8-Flash-Next，llama.cpp 吐字 20 tok/s，Strata 能到 67。B 站博主的真机实测更狠：单轮演示吐字冲上 70 Token/s，32K/120K 严苛三轮实测也守住了 900 t/s 以上。微博哔哩哔哩
先把原理说透。 Qwen3.8-Flash-Next 是 MoE 模型，总参数 125B，但每次推理真正激活的参数只有大约 6B。Strata 的打法是把模型权重拆开：显存放常驻计算部分和热点 experts，内存放路由 experts，SSD 上放 n-gram embedding 表——说白了就是内存当仓库、显存当工作台，用到哪块调哪块。所以显卡看起来“没那么吃力”，模型却照样在算。小红书微博
能跑，不等于能用——这才是评论区吵得最凶的地方。
第一关：真正的门槛不是显存，是内存。 实测玩家的共识很直接：能不能跑和内存有关系，64GB 是起步，再往下就得硬盘来补，基本谈不上可用。有博主用 5060 Ti 16G + 32GB 内存的机器折腾，能跑的只剩 IQ1_M 这种约 1.75 bit/权重的极限量化，人家的原话很清醒：压到这个量级的精度，能跑和能用是两回事。小红书知乎
第二关：量化质量。 IQ3_S 这个档位被问得最多，“多问几下就傻了”的反馈不少。老玩家的评价比较克制：至少要 IQ3 才勉强可用，但质量和本地 27B 拉不开差距。想靠 12G 显卡 + 64G 内存就吃到 128B 级的完整实力，目前没有证据支持。小红书
物价和门槛，都在跟着涨。 内存不够时 Strata 也不是完全没辙，拿 SSD 当交换区硬撑，但频繁换入换出既拖推理速度又增加写入量，在存储正贵的当下属于用钱包受刑。Strata 带火之后，压箱底的 12G 老卡被人一张张翻出来，显卡行情肉眼可见地动起来。刚发布的 0.2.12 版本更是把刀法写在脸上：RTX 3060 读 2K 提示词的速度从 87 涨到 264 tok/s，约 3 倍。知乎小红书哔哩哔哩
但要说清，这更新没让所有卡都变快——它只奖励一类机器：以前被错判的机器。12G 老卡迎来高光时刻，能全驻留的大卡用户，先别急着升级。哔哩哔哩
给三类人一句话建议：
已有 96GB 内存的，直接装，Strata 确实把 token 自由的门槛砍了半截；
只有 32GB 内存 + 小显卡的，可以尝鲜但别指望干活，IQ1_M 就当乐子；
正想冲去加内存赶这趟车的，先冷静看看价格——下一个热门模型和新硬件都在路上，格局可能很快再变。
“能跑”和“能用”，从来不是一回事。Strata 真正带来的不是 12G 显卡的胜利，而是内存第一次被本地 AI 玩家认真当成主角。
