你没看错：Qwen3.8-Flash-Next，125B的MoE，量化后仍有84GB量级的权重（社区实测口径），如今连12GB、16GB显存的消费级显卡都能把125B跑起来。10月6日消息刷屏，有视频称RTX 5070实测94词元/秒、Apache 2.0完全免费，数据源引自IT之家，且未经第三方独立复现。10月7日起，B站和知乎被Strata部署指南刷屏，手握4060Ti、3090、魔改2080Ti 22G的朋友连夜clone引擎——连2019年的老卡都有人跑出48-60 tok/s。然后一半人当晚就翻车了。哔哩哔哩微博哔哩哔哩哔哩哔哩
Strata是什么？微博大V tombkeeper 9月28日讲得最清楚：模型权重被拆成三层——常驻计算部分和热点experts放显存，路由experts放内存，n-gram查表放SSD靠系统页缓存提前读取，命中的experts直接GPU算，甚至专门为Q2_0量化写了AVX-512 VNNI内核。同一张3090跑同一个模型，llama.cpp只有20 tok/s，Strata能到67，引擎作者自己用12GB的RTX 5070跑IQ3_XXS也有65.6 tok/s。这就是MoE的生存智慧：按B站用户的拆解口径，这个模型有24576个专家，每个token只点亮约10个，全塞显存纯属浪费。微博哔哩哔哩
但真正的账单藏在内存上。官方参考机是64GB内存，把35.5GB的专家全塞进去，跑出79 tok/s；而一位16GB显存、32GB内存的B站用户实测六次，最快65.8、最慢只有11.7——配置不弱，问题出在内存，专家装不下，机器全程在等数据。评论区同样直接：32GB内存被劝别硬试，20GB显存+64GB内存的用户报出短对话80-100 tok/s、长对话掉到60。哔哩哔哩哔哩哔哩
能力账更有争议。同机对决里，MoE加MTP投机解码的125B+Strata跑出172～255 Token/s，数学推理10:8领先27B。但对手升级Q5_K_M量化、显式开启深度思考后三场全盲重赛，总分榜又被翻了过去。还有人直言：量化低于Q3基本不可用，全是幻觉。对云端顶流DeepSeek，单卡7900XTX的本地125B比分93.40对94.57，质量几乎打平，差距主要在速度。哔哩哔哩哔哩哔哩哔哩哔哩哔哩哔哩
所以要不要跟风装？看三条线：16GB显卡+64GB内存以上，选Q3_S及更高量化，值得试；内存只有32GB的，别硬上，否则只剩Q2档玩具速度和幻觉。Windows+A卡用户注意，Strata目前对A卡的视觉模块不支持，强行开启会报错。License也要留神：社区同时流传"Apache2.0完全免费"与"qwen-community-1.0不是Apache、商用要单独授权"两种口径，商用前务必核对模型卡。这一波不是白嫖狂欢，是用内存换显存的第一轮明码标价——账算对了再动手，比什么都值。哔哩哔哩哔哩哔哩哔哩哔哩
