50块的E5服务器CPU、GTX 1060 6G、16G DDR4内存——有人花一个晚上，让1250亿参数的Qwen3.8-Flash-Next在自己电脑上每秒吐出19个token。知乎
这个叫Strata的项目（Niko1221/Strata，MIT开源，10月中旬GitHub约2.6万star），干的事一句话说清：把模型权重拆开，真正常用的专家放显存，不常用的放内存，最不常用的扔SSD，显卡只需要装下最核心的一小块，游戏电脑一夜之间有了跑千亿模型的门票。Windows/Linux一键安装，本机提供OpenAI/Anthropic兼容接口，Claude Code、Codex这类编程智能体能直接接上。微博知乎
实测速度为什么差5倍？
社区晒出的数字非常分裂：B站UP主自测12G显卡93 token/s，有帖称单张5070跑出94 t/s，但RTX 3060 12G+64G内存约30 t/s、GTX 1060 6G+16G内存只有19~21 t/s。规律很残酷：显卡只决定能不能跑，内存容量和带宽决定跑多快。另一个隐形瓶颈是读提示词（prefill）：同样是5070+64G，短对话生成53~93 t/s，读prompt却只有1620~2180 t/s，长上下文首字要干等。好消息是旧硬件真能用：有人拿4张退役的V100 16G配64G DDR3内存跑IQ3_S版，已经投入生产测试。哔哩哔哩微博知乎微博抖音
新门槛与难听话
评论区吐槽一针见血："光说显存不说内存，神人啊。"门槛从显卡挪到了内存：配12G显卡推荐64G起步，玩家共识是32G尴尬、48G保底、128G舒服。必须用SSD，机械硬盘"慢死"。双卡也别急着折腾：官方在v0.1.43.1给双卡批量服务提速约35%，但消费级平台早就是带宽瓶颈。哔哩哔哩知乎知乎
质量账也有官方数据：532赞的置顶评论拿IQ3_S量化版对比云端原版——数学推理略落后，编程长任务会"死循环"导致分数塌陷（有人靠换社区修复版模板解决）。Strata官方推荐的量化方ISTA给出的"任务均分vs位宽"曲线很直白：IQ3_S档基本与原模型持平，位宽再往低打就明显掉分。想白嫖速度，就得拿质量换。哔哩哔哩Hugging Face微博
10月下旬，连开三刀
图形界面+中文界面上线：0.2.0加入图形界面、中文界面和模型推荐，显存+内存合计最低约27.6GB就能装。AMD显卡同样在官方支持范围内。月底又宣布支持DeepSeek V4.1-Flash，但冷静看：那是239GB的模型包，官方README自己写着，5070 12G+64G内存只有4~6 t/s。“跑得动"和"好用”，是两回事。微博微博GitHub
谁值得装，谁别掏钱
手里躺着64G以上内存+12G以上显存的机器，想要零API费用、数据不出门的本地模型写代码、跑智能体——值得花一个晚上折腾，尤其公司代码不许上云的那批人。只有8G内存、还在用机械硬盘、或指望替代云端长上下文干重活的——别为跑模型专门攒机，装完三天吃灰。
这次"降价"的不是模型，是门票。内存和SSD管够的人，先享受。
