Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

源自98位全网作者

11:43

这周本地部署圈最忙的,不是双11的显卡市场,而是一个叫 Strata 的 GitHub 开源项目:18 小时连发 0.2.3、0.2.3.1、0.2.4 三个版本,随后"两天两刀"补出 0.2.4.1 和 0.2.4.2,0.2.5 刚被社区测出来,0.2.6 又到了——小红书一位自测用户报告:4080 Super 上跑 DeepSeek V4.1 的生成速度,从 10 t/s 直接翻到 22 t/s,“就 1 天的优化”。哔哩哔哩小红书

而最扎心的一条反馈,不在 B 站那条 7700 播放的版本拆解视频下面夸的部分,是在它评论区里那条收了 14 个赞的:4090 48G,10toks,4090 从来没有这么憋屈过。哔哩哔哩

软件正在以天为单位,榨回你老显卡的残余价值。对准备趁双11入坑或换卡的人来说,这既是好消息,也是一张改过的预算表。以下先把时间线捋清,再把速度表、成本和争议摊开。

(说明:文中所有速度数字均来自各博主自述与读者评论区的个人自测,机型、量化档位、上下文长度互不相同,不可跨机型横向对比,只作参考,不作结论。)

Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

一周六连发:Strata 时间线

按九物AI生产力 10 月 25 日的拆解视频,这轮更新密度大致是这样的:

  • 0.2.3:Strix Halo 平台提速 +19%,Intel Arc 显卡正式入列;上下文塞满时,Agent 学会了分段摘要而不是直接报错——这条对跑长任务是实打实的体验改善。所有数字引自官方 Release 说明并标注了机型。哔哩哔哩

  • 0.2.3.1:修一个"把安装程序读崩了"的解析问题。快,但也糙,工程债是这周被评论区反复念叨的点。

  • 0.2.4:本周的爆点——12GB 显存跑起 DeepSeek V4.1-Flash。 评论区有读者留言:已经更新 0.2.5 了,客户端也支持 deepseek 了,而且说明上说会更快。小红书

  • 0.2.6:出现了前面那条 4080S 速度翻倍的自测。

一个装机教程类项目在两周内密集滚出六个小版本,社区的情绪是分裂的:一边是"作者真是肝啊",一边是观望党劝"strata 现在还是很小众"。哔哩哔哩

Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

12G 老卡的"产量"是怎么回来的

拆开看,0.2.4 的门槛下降靠的是三类工程手段的叠加(据拆解视频与小红书"恩佐大叔"的整理):

  1. 压扁:ISTA-DASLab 做了 DeepSeek V4.1-Flash 的 2-bit 量化权重,8-bit 版要 508GB,2-bit 版只要 257GB。 官方给了 1.75 / 2.00 / 2.25 三档 bpw,硬盘占用 239–274GB;代价是困惑度:最接近原版的 2.25 档整体只比原版高约 7.3%,写代码和跑 Agent 的场景只高 2–3%。小红书

  2. 拆开:显存装不下的部分放内存,内存装不下的从 SSD 随用随读——所谓"内存当显存",拆解视频把这套叫"八项工程手段",里面还包括跳过没用的层、用小模型帮忙猜的投机解码。哔哩哔哩

  3. 接上:0.2.3 起 Intel Arc、Strix Halo 这类"非 NVIDIA 正统"平台正式进列,本地部署的硬件版图在这一周明显扩了一圈。

反常识的是官方自测里的排名:同一套方案下,RTX 3060 的端到端表现反而比 5070 快——瓶颈从纯算力挪到了显存带宽和 offload 路径上,跑分和实用开始是两回事。哔哩哔哩

速度表:别看平均值,看你的配置

把本周散落各平台的自述拼起来(均为单机自测,口径不一):

配置

量化档

自测速度

来源

RTX 3060 12G

2.25 bpw

写代码约 10 t/s

官方 Release(转引)

12G 显卡

2.25 bpw

约 5–7 t/s,“聊天会急”

恩佐大叔(小红书)

5060Ti 16G + 96G 内存

2.25 档

约 10 t/s,硬盘持续读 1.5–2.5G/s

九物视频评论区

4090 48G

自测档

约 10 t/s,“从来没这么憋屈过”

九物视频评论区

4080S 16G + 128G 内存

IQ2_XXS,8k 上下文

0.2.6 生成 22 t/s(老版本 10)

彪哥总好奇(小红书)

各种 Mac

125B 级

7.9–89 t/s,同门差 10 倍

宇智波刘能king(B站实测)

3090(对照:27B 档)

非 Strata 路线

110 t/s、3 路并发"能干活"

梅加雨(B站,6.3万粉)

拼完这张表,判断标准其实清楚了:10 t/s 以下的档位,玩法是"睡前丢任务、早上收结果";20 t/s 以上,才够格当日常聊天和写作助手。别拿"能跑"当买点,要拿"我这台机器能到几 t/s"当买点——九物 AI 生产力 10 月 23 日那份 18 天、141 份实测、覆盖 45 种显卡的汇总表,比任何发布会都值得收藏。哔哩哔哩

Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

没人提的三笔账

热度里藏着的成本,评论区已经有人算给你了:

  • 内存账:这条路线是"12G 显存 + 46–64G 内存起步"。 点赞 9 的读者吐槽得很直接:为什么都在强调 12G 显存可以跑,却闭口不提 32G 起步的内存使用量,那就是 48G 起步了,这成本反而比显卡高太多了。 4080S 那条自测也印证:显存吃到 15.4G 的同时,内存用了 107G。 32G 内存的主流笔记本配置,这周直接被划到门槛外。小红书哔哩哔哩小红书

  • 硬盘账:权重一个档 239–274GB 只是入场券。5060Ti 读者的原话是:期间硬盘 1.5–2.5G/s 读取,跑半小时就是几个 T 的读取,妥妥的硬盘杀手。 机械硬盘、快满的 SATA 盘和在意 SSD 寿命的人,先掂量这一条。

  • 时间账:5–7 t/s 的聊天体验、"睡前丢任务早上收结果"的节奏,本质是拿时间换硬件。同一个圈子里另一条路线的博主(梅加雨)晒出的 3090 方案则是另一种时间观:硬件一次到位,之后随时能用。哔哩哔哩

Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

争议:这算不算"真本地部署"

本周圈内吵得最凶的不是速度,是身份。6.3 万粉的本地部署老玩家梅加雨专门做了期视频开炮:什么?本地部署 deepseek v4.1?你怕不是在用 api+DSH 就当是本地部署了吧? API 套壳冒充本地、把"能跑"剪成宣传片——这是这个圈层自己在打假,他自己在视频里也毫不含糊:从 deepseek r1 蒸馏时代玩到 v4.1,“本地部署真的开始实用并且能干活了”。哔哩哔哩

另一头是"量化降智"焦虑。知乎"2026年本地化部署AI大模型还有意义吗"的问答里,玩家讲得很白:125B 级模型"实际上大部分只能跑 iq3 甚至 iq2 量化,智商没法比厂商提供的在线服务",可为什么很多人非得本地部署? 因为云上"降智、限速、改价"三把刀,还是让人想把模型抱回家——九物视频评论区里,连"谁不想把大肥鱼抱回家呢"都是这个句式。 要不要为"不被改价"付出 iq 档位的智商折损,是每台机器自己的算术题。知乎哔哩哔哩

还有个没对齐的信息点:10 月 24 日小红书的实测说 Strata"目前只有终端版,Mac 还不支持",而同一周 B 站的 Mac 125B 三部曲却在讲"苹果早已原生适配"、并给出 7.9 vs 89 t/s 的实测。 两条信息明显冲突,可能卡在版本节奏(0.2.5/0.2.6 期间能力变化)或路线差异上,目前没有权威口径——Mac 党别为"能跑 Strata"这个理由单独加钱,以项目官方 README 为准。小红书哔哩哔哩

谁该现在动手,谁该再等等

  • 手里是 12–16G 显存、内存 64G+、有块空 M.2 的:这周就是入坑窗口,按 0.2.6 的版本走;先用官方 Release 标注的同机型数字对一眼自己的预期。

  • 24G 及以上(3090/4090 级):不必被 flash 路线绑架。3090 跑 27B 级"能干活"档有现成先例,"4090 48G 只有 10toks"恰恰说明这条路线的瓶颈不在你多花的显存上——你的升级方向是内存带宽和存储,不是再堆卡。

  • 16G 内存的轻薄本、只有机械盘的旧机:别碰这一代。评论区已经在传"DS 晚点会出一个家用机能跑的模型"(传闻,未见官宣),观望比折腾省钱。哔哩哔哩

  • 想双11 新买卡入坑的:先把预算表改成"显卡 + 内存 + 硬盘"三件套。这周发生的事说明:软件释放老卡的节奏,比新卡到货的节奏快。

继续盯四个信号:Strata 0.2.7+ 的更新节奏(以及 Mac 支持到底以哪版落地)、评论区念叨的工程债有没有被后续版本修平,还有 MiniMax M3.1 权重何时被推理引擎接住——10 月 23 日上架,428B 总参数、仅激活 23B,上下文 100 万。 最后是双11 前的二手显卡与内存行情:九物那份闲鱼回收报价统计整理了 1054 条真实报价,同一张 4060Ti 不同品牌口径的报价差了 161%。小红书哔哩哔哩

Strata 一周连发六版:12G 老卡跑起 DeepSeek,4080S 一天翻倍到 22t/s——双11 换卡前,先把内存和硬盘的账算完

这周本地圈的真实主题不是"买不买新卡",而是"老卡还能被榨出多少"。下单前,先打开机箱数一数内存条和硬盘——这两样凑不齐,最憋屈的就不是 4090,是换完卡还是跑不动的你。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章