DeepSeek 1017 把满血权重放了:矿卡旧机单流50、国产四机300+,本地部署的账现在能摊开了算

源自351位全网作者

20:29

10月17日下午,DeepSeek 把 V4.1-Flash 悄悄更到了 1017。官方口径是"小版本更新",但网页端、App、API 三端同步切换,价格一分没涨,权重当天就挂上了 HuggingFace 和魔搭——552B 参数的 MoE,原版权重约 510GB,满血直接开源。第二天 Arena 官方发推:1017 在 CodeArena WebDev 榜单拿了开源模型第一,1670 分,总榜第 12。哔哩哔哩知乎知乎

DeepSeek 1017 把满血权重放了:矿卡旧机单流50、国产四机300+,本地部署的账现在能摊开了算

云端用户看到的是"变强了"。但对本地推理的人来说,这次更新真正值钱的是三个不起眼的细节,以及两天内社区甩出来的一张实测分布图。我把知乎、B站、评论区里所有带口径的数字整理到了一起,这篇一次讲完:你的机器到底在不在桌上。知乎

一、1017 对本地人省的不是分数,是上下文

先看官方沟通口径里被多数报道漏掉的部分:这版主打"雷霆思考"优化,思考等待时间降 57%~73%,简单写码的等待从 15 秒压到 3 秒;写代码能力 +43%、终端干活 +36%、复杂专业题 +15%。哔哩哔哩

云端用户对这些数字无感——反正额度管够。但在本地,显存就是硬预算。思考链变短意味着单位任务占用的 KV 和上下文变小,同样的显存余量能多跑几步、多挂几路并发。这也是发布当天社区达成的一个共识:这版只换权重文件,部署环境不用动,KV 配置不用重调。已经在跑 V4.1-Flash 的人,升级成本约等于一次下载;而"上下文更耐用"对多并发本地服务的意义,比跑分那点涨幅实际得多。哔哩哔哩

顺带一提,DeepSeek 自家生态这次也是配套的:Search/Fetch API 开放,5 元/千次;Harness 升级到 v0.2.1-rc.2 适配 1017,自研搜索引擎限时免费。云端在把"够用且便宜"这条路继续往下铺,这点后面算账要用到。知乎知乎

二、满血 510GB 到底怎么跑:两天,社区给出了五条路线

我把发布后 48 小时内所有带实测口径的部署记录排成一张表,注意每家的"速度"口径不一样,先看图再看结论。哔哩哔哩

路线

硬件与内存

实测口径

关键数字

矿卡老平台

4×CMP 170HX(4×64GB 显存)+ X99 双路至强 + DDR3

固定 3000-token 单流持续 Decode

47.84–58.65 tok/s;八路聚合 91.28–116.96(是总和);单流 80/100 尚未达到

加卡版矿卡

6×170HX 64G

峰值

190+ tok/s

工作站卡

4×RTX Pro 6000

并发递增(评论区自述)

c1 约 240+、c8 约 800、c32 约 1500 tok/s

国产四机集群

4 台超聚变 FusionXpark GB10(DGX Spark 国行 OEM,2TB)

SGLang + Engram 放盘 + DSpark 投机解码

冷 prefill >3000 tok/s(128K 内)、代码单流 85、8–16 路并发合计 269–307

昇腾 910B

单机 8 卡 512GB 显存 + 1TB 级内存

社区 W4A8 量化交付包

HBM 内放约 297GB 主干权重,Engram 表约 206GiB 放主机内存,剩约 170GB 给 KV

几个值得单独说清楚的点:

1)X99 + DDR3 跑满血,是真的,但博主自己先画了线。 B站 LocalFrameLab 那台"四张矿卡加三代内存"的老机器跑的是完整权重、不跳专家、未额外量化的 1017,单流 50+ tok/s 是反复测出来的。但作者在简介里主动标了口径:网上流传的"画面 48–59"是约数、八路那个数是总和不是单流、从 eager 基线到最终配置是多项修复的组合效果,不能全归到一个补丁上,仓库已开源。这种自己拆自己台的写法,比标题可信多了——抄作业前记得去仓库看完整方法,别只看标题下单。哔哩哔哩

2)14.2 万的 Spark 集群,省钱的秘诀是不买交换机。 知乎"达然的AI实践手记"那篇全记录是目前最完整的一份组网文档:DGX Spark 国行超聚变 2TB 版十一期间 3.55 万/台,节后涨到 3.65 万,四台 14.2 万。NVIDIA 官方拓扑要求四机以上走交换机,而 MikroTik 那两台合适的型号要 2 万–4 万,价格逼近第五台 Spark,还常缺货。作者参考 MiaAI-Lab 公开的环网方案,四根线把四台机器首尾连成环直接跑通,代码生成成绩与走交换机相近。他对比过的另外两个选项也很有代表性:512GB 统一内存的 Mac Studio(带宽大、生态熟,但这次要的是 CUDA 栈和四机并发)和 4×128GB 的 Spark 组合,最终选了有现成部署配方的那条路。知乎

DeepSeek 1017 把满血权重放了:矿卡旧机单流50、国产四机300+,本地部署的账现在能摊开了算

3)昇腾那条路最陡:这是社区交付包,不是官方产品。 官方 W8A8 方案 Linear 权重 544GB,大于 8×910B 的 512GB 显存,单机装不下,社区 W4A8 成了唯一出路——发布当天就重新生成权重包,14 项性能补丁累计每步省 7.71ms(约 -19.7%),验收清单跑完 8K/32K/128K 长文 + Vision + GSM8K。知乎

但文档里埋的坑必须看:README 里"A2 形态"的一部分性能数据是在 A3 上模拟 TP8 测的,不是 910B 实测;1M 上下文的 KV 容量对 A2 只是推算值(约 100–120 万 token),不是承诺;仓库 1088 个 commit,必须钉死验收用的那个;还有个不打补丁"起了服务也等于没起"的 DSpark 索引 NameError。知乎

最有意思的是这套包的算子优化和文档,是 DeepSeek 模型自己完成的——用 AI 优化 AI 的部署,第一次在国产卡上变成了照着做的工程。知乎

三、先分清三件事,再谈冲不冲

社区信号很热,反证也不少,我筛出三条必须分开看的事:

"国模第一"和"打不过御三家"是真的同时成立。 18905 播放那期雷达图视频给的结论很克制:1017 国内模型第一,和头部闭源差距仍然明显。评论区点得也准:技能点几乎全加在了 coding 和前端上,写长文档不如 GLM、Kimi 稳,Opencode 里陷入目标死循环的抱怨有二十多个赞。许愿式编程是真的爽,可靠性投诉也是真的多——把它当主力,先想清楚你的任务分布。哔哩哔哩

"蒸馏 GPT-6"传言没有实锤。 指纹分析指向 Astra 的说法在知乎几个问题下流传,官方没有回应。当作悬案看,不影响你用,但别把它写进你的选型理由。知乎

本地从来不是省钱题。 今年 8 月那个被顶了很久的共识依然成立:纯算 token 账,API 永远比自建便宜——何况现在 OrcaRouter 还有每天 50 次的免费 1017。本地部署的溢价买的是三样东西:敏感数据不出门(那篇超聚变全记录的作者就是公共事业单位背景,资料涉密)、无限次高频并发的边际成本归零、以及不依赖任何供应商的底座。你的需求不在这三样里,这轮就不用跟。知乎知乎知乎

四、对号入座:四种机器,四种动作

  • 只有一张 24–48G 消费卡的入门玩家:满血 1017 与你无关,官方量化版和社区 GGUF 都还没铺出来。先用免费渠道把 1017 的编码能力试明白,本地继续跑你手里的小模型,等量化生态落地再决定加不加内存。

  • 手里已经有 V4.1-Flash 部署(多卡工作站/集群):别犹豫,换权重。环境不动、KV 不动,思考变短直接换来更耐用的上下文,这可能是今年性价比最高的一次"升级"。哔哩哔哩

  • 预算 15 万上下、要跑严肃业务:超聚变四机环网是被验证过的一条路,14.2 万含涨价的容错;同价位再看 Mac Studio 512GB 要不要等社区把 1017 的 MLX 配方放全。涨价已经在发生了(3.55→3.65 万/台),这条窗口期不会太长。知乎

  • 国产卡/信创场景:W4A8 社区包能用,但按它的验收流程全跑绿再谈上线,把"模拟值"和"实测值"分开记账。

DeepSeek 1017 把满血权重放了:矿卡旧机单流50、国产四机300+,本地部署的账现在能摊开了算

接下来值得盯的信号:MiniMax M3.1 Flash 已经官宣今晚前后发布、API 先上线,榜单对手不会等。1017 的社区量化版本(GGUF/MLX/图灵卡分支)大概一周内会密集出现;另外技术出口管制草案 11 月 15 日截止征求意见,"海外本地部署开源权重"在不在管制口径内,对出海做私有化的人是实打实的变量。哔哩哔哩知乎

1017 不是那种"重写了本地规则"的发布——它没有更小、没有更省卡。但它是第一次,一个 Arena 前端编程榜第一的开源模型,满血权重、只换文件、社区实测单流 50 token/s 在矿卡老机上成立、85 token/s 在 14 万的国产四机集群上成立。门票确实没降,但门后的路,这两天是被一群晒口径、晒仓库、晒坏块校验的人踩实的。你的机器在不在桌上,按那张表对一下就知道了。

DeepSeek 1017 把满血权重放了:矿卡旧机单流50、国产四机300+,本地部署的账现在能摊开了算

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章