DeepSeek新架构:数学竞赛没输,硬核科学题变弱

源自25位全网作者

17:38

这两天刷屏的说法是:DeepSeek 自己改了架构,AIME 和 HMMT 2026 上数学成绩涨了 7 个百分点。先厘清一件事:这不是 DeepSeek 发布的新模型。做这件事的是 DoubleAI,一家由 Mobileye 创始人 Amnon Shashua 创办的 AI 机构。权重没动,也没加训练数据、没扩参数、没做强化学习。改的是一段插在推理流程里的 Python 程序。新智元小红书

具体做法是,让 V4.1-Flash 先做 243 道数学题,把做题轨迹和最深层 7 层的激活状态交给自己分析。它从里面找出容易跑偏的规律,写出一段叫 probe_and_resample 的检查程序。推理到检查点,程序读取最深 7 层的激活打分;一旦发现轨迹偏离正常分布,就回滚到出错那一步重算。AIME 2026 从 76.2% 到 82.3%,HMMT Feb 2026 从 52.7% 到 60.8%,两项合计 63.9% 到 71.0%。同一张图里,只把推理拉长的对照组是 65.4%,完美探针的上限是 78.1%。多出来的分,确实来自“发现跑偏”,不只是“想得更久”。微博小红书

但这不是 DeepSeek 的“新架构”。DeepSeek 官方的新架构,是 V4.1 Flash 的 Causal-Encoder-Decoder:552B 总参,输入激活 8B,输出激活 16B,每 token 全局 KV 缓存 890 字节。它把输入和输出拆开算,先让编码器读长文,再让解码器生成。这套设计首先是为了长上下文和 Agent 的成本,不是把数学题做得更深。DeepSeek

官方说,它在基准测试的整体智能水平上超过了包括 V4 Pro 在内的一众旗舰。把表拆开看,不是每个科目都赢。竞赛类任务没输:MathArena Apex 65.6 对 65.3,基本打平;Codeforces 3471 对 3348,明显更高。硬核科学推理则退了:GPQA Diamond 90.9 对 92.4,HLE 纯文本子集 39.1 对 42.7。这更像一次取舍:解码侧的算力压下来,难题的余量就少了。DeepSeek

所以“新架构数学差在哪”,有两个答案。若指刷屏的 7 个百分点:它差在权重之外,赢在推理时多了一道检查;同一套权重,旧版写完就交,新版跑偏就退。若指官方 CED:它差在硬核科学推理,不在竞赛类任务;它的设计目标本来就不是数学深度。

这也解释了为什么两个说法会混:都在说“架构”,一个改的是网络结构,一个改的是做题流程。前者的收益是成本和长上下文,后者的收益是数学竞赛的 7 个百分点。把后者当成“DeepSeek 新架构更强”,会高估模型;把前者当成“数学退步”,会低估它在 Agent 场景的性价比。

还有两个问号。回滚会拉长推理链,token 和等待时间都会涨;公开转述里没有给出成本数字。AIME 和 HMMT 的题目流传很广,训练数据有没有去重,公开转述也没有交代;这 7 个百分点里有多少是真会做,有多少是见过,得先打个问号。

真正值得学的,是那道检查程序:它不改变模型会不会做,只改变错了能不能及时发现。这个办法有前提——题得能判对错。数学可以,写方案和做判断不行。会检查不等于会做,但至少,交卷前多看了一眼。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章