DeepSeek数学涨7分,改的不是模型权重

源自10位全网作者

17:47

11月6日,doubleAI 发了一篇研究博客。两天后,中文热搜把它压缩成一句话:改架构后,DeepSeek 数学能力提升。

这句话不算错,但漏了几个关键限定。

新智元在微博上的标题更直接:「AI亲手改写Transformer架构!DeepSeek自我改造暴涨7分」。新智元

B站则把它概括成:「AI自己改架构了:DeepSeek不改权重,数学能力暴涨7个点」。哔哩哔哩

最容易被误读的是主体。这不是 DeepSeek 官方发布的新模型。实验里,DeepSeek-V4.1-Flash 既是「主刀医生」,也是「病人」。

这项研究出自 doubleAI,一家由 Amnon Shashua 联合创立的实验室。doubleAI

其次,这次实验没有训练 DeepSeek 的权重。这里说的「改架构」,不是换掉 Transformer 的主干,而是在生成流程外面加了一层采样控制。doubleAI

也不是「思维链一跑偏就当场回滚」。实际做法更笨:等一整道题写完,探针读取 7 个深层 block 的激活,判断刚写的答案大概率对不对;判错就整题丢弃,重做,最多三次。doubleAI

7 分是这么来的。模型先拿自己在 243 道 2024—2025 年竞赛题上的对错记录,自己挑层、定探针形式、定阈值;2026 年的 AIME 和 HMMT 一直藏着。

结果,AIME 从 76.2% 到 82.3%,HMMT 从 52.7% 到 60.8%,两项合计 63.9% 到 71.0%。赛前它估计能涨 8 分,实际涨了 7 分。doubleAI

注意,这是「不开思考模式」测出的成绩。探针拒掉了模型五分之四的错误答案,只误伤十五分之一的正确答案;只按长度重采样,涨幅不到 2 分。doubleAI

作为对照,「完美探针」能把合计拉到 78.1%,说明 7 分离天花板还有距离。

它真正值得看的地方,是探针的层、形式和阈值不是研究员定的。

模型自己从失败样本里找规律,自己定下探针的层、形式和阈值,再把它包进 `probe_and_resample`。它没有突然变聪明,只是学会了在交卷前多看一眼。doubleAI

同一套方法在别处也成立。Qwen3-8B 自己写了一套「何时停、何时重来」的策略,AIME/HMMT 从 59% 到 66%。

CLRS-Text 上,训练中插入 10 层代码,在这套 30 种算法的基准上,准确率从 55% 到 84%。后者是另一个实验,不是 DeepSeek 的数学成绩。doubleAI

还有一个反直觉的结果:代码层半路插入,比一开始就给,长文回忆高 17 分。捷径给得太早,网络会赖着不走。doubleAI

代价也要说。重采样最多再重做三次,生成开销会上去;测试只覆盖两场数学竞赛;探针只在答案写完后有效,写到一半时它主要读出的还是「这题难不难」。

它更像一个模型自己训练的阅卷老师,而不是一个更聪明的解题者。

所以,热搜说的「DeepSeek 数学能力提升」,在这两场竞赛上可以成立,但别理解成 DeepSeek 换了个更强的模型。

真正发生的是:模型比较完整地走完了「诊断自己的失败—写工具—验证效果」的闭环,人类给的是目标、题目和规则。

这比 7 分本身更值得盯。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章