不训练就改权重提分40%,这是AI自我改进的开始吗?

源自150位全网作者

11:35

11月2日,MIT CSAIL的四位研究者公布了一项实验,他们把它叫做权重空间编程。 实验的核心过程是:前沿大模型GPT-6 Astra在Python环境里直接读取Qwen3.5-0.8B的权重,全程没用训练、也没用梯度下降,仅改动约0.016%的权重,MATH-500得分就从7.9%升到48.1%,GSM8K从13.8%升到67.1%。知乎量子位36氪

热榜标题里的“提分40%”,指的就是这约40个百分点的涨幅(约6倍),而原本不在优化目标里的指令遵循评测IFEval,也从21.0%升到62.3%。直接回答标题的问题:这还算不上“自我改进”,因为Astra改的是别人的权重,不是自己的;但它确实是一条新路的开端——模型权重正在从只能由优化器更新的数字,变成大模型可以直接读写的“程序”。

40分是怎么涨上来的:拆墙,不是充电

Astra找到的病根不是“不会解题”,而是“说不完话”。这个推理循环问题连Qwen自己的模型卡都提醒过:最初的96条练习回答里,有85条一直跑到了32768个token的长度上限。 它顺着失败记录把循环追到第15层和第19层MLP写入的一个方向,从两层的64个输出列中把它减掉,MATH-500里撞长度上限的比例随之从93%降到33%。 换句话说,这波提分的本质是拆掉挡在答案前面的一堵墙——模型本来就会一部分题,只是答案被循环吞在了说出口之前。量子位36氪

作者留了对照组,而这在传播中几乎没人提:换成很少循环的Gemma 3 270M,Astra只能看到普通的算术和代数错误,找不到一条可以关闭的单一方向,做了一些很小的修改,也没让分数提高超过约1个百分点。 博客原文给出的结论非常克制。 所以“数学能力暴涨6倍”的准确读法不是装进了六倍算力,而是模型终于有机会把自己本来推导得出的答案完整写出来。知乎36氪

从读懂权重到从零写出权重

博客一共做了八个实验,测的是三种能力。读:只给四个架构完全相同的游戏网络的原始权重,它认对了打砖块、乒乓、吃豆人和高速公路;只给720万参数语言模型去掉输入输出层的中间四个Transformer模块,两轮尝试里它认出了三个模型各自的训练语言,还找出了全部复制头。 修:面对只会径直冲坡、卡在局部最优的PPO小车策略,Astra不用任何工具,一次回复写出改动3.5%权重的补丁,小车在1024次爬坡测试中全部成功。 写:只给游戏规则、源代码和指定网络结构,Astra把策略从零转成各层权重,一次回复交卷,研究团队报告,这个没有经过训练的网络得分高于训练了5亿步的PPO。36氪量子位知乎

也有翻车的时候。在判断两个同源微调模型哪个被训练成迎合用户时,Astra四次尝试都无法仅凭权重分辨两个模型,直到允许它查看注意力分布才全部认出来。 这些细节和失败样本放在一起,说明能力是真的,但还很粗糙。36氪

为什么还算不上“自我改进”的开始

围绕热榜标题的讨论,大多挂在“自我改进”四个字上。按递归自我改进的标准——本轮改进能否增强下一轮改进的能力,形成持续反馈——这个实验里有三处对不上。第一,改模者、被改者和评测者是三方:动手的是OpenAI前沿模型Astra,被改的是8亿参数的小模型,基准、前向验证预算和评测框架都由人类搭建的实验环境提供。 第二,Astra自己一个参数都没变,它读写权重的本领不是在这项实验里长出来的——Astra本身积累的知识与能力,仍然来自它此前的训练。 第三,能力层面目前只证明了“解除障碍”,前述Gemma对照就是作者自己划出的边界。知乎量子位

作者确实把递归自我改进写进了展望:如果大语言模型能够直接检查、调试和改进自己的权重,或者改进更新一代模型的权重,就有机会走出一条更加直接的自我改进路线。 但那是博客指向的方向,不是实验证明的结果。连名字里的“Sparks”都在提醒位置——这是一颗火星:被证实的只是前沿通用模型能把另一个网络的权重当作可阅读、可推理、可编辑的对象;那只手会不会伸向自己的权重,目前没有任何证据。36氪

0.016%的代价,和没被复现的48.1%

“只改了0.016%”听起来轻巧,翻日志就知道代价不轻:最强的一次运行花了20.3小时,包括158个对话轮次、80次Python执行,外加4.7小时等待服务恢复。 它还高度依赖搜索预算:10、25、50次前向调用预算下,修改后的MATH-500得分依次是12.3%、14.1%和48.1%,三次运行各自找到的修改也不同。 所谓“不训练”也需要限定:实验禁止的是梯度下降和训练循环,不是完全不测试、不给任何反馈,48.1%是边改边做前向验证试出来的。知乎量子位知乎

研究形态本身还处于早期:目前只有博客、公开日志和实验报告,没有经过同行评审,48.1%的那次运行也还没被重复过。网上已经有人上手复现:一位用户照着实验设置折腾,烧掉了200美元订阅半个周的额度,反馈是“似乎没有这么好的效果”。 同一问题下的另一条回答说得更直接:它切除的是特定死循环方向,在千万级参数的小网络上勉强成立,但大模型权重极度纠缠,这种靠文本去猜权重的做法没有通用性。知乎知乎

值得盯住的,不是明天用不上的焦虑

对普通用户,今天什么都没变:实验场景不等于云端聊天服务的额度和计费,分析权重、批量推理和评测照样烧计算资源,GPU暂时还不用准备退休。 真正的增量发生在入口上:此前的模型编辑、任务向量、激活引导和模型合并,大多需要训练、梯度或额外优化器,而权重空间编程让通用大模型围绕自然语言目标,直接理解另一个网络内部的计算,再写出参数修改。它打开的恰是传统训练昂贵或够不着的场景:定位具体故障、修补局部行为、在部署前检查隐藏结构——这可能让我们不必运行推理任务或基准测试,就能发现模型隐藏的问题或能力。 同一能力也有反方向:能精准修补权重的系统,也可能被用来植入更难发现的行为——越精准的权重编辑,越依赖严格的评测和审计。量子位36氪知乎

往后看,值得盯的信号有三个:团队承诺开发的权重空间编程评测基准;有没有人稳定复现48.1%,并给不循环的模型找到修改方法;被编辑的对象能否从0.8B的小模型走向更大、权重更纠缠的网络。 这三个问题有答案之前,40分的涨幅最好还原为它的真实身份:一个很强、也很早期的概念验证。它证明了AI能像写代码一样改写神经网络权重;至于这只手会不会伸向自己的权重,接下来几年才轮到它回答。36氪

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章