11 月 2 日，MIT CSAIL 的四位研究者（Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab）发布了一篇博客《Sparks of Weight-Space Programming》：他们让 GPT-6 Astra 直接改写小模型 Qwen3.5-0.8B 的权重文件——不重训、不后训练、禁用梯度下降——只改动 0.016% 的权重，这个 0.8 亿参数模型在 MATH-500 数学测试上的正确率就从 7.9% 升到了 48.1%。帖子当晚刷屏 X，隔天就带着"修小模型 bug 不用重训"的说法冲进中文技术热议。MIT CSAIL 博客知乎
先给结论：普通开发者现在能摘果子，还开不了灶——改好的模型、精确到列的权重补丁和全部实验日志都已经公开，下载即可验证。但要自己复现这套"AI 给 AI 做手术"的修复过程，需要 gpt-6-astra 级别的前沿模型加一整套专用工具框架，团队效果最好的那次运行前后花了 20.3 小时，其中 4.7 小时还在等 API 恢复。MIT CSAIL 博客GitHub 实验日志
修好的 bug 是"停不下来"，不是"不会算"
这个 0.8B 模型做数学题时，常常陷入重复推理，把 32,768 个 token 的输出预算耗光也没吐出最终答案：Astra 拿到的一批练习题里，前 96 题有 85 题被截断。注意，这不是新发现的疑难杂症——Qwen 官方模型卡早就提醒该模型默认关闭思考模式、开启后容易循环。MIT CSAIL 博客知乎
Astra 干的事，相当于一个带着明确线索的排查：它用研究者提供的 Python 沙箱加载权重和运行时激活信号，定位到第 15 层和第 19 层的 MLP 共同写入了同一个"重复方向"，再把每层 64 个输出列在这个方向上的投影分量减掉。改动之后，答案触顶被截断的比例从 93.0% 降到 33.1%，分数暴涨主要来自模型终于能把已经会做的题写完。同样配置下，GSM8K 小学应用题从 13.8% 升到 67.1%，指令遵循测试 IFEval 从 21.0% 升到 62.3%——循环不限于数学，能交卷了，各榜都有涨幅。这组数字全部对应思考开启、温度 0.6 加重复惩罚 1.5 的固定测试配置，修改前后一致才可比，不能读成日常默认用法下普遍涨 6 倍。GitHub 实验日志知乎MIT CSAIL 博客
两个反例，标出方法的能力边界
换成 Gemma 3 270M，效果立刻消失：这个小模型很少打转，数学差是真不会算，算错数、代数步骤写错，病灶零散，没有一个可以"关掉"的部件，团队未能证实有效提升。实验记录里 MATH-500 只动了约一个百分点，作者自己判定增益不成立。权重编辑能移开挡住能力的障碍，不能凭空添加能力——这是研究团队写下的结论。知乎MIT CSAIL 博客
另一条边界是试错预算：10 次或 25 次前向探测时循环几乎没消掉，MATH-500 停在 12.3% 和 14.1%，到 50 次才把截断率从 93% 打到 33%、成绩跳上 48.1%。病灶定位高度依赖反复探测，不是"问一句就修好"。读病灶也一样：让 Astra 只凭两份 Gemma 微调的静态权重认出哪个被训成了"用户说啥信啥"，四次全部失败，直到允许它观察运行时注意力模式才全部认对——对深层模型，光读权重不够。MIT CSAIL 博客知乎
能摘的果子：三样公开资产
摆在明面上的东西有三样：编辑后的 Qwen3.5-0.8B 模型已上传 Hugging Face，任何人用同一底模即可对照验证；完整实验日志连同每轮提示词、代码和输出都在 GitHub 仓库里。仓库（RikiyaT/lm_understand-logs）放出的权重补丁，是相对公开底模的精确 diff 和一键应用脚本。Hugging Face 的 Ahsen Khaliq 靠这套日志独立复现了评测，并做出在线演示。GitHubMIT CSAIL 博客
开不了灶：复现一次有多贵
日志写明了这套流程的真实构成：被调用的 Astra 就是 OpenAI 的 gpt-6-astra，经 Codex CLI 驱动、推理强度开到 max，其自带工具全部关闭，代码只能在研究者的隔离沙箱里运行。一次完整的生成式探测能跑上约半小时，最成功的那次运行共 50 次前向探测、80 段代码执行。更关键的是，团队没有给出与常规训练直接比较的完整成本账——0.016% 只说明补丁局部，不说明整套方法便宜。GitHubGitHub 实验日志知乎
争议最大的细节也摊在公开日志里：发给 Astra 的第一句任务描述就写明，“如果模型因为不停重复而失败，找出并修复驱动重复的东西算完成任务”。研究者 Lucas Beyer 据此质疑提示词已经强烈暗示了循环问题；共同作者回应，详细提示词由 Claude Code 从简短目标扩写而来，另一位作者也承认涨分主要来自减少循环。线索确实提前给了，但从内部定位、写补丁代码到验证效果由 Astra 自己完成，发布的 1,125 轮日志也全部经审计声明无外部工具调用。只是这离"给模型做自主体检"还差着一段，它眼下更像一次有向导的专家诊断。GitHub知乎GitHub
普通开发者现在该怎么用
对大多数开发者，这项研究目前是观察项，不是工具箱。它适用的场景很窄：开源小模型 + 行为类故障 + 能力本来就在。如果你的小模型卡在"重复、截断"这类毛病上，第一步是查模型卡警告、核对采样配置——这个 Qwen 的循环问题官方早有提示，先动配置再谈动权重；如果是真的缺能力，SFT、LoRA 这类数据驱动的后训练仍是可靠路径，目前没有证据表明改权重能在成本或效果上替代它。
更值得记下的是方向本身：改进模型行为，第一次出现了"绕过训练循环、直接编辑参数"的选项，而作者们说他们接下来要发布标准基准和通用工具框架。社区的主流解读也已经很克制：掐掉的是模型反复打转的推理循环，不是凭空灌进去的能力。在基准发布之前，"权重编程"还是一次公开得足够彻底的演示：过程和底牌都在 GitHub 上，每个开发者现在就能去核对，但还不能拿来上班。MIT CSAIL 博客微博
