Claude学会“做梦”了,但这不叫自主进化

源自4位全网作者

12:36

在《宝可梦 红》里,Claude 曾把一座宝可梦中心的位置记反。它写下“月见山已完成”,然后走下那道单向台阶,落回原路;第三次失败后,它说“我打算停下来,而不是继续兜圈子”。一次“做梦”之后,它对照原始会话记录发现笔记错了,改了过来,才重新走进洞穴,抵达下一个城市。Anthropic

这是 Anthropic 11 月 6 日一篇关于智能体记忆的文章里最具体的例子。它讲的“做梦”,不是模型有了意识,也不是在后台偷偷训练。智能体把工作留在会话记录里;在两轮任务之间,Claude 用闲置算力回看这些记录,改掉写错的笔记,把零散笔记连成 wiki,再决定哪些内容该被预加载进下一次会话。 文章对“智能体记忆”的定义很克制:它指 Claude 从经验中获得、能跨会话保留的知识,明确排除了改变模型权重。Anthropic知乎

更有意思的是,它并不是“记得越多越好”。Anthropic 让 Sonnet 3.7 和 Fable 5 各玩一局《宝可梦 红》,到大约第 1 万步时对比记忆文件夹:Sonnet 3.7 在 225 个文件夹里写了 413 个文件,只拿到 1 枚徽章;Fable 5 只在两个文件夹里写了 9 个文件,外加一个 global.md,拿到 4 枚徽章。知乎

差别不在记性,而在判断什么值得记。屏幕上每回合都能读到的金钱、位置,存下来是冗余;真正该留下的是策略、路线和验证过的规则。Anthropic 还试过给模型定死“只记失败”的规矩,结果 Opus 5 和 Opus 4.7 反而丢掉了记忆带来的大部分提升。Anthropic

“做梦”也不是万能。Anthropic 在一个约 35 万份文件、4.2 亿 token 的内部语料上,让 Opus 5 用 128 次会话构建 wiki,25 道题的评分标准满足率从 13% 升到 48%。 但同一篇文章也记录了失败:在一项法律简报任务里,wiki 长得比原始文件还大,几乎什么也没有抽象出来。Anthropic知乎

所以,回到那个问题:这和“AI 自主进化”是一回事吗?如果把自主进化理解为递归自我改进,答案是否定的。递归自我改进指的是:AI 改进自身,而且改进后的系统能更好地改进自身。 “做梦”改的是模型外部的一组文件:会话记录、笔记、wiki、注入上下文。模型权重没有动,也没有多出新的通用能力。把记忆文件夹删掉,它在这个任务里就会退回原来的水平——实验里那局没有记忆的运行,始终没能翻过月见山。知乎Anthropic

更关键的是,它没有闭合“改进改进者”的环。做梦的仍然是同一个模型,产出是一份更好的笔记;笔记不会让下一次做梦更会做梦。它能让智能体在一个具体任务里越做越顺,但不会让模型的通用能力自己长上去。

这也解释了为什么同一周的另一条新闻更容易被误认成“自主进化”。METR 的调查称,截至今年 10 月,Anthropic 在明确任务上的能力提升速度约为此前的两倍;其中约 80% 的加速,来自 AI 自身的研发辅助。 那讲的是 AI 参与造更强的 AI;“做梦”讲的是 AI 整理自己的笔记。两件事都真实,但不在一个层级。36氪

这不是说“做梦”不重要。它把适应从训练阶段挪到了使用阶段:不用重新训练,智能体就能把一次任务里的经验留给下一次。它更像一个会复盘、会改笔记的同事,而不是一个自己重写大脑的天才。真正决定它能走多远的,是它拿什么来校验笔记。月见山那个例子之所以能修好,是因为会话记录提供了一个可对照的“地面真值”;到了没有标准答案的开放任务,笔记错了,可能只是错得更整齐。 所以,Claude 学会的不是“进化”,是整理笔记。这个说法听起来没那么性感,但它更接近正在发生的事:AI 开始拥有一个可以翻阅、可以修改、也可能被带偏的过去。真正值得盯的,不是它会不会做梦,而是它醒来后信了哪本笔记。知乎

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章