当前大模型难以在使用中积累经验,能力固定不变。一项名为 Evo-Memory 的新框架,让 AI 能在不改变模型参数的情况下,通过优化记忆实现“测试时进化”,解题步骤直接减半。这为构建真正能持续成长的智能体开辟了新路径。
智能速览
大模型智能体普遍缺乏从使用经验中持续学习的能力。
Evo-Memory 框架让 AI 在不重新训练的情况下实现“测试时进化”。
在虚拟任务中,AI 通过记忆进化将解题步骤从 22.6 步降至 11.5 步。
ExpRAG 方法像一个“错题本”,帮助 AI 检索并聚合过往经验。
ReMem 方法赋予 AI “三核处理器”,协同完成思考、行动和记忆整理。
精华内容
传统 AI 模型如同一次性工具,而 Evo-Memory 框架的出现,旨在让 AI 像人脑一样,在使用中不断积累经验、优化策略,实现真正的自我进化。
智能体的困境
过去两年,大模型能力提升迅速,但它们在实际部署后几乎不会从经验中学习。大多数评测默认它们是一次性系统,而在现实世界中,智能体需要长期运行,不断面对新情况、犯错、修正,这才符合真实世界的逻辑。因此,关注其能否持续进化、从经验中学习,成为了关键研究方向。
测试时进化
该研究的核心贡献是系统性地定义、设计并评估了大模型智能体的测试时学习能力。这意味着在不改变模型训练参数的前提下,智能体可以通过自我演化,实现跨任务、跨时间的持续改进。AI 在每次被使用和解决问题时,都在实时地进行自我学习和进化,变得更会搜索、更会思考、更会自我优化。
经验检索聚合
为实现这一目标,研究中提出了 ExpRAG 方法,它就像一个 AI 的“错题本”。每当 AI 遇到新题目,它会立刻在错题本里搜索是否有类似的旧题目和旧答案,然后结合新旧信息给出新答案,最后将这次的新经历记录到错题本中,形成一个不断丰富的经验库。
三核协同记忆
另一种关键方法是 ReMem,它为 AI 装上了“三核处理器”。包括负责分析问题和制定计划的“思考核”、负责执行具体操作的“行动核”,以及专门负责管理经验宝箱的“记忆整理核”。这个全新的记忆整理核会实时判断哪些记忆有用、哪些应合并或删除,让记忆库始终保持在最佳状态。
成效与挑战
测试结果令人鼓舞,在某个虚拟任务中,AI 的解题步骤从平均 22.6 步减少到 11.5 步,学会了更优路径。即使任务难度突变或记忆中混入失败经验,AI 也能保持稳定表现。但挑战依旧存在,如记忆模块设计不当可能导致错误积累,且当前方法在不同数据集上的稳定性仍有提升空间。
Evo-Memory 框架为构建能够持续成长的 AI 智能体提供了全新的评测标准与方法论,是迈向更通用人工智能的重要一步。未来的研究将如何深入挖掘记忆进化的本质,并解决跨任务稳定性问题,值得期待。