张大妈

近期Agent技术的三个总结工作:推理、规划、记忆、工具使用及效率优化

源自公众号:老刘说NLP

01-28 12:31

面对Agent技术日新月异的发展,如何系统把握其核心脉络?本文深入剖析近期三项关键技术综述,聚焦智能体在推理、记忆、工具学习与规划方面的效率优化前沿,为理解下一代AI系统提供清晰的技术图谱与实用洞见。

近期Agent技术的三个总结工作:推理、规划、记忆、工具使用及效率优化智能速览

  • Agent推理技术已得到系统性梳理,为性能评估提供框架。

  • Agent记忆技术明确区分了形式、功能与动态过程三大维度。

  • 智能体效率优化核心围绕记忆、工具学习与规划三大组件展开。

  • 高效记忆管理涉及构建、访问与多智能体共享等关键环节。

  • 工具学习通过优化选择与调用策略,显著提升智能体执行效率。

  • 高效规划策略包含单智能体的自适应调整与多智能体的协作优化。

近期Agent技术的三个总结工作:推理、规划、记忆、工具使用及效率优化精华内容

如何让智能体不仅更聪明,而且更高效?这需要深入其核心组件的优化逻辑,从记忆的构建管理到工具的精准调用,再到规划的策略演进。

高效记忆之道

智能体的高效记忆构建主要分为工作记忆和外部记忆。工作记忆通过文本压缩或潜在状态存储信息,例如COMEDY的对话蒸馏和MemoryLLM的潜在内存池。外部记忆则基于项目、图谱或分层结构,如MemoryBank利用遗忘曲线管理信息,Zep构建时序知识图谱。

记忆管理策略多样,包括低成本但缺乏适应性的规则式剪枝,自适应但耗资源的LLM式动态决策,以及两者结合的混合式管理,如MemoryOS的分层管理方案。在记忆访问方面,规则增强、图谱检索和分层检索等方法能精准提取关键信息,降低token消耗。

多智能体场景下,记忆机制支持跨智能体的共享记忆、轻量化的本地记忆以及平衡两者的混合记忆,实现了灵活的信息复用与隔离。

工具学习提速

高效的工具学习始于精准的工具选择。外部检索(如ProTIP的对比学习)、多标签分类(如TinyAgent)和词汇化检索(如ToolkenGPT将工具令牌化)等技术,能快速匹配最优工具。

在工具调用环节,原地参数填充(如Toolformer)、并行调用(如LLMCompiler的并行执行)和成本感知调用(如BTP的预算约束)等方法,有效降低了单次或多次调用的开销。此外,通过选择性调用和成本感知策略优化(如ToolRL的奖励函数设计),工具调用能无缝融入推理流程,实现端到端的效率提升。

规划策略革新

单智能体规划通过自适应预算分配,如SwiftSage的快慢思考模式,在成本和效果间取得平衡。结构化搜索(如LATS的蒙特卡洛树搜索)与任务分解(如ReWOO)则减少了推理步骤,提升了路径效率。学习进化机制通过政策优化与技能记忆存储,让智能体持续进步。

多智能体协作规划则致力于减少交互开销。通过拓扑优化(如Chain-of-Agents的稀疏线性传递)压缩通信次数,协议优化精简通信内容,以及协作蒸馏将多智能体能力整合为单模型,显著降低了整体推理成本。

对Agent效率的系统性优化,是推动其从理论走向大规模应用的关键。未来,随着技术持续迭代,更智能、更轻量的智能体架构值得期待,这将如何重塑人机协作的边界?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章