张大妈

Agent Memory别再硬套RAG范式 @KCLNLP

源自小红薯:KCL NLP Group

03-04 16:24

当前Agent Memory框架直接套用RAG,易致冗余检索和精度下降。一种解耦记忆为语义组件并自上而下检索的新范式,能显著提升答案准确性并节省Token消耗。

Agent Memory别再硬套RAG范式 @KCLNLP智能速览

  • 传统RAG用于Agent Memory会因检索冗余证据链而失效。

  • 核心问题在于相似度top-k机制在高度相关对话中容易塌缩。

  • 新范式将记忆从“块索引”解耦为“语义组件索引”。

  • 自上而下逐级取证,优先高层骨架再按需补充细节。

  • 该方法在多个基准测试中实现了更高精度和更低Token消耗。

Agent Memory别再硬套RAG范式 @KCLNLP精华内容

为何RAG范式在Agent Memory上水土不服?关键在于检索逻辑的错配,而非模型本身。

范式错位

许多Agent Memory框架沿用标准RAG流程:分块、向量化、相似度top-k检索。但RAG为异构文档设计,而Agent Memory是连贯对话,候选内容高度相关且存在大量近重复。这导致固定top-k检索易塌缩到同一密集相似区,取回大量冗余信息,而非真正需要的答案证据。

冗余之困

为解决冗余,常引入剪枝或压缩等后处理,但这会带来新风险。对话证据链常包含指代、省略和时间依赖,是跨轮次的完整链条。后处理剪枝极易误删前置条件,导致证据链断裂,模型最终给出错误答案。矛盾并非“找不到相关”,而是“检索到冗余”和“剪枝可能出错”。

解耦聚合

解决思路是从源头改变检索目标,从原始片段匹配升级到组件级证据选择。核心范式是先“解耦”后“聚合”。将记忆从传统的“块索引”重构为“语义组件索引”,每个组件包含语义点和完整证据链。然后用高层结构反向驱动检索,从结构层面规避冗余。

效果验证

该方案在LoCoMo和PerLTQA等基准数据集上,使用多种开源和闭源LLM进行了验证。结果显示,新方法不仅让模型回答更稳定、准确,还显著节省了Token消耗。关键在于,它并非“检索完再剪”,而是从根本上改变了索引与检索的方式,从源头避免了问题。

该研究为Agent Memory的构建提供了全新视角,跳出RAG框架的束缚。未来,这种结构化记忆管理或将成为提升智能体长期交互能力的关键方向。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章