张大妈

我们的Memory框架竟然被Claude关注啦!

源自小红薯:缘起龙腾

02-28 12:43

在Agent Memory领域,传统RAG方法的top-k检索范式面临根本性挑战。KCL NLP Group提出的xMemory框架通过解耦语义组件和自上而下检索,解决了Agent记忆中的重复证据链和误剪问题,实现了更准确的回答和更高效的token使用。

我们的Memory框架竟然被Claude关注啦!智能速览

  • Agent Memory不应照搬RAG的top-k范式,会取回重复证据链

  • 将chunk索引解耦为语义组件索引,避免信息冗余

  • 采用自上而下逐级取证,只在必要时扩展细节

  • 新方法在LoCoMo/PerLTQA等数据集上表现更优

  • 关键在于源头改变索引与检索范式,而非事后剪枝

我们的Memory框架竟然被Claude关注啦!精华内容

传统RAG方法在Agent Memory中暴露出天然缺陷,面对连贯对话流时,相似度检索容易陷入重复信息的陷阱。xMemory框架从底层重构了记忆索引和检索机制,为Agent记忆管理提供了全新思路。

问题根源

传统RAG框架采用chunks→向量化→top-k→拼上下文→LLM回答的流程,这种设计在异质文档库中主要风险是检索到不相关内容。但在Agent Memory场景下,面对的是连贯对话流,候选内容普遍都相关,问题转变为:近重复内容太多,top-k检索容易塌缩在同一团相似区;后处理如pruning/压缩容易剪断跨轮次证据链,导致指代、省略、时间依赖关系断裂而错误。

核心创新

xMemory框架的创新主要体现在两个方面:首先是改变索引方式,从传统的chunk索引转变为语义组件索引。通过将对话记忆拆解为语义组件,并组织成更高层结构,构建时以稀疏度–语义一致性为目标指导拆分与合并,确保结构既不拥挤也不琐碎。其次是改变检索策略,从一次性top-k检索转变为自上而下逐级取证,先选择精简但全面的高层骨架,再只在能提升模型确定性时扩展细节。

实际效果

在LoCoMo、PerLTQA等多个数据集以及多种开源/闭源LLM上的测试显示,xMemory框架能够实现更稳定的回答表现,同时显著节省token使用。关键突破在于从源头改变索引与检索范式,而不是在检索完成后进行剪枝处理。这种方法有效减少了重复信息的获取,避免了剪枝过程对证据链的破坏。

xMemory框架为Agent Memory领域带来了范式级突破,通过解耦语义组件和分层检索,解决了传统RAG方法在对话记忆管理中的根本问题。随着Agent技术的快速发展,这种更高效的记忆管理方法能否成为行业标准?

我们的Memory框架竟然被Claude关注啦!关键评论

  • 论文思路清晰:agent memory不该照搬RAG的top-k范式,语义组件解耦+自上而下检索确实比相似度召回优雅得多

  • 和去年工作里做的事情很像,没想到的是episodic memory,写得很好,好奇LZ有没有考虑类似GraphRAG的思路?

  • 逐级取证时难道不是每一级都要用到llm吗?这样不是很慢

  • 这个研究给人一种很神奇的感觉,就是研究本身和大模型没关系,纯粹就是如何提取相关信息。没有大模型的时候没有场景,没人关注,一有了大模型就有了这类研究

  • 浅浅看介绍感觉跟字节刚开源的OpenViking有点像?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章