张大妈

LLM无限上下文了,RAG(Retrieval Augmented Generation)还有意义吗?

源自知乎:sunnyzhao

01-19 14:30

大模型进入无限上下文时代,但RAG技术并未过时。其价值正从静态信息补充转向动态知识获取工具。内容深入剖析了传统RAG的瓶颈,并展望了以Agentic RAG为核心的三大新方向,为理解AI技术演进提供了清晰路线图。

LLM无限上下文了,RAG(Retrieval Augmented Generation)还有意义吗?智能速览

  • 无限上下文是理想化假设,现实工程中仍存在诸多挑战。

  • 传统模块化RAG技术已成熟,继续优化的边际效益递减。

  • RAG研究前沿转向Agentic、Graph和多模态三个新方向。

  • Agentic RAG将检索能力“工具化”,实现了动态按需推理。

  • GraphRAG通过显式关系,支持更复杂的多跳推理任务。

  • 多模态RAG扩展了知识边界,能处理图文等非结构化证据。

LLM无限上下文了,RAG(Retrieval Augmented Generation)还有意义吗?精华内容

RAG并未因无限上下文的出现而消亡,反而其定位和作用正发生深刻变革。它正从一个固定流程的技术方案,演变为智能体中动态调用的能力工具。

传统RAG的瓶颈

尽管“无限上下文”概念火热,但它目前仍是理想假设,在实际工程中面临着“lost in the middle”(信息迷失在中间)和“context rot”(上下文腐烂)等问题。

与此同时,传统的模块化RAG技术,即包含改写、检索、重排和生成等环节的固定流程,其工程化方案已高度成熟。在路由、检索、重排等环节的优化,可扩展性和智能增长的边际效益正在加速递减,继续投入的产出比降低。

核心:Agentic RAG

当前发展最快、势头最猛的是Agentic RAG,这与基座模型推理能力、Agent技术及强化学习(RL)训练的提升密切相关。

其核心区别在于动态性。它不再是遵循既定流程,而是将RAG能力“工具化”,让模型自主判断何时需要检索、检索的信息是否准确充分,以及是否与自身参数化知识冲突。以DeepResearch为代表的Agent,结合RL训练模型进行端到端的多轮搜索与推理迭代,标志着RAG从技术组件向内化于模型能力的转变。

两大补充方向

GraphRAG和多模态RAG则作为Agentic动态知识链路的有力补充。

GraphRAG将实体间的“关系”显式化,能够有效支持多跳推理和全局结构概括,适合处理复杂的逻辑关系问题。而多模态RAG则扩展了知识表达的边界,使Agent能够处理网页图表、PDF图片、表格等非文本信息,将它们作为证据源纳入推理过程,更贴近真实世界的应用场景。

RAG的价值在于其知识管理的组织能力,而非单纯的信息检索。随着模型能力增强,它正深度融入智能体架构,成为动态知识链路的关键。未来,RL驱动的自主性将如何进一步释放其潜力?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章