双智能体如何系统性纠偏RAG的“跑偏”困局

源自66位全网作者

01-28 12:30

内容由AI生成

精选参考来源

1. 2025 AI Agent 发展现状与六大趋势

2. 从第一性原理出发的RAG推理新范式来了,蚂蚁DIVER登顶权威基准

3. 请教一下各位关于RAG(检索增强生成)的几个问题?

4. 打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner

5. 构建可靠AI Agent:从提示词、工作流到知识库的实战指南

6. RAG(检索增强生成)会不会消亡呢?

7. 《扣子开发 AI Agent 智能体应用》001-智能体概述

8. 在大模型应用中,如何提升RAG(检索增强生成)的能力?

9. 在构建RAG Agent时,哪些场景应该用确定性逻辑判断取代LLM的概率推理,具体怎么实现?

10. RAG、LangChain、Agent 到底有什么关系?

11. 《A Comprehensive Survey on Reinforcement Learning-based Agentic Search: Foundations, Roles, Optimizations, Evaluations, and Applications》强化学习驱动的智能搜索:全面综述大型语言模型(LLM)已彻底改变信息获取与推理方式,通过自然语言交互实现开放式对话。然而,LLM仍受限于静态知识、事实幻觉及实时/领域特定信息检索的不足。检索增强生成(RAG)通过外部证据 grounding 输出缓解这些问题,但传统RAG往往为单轮启发式流程,缺乏对检索与推理的自适应控制。近年来,智能搜索(Agentic Search)兴起,让LLM作为自主代理,通过多步规划、检索与反思与搜索环境互动。强化学习(RL)在此范式中脱颖而出,提供适应性与自改进的搜索行为。本综述首次系统概述RL-based Agentic Search,按三维展开:(i)RL的功能角色(What RL is for);(ii)RL的使用策略(How RL is used);(iii)RL的应用范围(Where RL is applied)。我们总结代表方法、评估协议与应用,并探讨挑战与未来方向,旨在激发RL与智能搜索的深度融合。#1. 基础:从传统IR到RL-based Agentic Search传统信息检索(IR)依赖TF-IDF、BM25与PageRank等统计模型,返回匹配文档列表,但难以捕捉复杂意图或多步推理。RAG整合LLM推理与IR精度,通过检索证据提升事实性,但多为单轮、被动消费证据,易受噪声干扰。Agentic Search将LLM定位为决策代理,动态规划、检索、推理与反思,支持多跳任务。早期依赖手工提示或监督微调(SFT),适应性有限。RL-based Agentic Search则将LLM训练为与搜索环境互动的代理,接收反馈、迭代优化策略,实现自主学习。这强调三核心:自主性(代理主导行动)、学习性(通过强化而非手动设计)和互动性(多轮环境交换)。形式上,它建模为马尔可夫决策过程(MDP):状态包括查询、推理轨迹与证据;行动如查询生成或工具调用;奖励捕捉任务成功、过程质量与成本。相比预RL方法,RL克服适应性差与监督瓶颈,直接优化长期奖励,推动从模仿到结果驱动的学习。#2. RL的功能角色:指导检索、推理与决策RL在智能搜索中扮演多重角色,超越基本检索,优化从何时搜索到如何协作的连续流程。关键维度包括:- 检索控制:决定何时/何时检索、强度与效率。适应性决策(如Search-R1教导LLM仅在内部知识不足时调用搜索引擎);强度(如Pangu DeepDiver奖励模糊查询的深度搜索);效率(如IKEA惩罚冗余调用,ZeroSearch模拟检索降低API成本)。这平衡成本与证据完整性,但当前奖励多限于正确性,需扩展鲁棒性。- 查询优化:提升查询质量。对话重构(如ConvSearch-R1用排名奖励优化多轮查询);检索器感知优化(如DeepRetrieval适应黑箱搜索引擎偏置)。这桥接LLM语义与检索器行为,但泛化至动态环境仍具挑战。- 推理-检索整合:紧密耦合二者。交错优化(如R-Search奖励信息证据生成);上下文/记忆管理(如ReSumRL指导总结历史,防溢出)。这增强长程推理,但记忆机制多为启发式,长期连续性不足。- 多代理协作:分解任务为专业模块。规划-执行架构(如MAO-ARAGPPO协调查询重写与生成);合作系统(如SIRAG共享奖励对齐决策)。这提升复杂管道一致性,但需解决信用分配。- 工具与知识整合:扩展异构资源。多工具/模态推理(如Tool-Star协调代码解释器与搜索);结构知识导航(如GRAILRL遍历知识图)。这拓宽任务边界,但跨模态连贯性与异步反馈是痛点。这些角色揭示RL作为统一机制, grounding 搜索行为于实际优化,未来需深化多模态与记忆整合。#3. RL的使用策略:训练与奖励设计RL应用聚焦训练流程与奖励机制,确保代理高效学习。- 训练范式:标准管道包括冷启动(SFT初始化,如WebSailor稳定多步工具使用)与RL微调。模拟环境(如ZeroSearchLLM模拟检索,避实API成本)加速迭代;课程学习(如AgentGym-RL渐增地平线)缓解稀疏奖励;迭代框架(如EvolveSearchRL生成SFT数据,自强化循环)提升数据效率。算法多用PPO/GRPO,变体如StepSearch步级PPO对齐信息增益。- 奖励设计:从单一结果奖励(如Search-R1的EM正确性)转向多面:结果级整合效率(如IKEA知识边界整形);过程级提供稠密反馈(如ReasonRAG最短路径估计,平衡简洁与质量)。LLM采样奖励(如VERITAS提升忠实性)处理稀疏,但需防奖励黑客与目标平衡。这些策略从静态模仿转向动态优化,但长程信用分配与多目标权衡仍是挑战,自进化循环前景广阔。#4. RL的应用范围:从代理到系统级优化RL干预层级多样化,覆盖微观行为到宏观架构。- 代理级:端到端优化单/多代理。单代理(如Search-R1统一检索-推理);多代理协调(如OPERA分层GRPO分配角色)。这奠基搜索智能,但需权衡自治与协作。- 模块/步级:局部精炼,如s3轻量搜索模块(冻结LLM);StepSearch步级奖励信息增益。高效但信用分配难连通局部-全局。- 系统级:统一框架,如AgentGym-RL模块基准支持多环境;RAG-Gym比较奖励设计。这推动从原型到生态部署,未来需分层RL整合多尺度反馈。#5. 评估、应用与挑战数据集与指标:知识密集QA(如HotpotQA测试多跳);Web搜索(如GAIA多步互动);多模态(如MFC-Bench事实检查);领域特定(如MedQA)。指标覆盖答案质量(EM/F1)、检索效果(Recall/NDCG)、效率(查询数/延迟)与过程(如证据利用率)。应用:深度研究(如DeepResearcher自动化文献综述);多模态(如VRAG-RL视觉RAG);代码代理(如Tool-Star调试协调);AI助手(如ConvSearch-R1对话搜索);领域特定(如HierSearch企业知识)。这些展示RL的实用价值,强调领域适应与效率。挑战与未来:多模态一致性、长程记忆(如分层系统建模衰减)、可信搜索(对抗鲁棒/隐私保护)、跨域泛化(元学习通用策略)、人-AI共搜(自适应互动/可解释性)。这些方向将RL-based Agentic Search推向可靠、可扩展的智能系统。此综述揭示RL如何重塑搜索范式,助力LLM从被动工具向主动代理演进。更多资源见仓库:github.com/ventr1c/Awesome-RL-based-Agentic-Search-Papers原论文链接:arxiv.org/abs/2510.16724

12. Leonie Monigatti深入剖析了AI代理中的记忆演进,从最初的RAG(检索增强生成)到Agentic RAG,再到具备读写能力的Agent Memory,厘清了这一系列技术的核心逻辑与突破。RAG诞生于2020年,其核心是将离线存储的外部知识检索进LLM上下文,解决模型记忆有限带来的问题。但其“单次检索”与“只读”限制导致复杂场景下仍有误导风险。Agentic RAG引入了“工具调用”机制,允许智能体主动判断是否需要检索、选择检索工具,并评估检索结果相关性,显著提升了灵活性和准确性,但仍无法动态学习和更新信息。Agent Memory则迈出关键一步:支持智能体不仅读取,还能写入和管理外部记忆,实现基于历史交互的持续学习和个性化体验。它将记忆从“静态”转变为“动态”,但也带来了记忆管理和遗忘机制的新挑战。这三者共同体现了信息“存储-检索-编辑-删除”的完整闭环,也反映了AI系统从单点知识调用向复杂记忆体系演进的趋势。未来,如何设计高效的多源、多类型记忆管理策略,将是提升AI智能和人机交互体验的关键。详细内容及代码示例请见原文:leoniemonigatti.com/blog/from-rag-to-agent-memory.html

13. 关于 NotebookLM 植入 Gemini 这件事,我详细写了一篇自己的使用体验:网页链接NotebookLM 里的笔记本可以作为 Gemini 的外挂 RAG,Gemini 的答案会更加精准,幻觉会收敛,输出更加聚焦和有价值。而对于 NotebookLM 来说,Gemini 帮它搞定了多笔记本互通的事情,另外,NotebookLM 干不了的事儿,Gemini 可以代劳,比如 Deep Research,出图,做视频,写程序等等。这就有点像 Agentic RAG,当然,因为 Gemini 是面向所有互联网数据的,泛化的更厉害一些。目前墨问时间的知识库,还是经典 RAG,要升级成 Agentic RAG,本质是让模型从“只在生成参与”扩展到“全链路参与”,把检索变成一个可决策、可路由、可自我评估的系统,并引入可持久记忆与多源工具。这样不仅提升准确性与覆盖率,也能在复杂查询下保持稳健。还有很长的路要走……

14. 云厂商「进击」 Agent 开发平台

15. 盘点一周AI大事(11月2日)|OpenAI放出AGI时间表 OpenAI公布AGI路线图,202626年上岗AI研究员,能独立研究大型科研项目,2028年发布重大科研成果达成AGI,10年内冲刺超级智能 OpenAI正式重组为营利实体,估值1万亿 MiniMax推出最强开源大模型M2 字节发布最强通用游戏智能体Game-TARS Anthropic推出Excel分析师 Gemini上线一键做PPT Odyssey发布能实时交互的视频模型Odyssey-2 Adobe推出一键P视频Frame Forward 科学家研发出热力学采样芯片架构TSU,能效提升1万倍 奥特曼押注非侵入脑机接口,用超声波直接读取意念 马斯克的脑机接口Neuralink即将开启人脑增强实验 #AI新星计划 #人工智能 #AIGC #OpenAI #机器人

16. 为什么鸿蒙座舱5可以把交代的事办得干净利落?看完MoLA智能化架构后我懂了

17. 27岁清华学霸姚顺雨掌舵腾讯AI 27岁清华学霸姚顺雨掌舵腾讯AI,一个98年出生的年轻人,从清华姚班到 OpenAl,再到腾讯首席AI科学家,顶级人才回流,AI竞赛正式进入agent时代!#AI #腾讯 #agent

18. 未来的人和智能体应该是相互融合协作的关系。 #大咖观察 #红衣聊AI #智能体 #人机协作

19. 2026年AI全景预测:迈向百亿智能体时代的20个发展趋势。 #大咖观察 #人工智能 #红衣聊AI #智能体 #AI时代

20. 开发Agent只懂拖拉拽?你真的能跟上生产级开发的节奏了吗?

21. 从夯到拉,盘点双11热门智能马桶

22. 99%的人都搞错了AI Agent?智能体该如何帮企业赚钱?

23. 2025过去了!这一年你是不是也在为AI焦虑? 老周用360一整年的实践,告诉你答案:不用怕,抓住Agent就赢了! 从我自己敲代码做100多个智能体,到带领团队All in,这条AI布道之路,全是实战干货。 2026,你想和智能体一起搞定啥?评论区留言,老周帮你研究!#大咖观察#2026 #年度总结 #红衣聊AI #agent

24. 未来人类社会或将出现百亿甚至千亿智能体,智能体经济是未来方向 #大咖观察 #2026AI看崇礼 #红衣聊AI #智能体

25. Agent Infra到底是什么?【AI基建】

26. 「Github一周热点88期」开源机器人、OCR工具库、开源UI元素平台、深度研究Agent模型、免费的音乐程序、高速处理JSON库

27. 「Github一周热点95期」META 3D 模型、智能体记忆引擎、向量数据库、 Web 3D 引擎、AirPods 跨平台、数据库管理工具

28. 想要张艺谋式色彩、诺兰式调度?如何靠智能体实现? #大咖观察 #红衣客厅 #红衣聊AI #智能体

29. 「Github一周热点100期」爆火的AI编程工具却被Claude封禁?

30. 做了个RAG评估小框架开源做RAG时发现,麻烦的往往是数据处理到评估的那条流水线。所以顺手写了个工具,用中文数据集做基准,内置标准流程,方便快速试不同的检索和生成方案平时主要用它两件事,一是快速验证新想法,不用重复写脚本,二是在同一套指标下对比不同策略,看问题出在哪#rag#

31. 盘点一周AI大事(10月12日)|GPT进化AI操作系统 OpenAI发布ChatGPT应用平台 OpenAI推出智能体编排工具AgentKit Sora 2正式开放API,可以生成15秒无水印的高清视频 OpenAI与AMD牵手成功 Google发布最强行动智能体模型Gemini 2.5 Computer Use Google即将发布Veo 3.1,正面硬刚Sora 2 科学家研发出首个自适应AI教师 Hinton称AI已经有了意识,只是它自己不知道 #AI新星计划 #人工智能 #AIGC #OpenAI #机器人

32. 「Github一周热点93期」 多智能体舆情分析、桌面 AI 助手、自然语言画图、Rust桌面组件库、Linux服务器安全和GitHub绿墙

33. 「Github一周热点97期」开源AI手机、AI画架构图、AI编程的指导、看板工具、GO语言的游戏引擎和具身智能资料库

34. 「Github一周热点96期」Flux2绘图模型、腾讯的视频生成模型、AI记忆、开源Launchpad、笔记和知识库,Nginx可视化工具

35. 「Github一周热点90期」规格驱动开发、AI记忆引擎、AI agent的docker、开源流媒体平台、开源电商平台和密钥管理平台

36. 「Github一周热点98期」AI文档检索框架、微软最新TTS、Claude Code 记忆插件、自动化备份、 jellyfin和linux桌面环境

37. 对话云栖大会:下一个AI爆款、大模型进化与Agent万亿级企业市场

38. 盘点一周AI大事(9月28日)|ChatGPT上线私人秘书 OpenAI与英伟达签手成功,英伟达投资OpenAI 1000亿打造算力中心 微软与Anthropic感情升温,Copilot也接入了Claude ChatGPT上线私人秘书Agent ChatGPT Palse OpenAI 发布职业力基准测试GDPval 阿里推出千问全家桶,Qwen 3 Max数学竞赛拿满分,多模态Qwen 3 omni全面对标Gemini,最强视觉Qwen VL打败闭源 DeepSeek更新V3.1最终版 Meta开源代码世界模型 Google开发出生成式操作系统原型 #AI新星计划 #人工智能 #AIGC #OpenAI #机器人

39. 「Github一周热点99期」提升ClaudeCode效率10倍的工具?

40. 深度干货-10双最佳体考跑鞋选购指南#跑鞋 #新鞋到了 #鞋狗的日常 #体考跑鞋

41. 蓝色起源成为全球第二个实现火箭回收的公司 追上SpaceX,成功的秘诀居然是这个#亚马逊云科技 #生成式AI #出海 #reInvent2025 #AI

42. 探访云栖(二):AI Agent元年,谁在打造“数字员工”?【101 Weekly】

43. 如果你现在还没用Agent帮自己干活,那其实很危险

44. n8n重磅更新:多智能体编排,AI Agent团队化协作、智能分解复杂任务!

45. RAG优化策略

46. LLM,RAG和Agent不是割裂的,而是一个整体。如果把 AI 系统比作一个生命体,那么 LLM = 大脑,RAG = 记忆,Agent = 执行系统。LLM 像是大脑的皮层,擅长理解、联想和表达。它能在复杂的语言世界中“即兴发挥”,像人类一样推理、总结、编故事。也会在需要时做出“认知上的决策”——比如分析问题的思路、选择回答的方向。然而,大脑并不擅长记住具体事实。它能推断“苹果会掉下来”,却未必记得“牛顿是什么时候发现的万有引力”。这时,就需要「RAG」登场。RAG 相当于一个“外接记忆系统”。当大脑想不起细节时,它能立刻翻查资料库,把相关的事实、文档、图像调出来,再交还给大脑整合成一段有根据的回答。于是,大脑不再是“瞎编”,而是“有据可依”。从技术上讲,这就像给模型装上一个搜索引擎——但比搜索更聪明,因为它能理解上下文、筛选关键信息、甚至融合多个来源的内容。Agent 则像是神经系统中的“执行层”。大脑想出了计划,记忆提供了依据,而真正“去行动”的,是 Agent。它决定什么时候要产生计划,要不要调用工具、查阅资料、生成报告,甚至与外部世界互动。可以说,LLM 负责“想”,RAG 负责“记”,Agent 负责“做”。当这三者协同工作时,AI 便不再是一个“聊天机器人”,而是一个有意识、有记忆、有行动能力的“数字生命”。#ai创造营##科技#

47. Agent 2.0时代来了,首批「工业级智能体」正在核心位置上岗

48. AI大模型应用架构图案例合集

49. 谷歌大神出手,免费发布《智能体设计模式》,AI Agent开发的终极秘籍

50. 从一个公众号智能体说起:好用的Agent,究竟需要什么?

51. 《扣子开发 AI Agent 智能体应用》013-基于大模型的企业知识库(企业知识库必要性)

52. 《扣子开发 AI Agent 智能体应用》016-基于大模型的企业知识库(知识库实战:打造汽车行业智能客服)

53. AI智能体系列 | 05

54. Agentic RAG到底值不值?四大维度实测给你答案!

55. OPPO Mobile-Agent-RAG

56. 传统RAG已到尽头

57. 一文详解智能体式RAG(Agentic RAG)!AI智能体如何赋能大模型检索增强生成?

58. RAG进化论

59. 一文读懂传统RAG、多模态RAG、Agentic RAG与GraphRAG

60. 传统RAG(检索增强生成)与HyDE、Graph RAG 和 Agentic RAG

61. RAG 架构演进全图:从基础检索到多 Agent 协同系统

62. 理解与创新:RAG、Graph RAG以及Agentic RAG在AI中的应用

63. Agentic RAG基础入门

64. Ai智能体Agent&RAG应用能力概述

65. 【专题小结】Agentic RAG及其架构模式

66. RAG 在 Qwen-Agent Memory 中的实现详解

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章