11. 《A Comprehensive Survey on Reinforcement Learning-based Agentic Search: Foundations, Roles, Optimizations, Evaluations, and Applications》强化学习驱动的智能搜索:全面综述大型语言模型(LLM)已彻底改变信息获取与推理方式,通过自然语言交互实现开放式对话。然而,LLM仍受限于静态知识、事实幻觉及实时/领域特定信息检索的不足。检索增强生成(RAG)通过外部证据 grounding 输出缓解这些问题,但传统RAG往往为单轮启发式流程,缺乏对检索与推理的自适应控制。近年来,智能搜索(Agentic Search)兴起,让LLM作为自主代理,通过多步规划、检索与反思与搜索环境互动。强化学习(RL)在此范式中脱颖而出,提供适应性与自改进的搜索行为。本综述首次系统概述RL-based Agentic Search,按三维展开:(i)RL的功能角色(What RL is for);(ii)RL的使用策略(How RL is used);(iii)RL的应用范围(Where RL is applied)。我们总结代表方法、评估协议与应用,并探讨挑战与未来方向,旨在激发RL与智能搜索的深度融合。#1. 基础:从传统IR到RL-based Agentic Search传统信息检索(IR)依赖TF-IDF、BM25与PageRank等统计模型,返回匹配文档列表,但难以捕捉复杂意图或多步推理。RAG整合LLM推理与IR精度,通过检索证据提升事实性,但多为单轮、被动消费证据,易受噪声干扰。Agentic Search将LLM定位为决策代理,动态规划、检索、推理与反思,支持多跳任务。早期依赖手工提示或监督微调(SFT),适应性有限。RL-based Agentic Search则将LLM训练为与搜索环境互动的代理,接收反馈、迭代优化策略,实现自主学习。这强调三核心:自主性(代理主导行动)、学习性(通过强化而非手动设计)和互动性(多轮环境交换)。形式上,它建模为马尔可夫决策过程(MDP):状态包括查询、推理轨迹与证据;行动如查询生成或工具调用;奖励捕捉任务成功、过程质量与成本。相比预RL方法,RL克服适应性差与监督瓶颈,直接优化长期奖励,推动从模仿到结果驱动的学习。#2. RL的功能角色:指导检索、推理与决策RL在智能搜索中扮演多重角色,超越基本检索,优化从何时搜索到如何协作的连续流程。关键维度包括:- 检索控制:决定何时/何时检索、强度与效率。适应性决策(如Search-R1教导LLM仅在内部知识不足时调用搜索引擎);强度(如Pangu DeepDiver奖励模糊查询的深度搜索);效率(如IKEA惩罚冗余调用,ZeroSearch模拟检索降低API成本)。这平衡成本与证据完整性,但当前奖励多限于正确性,需扩展鲁棒性。- 查询优化:提升查询质量。对话重构(如ConvSearch-R1用排名奖励优化多轮查询);检索器感知优化(如DeepRetrieval适应黑箱搜索引擎偏置)。这桥接LLM语义与检索器行为,但泛化至动态环境仍具挑战。- 推理-检索整合:紧密耦合二者。交错优化(如R-Search奖励信息证据生成);上下文/记忆管理(如ReSumRL指导总结历史,防溢出)。这增强长程推理,但记忆机制多为启发式,长期连续性不足。- 多代理协作:分解任务为专业模块。规划-执行架构(如MAO-ARAGPPO协调查询重写与生成);合作系统(如SIRAG共享奖励对齐决策)。这提升复杂管道一致性,但需解决信用分配。- 工具与知识整合:扩展异构资源。多工具/模态推理(如Tool-Star协调代码解释器与搜索);结构知识导航(如GRAILRL遍历知识图)。这拓宽任务边界,但跨模态连贯性与异步反馈是痛点。这些角色揭示RL作为统一机制, grounding 搜索行为于实际优化,未来需深化多模态与记忆整合。#3. RL的使用策略:训练与奖励设计RL应用聚焦训练流程与奖励机制,确保代理高效学习。- 训练范式:标准管道包括冷启动(SFT初始化,如WebSailor稳定多步工具使用)与RL微调。模拟环境(如ZeroSearchLLM模拟检索,避实API成本)加速迭代;课程学习(如AgentGym-RL渐增地平线)缓解稀疏奖励;迭代框架(如EvolveSearchRL生成SFT数据,自强化循环)提升数据效率。算法多用PPO/GRPO,变体如StepSearch步级PPO对齐信息增益。- 奖励设计:从单一结果奖励(如Search-R1的EM正确性)转向多面:结果级整合效率(如IKEA知识边界整形);过程级提供稠密反馈(如ReasonRAG最短路径估计,平衡简洁与质量)。LLM采样奖励(如VERITAS提升忠实性)处理稀疏,但需防奖励黑客与目标平衡。这些策略从静态模仿转向动态优化,但长程信用分配与多目标权衡仍是挑战,自进化循环前景广阔。#4. RL的应用范围:从代理到系统级优化RL干预层级多样化,覆盖微观行为到宏观架构。- 代理级:端到端优化单/多代理。单代理(如Search-R1统一检索-推理);多代理协调(如OPERA分层GRPO分配角色)。这奠基搜索智能,但需权衡自治与协作。- 模块/步级:局部精炼,如s3轻量搜索模块(冻结LLM);StepSearch步级奖励信息增益。高效但信用分配难连通局部-全局。- 系统级:统一框架,如AgentGym-RL模块基准支持多环境;RAG-Gym比较奖励设计。这推动从原型到生态部署,未来需分层RL整合多尺度反馈。#5. 评估、应用与挑战数据集与指标:知识密集QA(如HotpotQA测试多跳);Web搜索(如GAIA多步互动);多模态(如MFC-Bench事实检查);领域特定(如MedQA)。指标覆盖答案质量(EM/F1)、检索效果(Recall/NDCG)、效率(查询数/延迟)与过程(如证据利用率)。应用:深度研究(如DeepResearcher自动化文献综述);多模态(如VRAG-RL视觉RAG);代码代理(如Tool-Star调试协调);AI助手(如ConvSearch-R1对话搜索);领域特定(如HierSearch企业知识)。这些展示RL的实用价值,强调领域适应与效率。挑战与未来:多模态一致性、长程记忆(如分层系统建模衰减)、可信搜索(对抗鲁棒/隐私保护)、跨域泛化(元学习通用策略)、人-AI共搜(自适应互动/可解释性)。这些方向将RL-based Agentic Search推向可靠、可扩展的智能系统。此综述揭示RL如何重塑搜索范式,助力LLM从被动工具向主动代理演进。更多资源见仓库:github.com/ventr1c/Awesome-RL-based-Agentic-Search-Papers原论文链接:arxiv.org/abs/2510.16724