传统检索增强生成（RAG）系统因固定top-k检索策略，常引入干扰信息或忽略关键内容，导致生成质量不稳。一项新研究提出了动态上下文选择机制，通过智能调整上下文数量和优化文档位置，有效解决了多跳问答中的信息干扰与位置偏向问题，显著提升了生成准确性。
智能速览
传统RAG的固定top-k检索存在干扰文档和位置偏向问题。
动态上下文选择机制旨在解决不同查询需要不同上下文量的难题。
该方法包含两阶段：预测最优文档数量和用LLM重排序。
实验表明，单独调整文档数量效果有限，结合重排序才能显著提升效果。
研究验证了LLM存在位置偏向，将关键文档置于末端效果最佳。
精华内容
传统RAG的固定检索模式常陷入两难境地，新研究提出的动态选择机制，试图从根本上改变这一局面，其核心思路与方法值得深入探究。
传统RAG困境
在RAG系统中，普遍采用固定数量（如top-k）的检索策略来获取上下文。然而，这种方法存在明显缺陷。首先，对于简单查询，过量的上下文可能引入与问题无关的干扰文档，误导生成模型。其次，对于复杂查询，固定的k值可能导致检索不足，遗漏关键信息。此外，研究还发现“lost in the middle”现象，即模型对输入序列中间位置的文档关注度较低，导致关键信息被忽略，最终影响生成结果的准确性和可靠性。
动态选择机制
为应对上述挑战，研究者提出了一种动态上下文选择的新机制。其核心思想是：并非所有查询都需要相同数量的上下文文档。简单的查询可能只需少量高度相关的文档，而复杂的多跳查询则需要更广泛的上下文支持。因此，该机制旨在根据每个查询的具体复杂度，智能地决定最优的上下文数量，从而在保证信息完整性的同时，最大限度地减少干扰，实现召回与精度的平衡。
两阶段优化方案
为实现动态选择，研究设计了一个两阶段优化流程。第一阶段，引入一个基于RoBERTa模型的上下文大小分类器，该分类器的任务是预测针对特定查询最合适的检索文档数量k。第二阶段，利用一个大型语言模型（LLM）作为重排序器，从固定候选池中筛选出最相关的文档。通过这两步，系统不仅能确定“用多少”，还能决定“用哪些”，最后将筛选出的高质量文档与原始查询一同输入生成器。
实验关键发现
在MuSiQue和2WikiMultihopQA等数据集上的实验揭示了关键发现。结果表明，仅使用分类器动态调整k值，效果并未达到预期，甚至因检索质量不足导致召回率下降。然而，当引入LLM重排序后，生成质量获得了显著提升，EM和F1分数均有明显改善。
研究还特意验证了LLM的位置偏向效应，发现当将最相关的文档放置在输入序列的末端时，模型的表现最佳。这证实了LLM在处理长上下文时确实存在注意力偏向，而该动态机制通过优化位置布局，有效利用了这一特性，尤其适合多跳推理这类复杂场景。
