针对RAG系统检索不准的核心痛点，提出混合检索解决方案。通过融合向量检索与关键词检索的双路召回，结合RRF倒排秩融合算法和Cross-Encoder重排序模型，构建工业级搜索引擎，实现准确率从60%到95%的跨越式提升。
智能速览
向量检索擅长语义理解，关键词检索精于精确匹配，两者互补
双路召回解决搜不到问题，Rerank精排根治搜不准痛点
RRF算法完美融合不同量纲分数，无需调参即可平衡优势
Cross-Encoder精度极高但计算成本大，适合L2精排阶段
混合数据库是行业趋势，可简化架构并解决索引一致性问题
两阶段重排序在保证精度的同时将延迟控制在200毫秒内
精华内容
搜索的本质是一个由粗到细、由多到少的筛选过程，就像先在房间里大致排查，再仔细翻找。这个漏斗理论指导我们构建高效的混合检索流水线。
漏斗理论原理
搜索过程分为L1检索和L2重排序两个阶段。L1检索的核心目标是快，需要从海量文档中迅速捞出相关候选，采用宁可错杀不可放过的策略。通常使用向量检索和关键词检索并行执行，前者用ANN算法捕捉语义关联，后者用BM25算法匹配关键词。这个阶段成本仅需毫秒级，为后续筛选打下基础。
L2重排序的核心目标是准，需要对候选文档进行精读打分，筛选出Top5-10的最相关文档。通常采用Cross-Encoder重排序模型如BGE-Reranker，精度极高但计算成本大，只能处理L1召回的有限候选。这种低成本粗筛与高成本精筛的组合，完美平衡了速度与精度。
双路召回实现
HybridRetriever类实现了双路召回的核心逻辑。首先通过CompletableFuture并行执行向量检索和关键词检索，每路召回topK*5个候选文档，给Reranker留足筛选空间。比如需要返回Top5时，每路召回25个候选。
向量检索能弥补关键词检索不懂语义的短板，当用户问A100芯片销量时，即使文档没有明确出现这些词，向量检索也能召回语义相关的文档。关键词检索则能弥补向量检索细节模糊的短板，通过2025年Q1等关键词精准匹配目标文档。在实际部署中还需关注连接池配置、异常处理和结果去重等细节，确保系统稳定性。
RRF融合算法
向量检索返回0-1的距离值，关键词检索返回大于0的BM25值，两者量纲不同无法直接融合。RRF倒排秩融合算法通过文档排名计算融合分数，完美解决这一问题。
公式为Score(d)=∑1/(k+rank(d,r))，其中k通常取60。算法不关注具体分数，只关注排名，排名越靠前贡献分数越高。比如某文档在向量检索排名第1、关键词检索排名第100，其融合分数会高于在两路都排名第50的文档。RRF无需调参，自动平衡两种检索优势，计算量小且效果显著，召回率通常比单一检索提升20%以上。
重排序模型选择
Bi-Encoder和Cross-Encoder是两种不同的编码方式。Bi-Encoder分别对Query和Doc编码，计算向量相似度，速度快但精度有限，适合L1检索。Cross-Encoder将Query和Doc拼接后整体输入模型，通过Attention机制捕获细粒度交互信息，精度极高但速度慢，适合L2重排序。
部署方式有两种：本地部署用ONNX Runtime加载模型，隐私性好响应快；调用第三方API如Cohere，开发成本低但存在网络延迟和数据隐私风险。建议数据敏感或查询量大的场景选择本地部署，小型项目可考虑API方案。
架构权衡策略
延迟是核心指标，通常要求响应不超过1秒。重排序是最耗时的环节，可采用两阶段重排序：先用轻量级模型如ColBERT从1000个候选中筛选50个，再用Cross-Encoder精排Top5-10，总延迟控制在200毫秒内。也可设定时间预算，在固定时间内计算尽可能多的候选。
索引一致性是另一挑战。同时维护向量库和Elasticsearch容易导致数据不同步。建议优先选择支持混合检索的数据库如Milvus 2.4+，内置BM25功能，从根本上解决一致性问题。如必须双库部署，可采用CDC技术实时同步数据。
混合检索让RAG系统准确率突破95%，但搜索的终局是具备自省能力。下一章将探讨自省式检索，引入评判模型判断是否需要检索、结果是否准确，让系统从被动检索走向主动检索，打造真正可信赖的Agent。
