当RAG系统召回率低时，直接更换模型或调整参数可能治标不治本。一篇深度内容指出，关键在于建立一套系统化的排查思维。从数据源到排序，这五个环节的逐一定位，能帮助高效找到问题根源，避免在错误的优化方向上浪费时间，这才是面试官真正想考察的解决问题的能力。
智能速览
RAG系统优化前，必须先进行系统化诊断，而非直接抛出方案。
排查应从上游开始，首先确认答案是否真的存在于知识库中。
不合理的Chunking策略会切碎答案，稀释语义相关性。
用户提问与文档表述的语义鸿沟，可通过Query改写或混合检索解决。
当相关文档召回但排名靠后，使用Reranker二次排序是有效手段。
精华内容
面对RAG召回率低的复杂问题，与其盲目堆砌技巧，不如建立一套清晰的排查链路。以下将从数据源头开始，逐步拆解五个关键环节的诊断方法与优化思路。
源头与分块
排查的第一步是确认答案是否存在于知识库。很多时候，回答不准确并非检索问题，而是文档导入不完整、PDF表格解析失败或知识库未更新。通过人工在知识库中检索失败的案例，可以快速定位数据源问题。
其次，检查Chunking策略是否合理。过小的Chunk size会割裂答案的完整性，导致相关片段得分降低；过大的Chunk则会混合多个主题，稀释核心信息。例如，一段完整的退货政策被切成两半，每个片段都与用户查询的“退货政策”相关性不高，双双被排在后面。直接观察召回失败案例对应的Chunk，是诊断此问题的有效方法。
语义鸿沟
用户的提问方式与文档的书面表述常存在差异，形成语义鸿沟。例如，用户口语化地问“手机发烫怎么办”，而文档中写的是“设备温度异常的处理方案”。两者语义相同，但用词迥异，导致通用Embedding模型难以匹配。
这个问题根源在于Query侧，而非Embedding模型本身。有效的解决方案包括Query改写、Query扩展，或采用HyDE技术让LLM先生成假设性答案再检索。目前最主流的是混合检索，即结合向量检索的语义理解能力和关键词检索的精确匹配能力，二者互补，能有效跨越语义鸿沟。
模型与精排
排除了上游问题后，才需要审视Embedding模型本身。通用模型在医疗、法律等专业领域可能表现不佳。可以构建小规模评测集，通过计算Recall@K指标来量化模型性能。如果召回率持续偏低，则需考虑微调或更换为领域专用模型。
最后一种情况是，相关文档被召回但排名过于靠后，被Top-K截断。此时，引入Reranker进行二次精排是关键。初始检索放宽范围（如Top-50），再由Cross-Encoder结构的Reranker对候选集进行精准重排序，最终截取Top-5。Reranker精度高但计算量大，只适合用于小范围候选集的精排，不能用于全库检索。
RAG系统的优化是一门诊断的艺术，而非技巧的堆砌。掌握这套从数据源到排序的系统性排查链路，不仅能精准定位问题、高效优化资源，更能展现出工程师严谨的逻辑思维和解决问题的核心能力。面对复杂系统，你会如何建立自己的排查框架？
