针对民法典RAG场景的微调实战复盘，深入探讨微调是否真的有效。结果显示微调主要解决了行为对齐和格式稳定性问题，但对事实正确性提升有限，为RAG系统优化提供了理性的技术路径。
智能速览
微调显著提升行为对齐与格式稳定，但事实准确性提升有限
核心策略是让模型适应“检索驱动回答”模式，而非背诵法条
训练数据需涵盖命中、混淆及拒答三类样本，强制统一输出结构
工程实践中采用Adafactor优化器及Mask策略降低显存占用
离线与在线评测表明，事实正确性主要由检索层决定，而非模型微调
微调应作为辅助手段，优先优化检索质量和基座模型
精华内容
深入探讨民法典RAG的微调实验，解构数据构建、工程训练与评测结果中的技术细节。
微调目标定位
RAG场景常见问题包括条号引用不稳定、无检索仍生成幻觉、输出格式漂移。微调的核心目标并非让模型背诵法条，而是使其形成“检索驱动回答”的稳定行为。
具体要求输入包含“问题+知识库片段”，输出固定为结论、依据、说明的三行结构。当无依据时，模型必须严格拒答，以此杜绝模型凭空补全的情况。
数据构建策略
数据采用JSONL格式，样本必须显式提供知识库片段。为了培养模型的检索依赖习惯，输入提供可用条号，输出仅能从中选择。
样本被精细划分为三类：命中条文占比50%至60%，混淆条文占比20%至30%，拒答样本占比15%至20%。这种混合策略旨在训练模型准确命中、过滤干扰并严格拒答，所有输出均强制统一结构，拒答时仅允许空模板。
训练工程技巧
针对单卡全参训练显存压力大的问题，采用了Adafactor优化器以降低状态占用。关键策略在于仅训练答案部分，通过mask将prompt区域的loss置为-100，避免模型过度学习输入模板。
同时结合动态padding与梯度累积技术，保障小batch下的训练稳定性。这些工程手段有效缓解了资源限制，确保了训练过程的顺利进行。
评测效果分析
离线评测对比了基座与微调模型，结果显示微调模型在格式合规与拒答严格性上表现显著稳定，而基座模型常夹带思考过程或输出冗余信息。
在条号命中率方面，微调带来的提升有限，且容易受到中文数字与阿拉伯数字写法差异的影响。这表明微调的主要价值在于行为可控性，而非提升条文事实的准确性。
真实场景结论
在RAGflow真实场景中，结论更为现实。由于检索噪声，“单条命中题”常变为“混淆题”，条文偏移或未命中主要源于召回质量、分片策略与重排能力。
事实正确性主要由检索层决定，微调难以根本解决这一问题。高质量的检索与知识库覆盖才是提升准确性的基石，模型微调只能在此基础上进行行为修饰。
微调在RAG系统中确实有价值，但其核心作用局限于行为对齐与格式保障。技术投入应优先优化检索质量和升级基座模型，将微调作为辅助手段，这样的路径投入产出比更高，更符合产品落地的实际需求。
