金融行业正经历数字化转型，智能客服成为大模型技术落地的关键场景。本文以光大银行为例，深入剖析其如何通过大小模型协同，解决客服全流程中的痛点，实现效率与服务质量的双重提升，为同类金融科技实践提供了宝贵的参考路径。
智能速览
大小模型协同，构建前后台一体化的智能客服应用。
通过微调大模型，座席填单时间缩短13秒，提升响应效率。
14B微调模型效果优于未微调的32B模型，为资源受限场景提供方案。
前情提要功能帮助座席快速掌握用户历史问题，降低客户等待时间。
精华内容
大模型在金融客服的落地并非一帆风顺，其背后是对技术、数据与业务场景的深度结合与反复打磨。
通话前的准备
在客户来电前，系统利用大模型强大的文本理解能力，对历史通话记录和工单信息进行分析，自动生成客户诉求与处理结论的摘要。这帮助座席在接通电话的瞬间就掌握客户背景，做好充分准备，从而降低客户等待时间，提升服务体验。
然而，金融场景的专业术语密集，多维度信息输入对模型的实时性提出了严苛挑战。系统需在5秒内完成响应，长上下文处理带来的高延时成为亟待解决的技术难题。
通话中的提效
通话过程中，项目组推出了首个微调大模型——工单小结大模型。该模型能实时生成对话摘要，将冗长的客户沟通内容浓缩为关键要点。座席可以直接引用摘要内容进行工单填写，显著减少了手动记录和整理的时间。
实践数据显示，该模型上线后，平均将座席的填单时间缩短了13秒，有效提升了工单处理效率，并避免了核心信息的遗漏，确保了服务质量。
模型的精调策略
为平衡性能与资源消耗，项目组选择了数据驱动的模型迭代方案。通过对8B、14B、32B等不同尺寸的模型进行微调，寻找最优解。在训练策略上，比较了全参微调与LoRa微调，以及不同的分布式训练策略对显存的消耗。
最终，考虑到业务场景对效率和结构化任务处理的要求，选择了监督微调（SFT）方案。这种方法简洁高效，能让模型自主学习输入与输出的映射关系，更适合当前需求。
效果与落地
效果评测显示，经过微调后，模型在专业场景的生成能力显著提高。一个关键发现是，14B模型的微调效果优于未微调的32B模型。这证明了在计算资源受限的情况下，通过微调中小规模模型同样可以达到甚至超越大规模基座模型的效果，为实际部署提供了可行的技术路径。
目前，该模型已成功集成到客服交易子系统中，座席可通过界面便捷查看通话和工单前情提要，模型可用率达到95%。
光大银行的实践证明，通过大小模型协同与精准微调，大模型能有效重塑金融服务流程。未来，随着多模态技术与动态知识引擎的融合，金融服务将向着更主动、更具智慧的形态演进，实现技术与价值的共生。
