OneSeaechV2 将LLM 推理能力压进电商搜索
电商搜索领域目前面临的核心痛点在于对复杂查询的理解能力不足。当用户输入模糊关键词时,系统需要在极短时间内同时解析查询语义、个人偏好及转化目标。然而,虽然大语言模型(LLM)具备强大的推理能力,但其高昂的计算成本和生成延迟使其难以直接应用于对实时性要求极高的线上搜索场景。如何在享受LLM推理优势的同时,保持系统的高效低延迟,成为工业界亟待解决的问题。
01核心方案:潜在推理与自蒸馏机制
针对上述矛盾,快手提出了 OneSearch-V2 框架。该方案并未将LLM直接部署在线上,而是采用“教师-学生”模式:在训练阶段,利用 LLM 为查询-用户对生成高密度的关键词推理链(CoT),通过自蒸馏技术将这种复杂的推理能力内化进轻量级的 OneSearch 模型权重中。这一过程使得模型在上线服务时,无需额外增加推理链路,即可在内部完成对复杂意图的理解,从而在不牺牲响应速度的前提下提升搜索质量。
02技术细节:基于行为反馈的偏好优化
为了确保搜索结果符合商业目标,OneSearch-V2 摒弃了传统的单独奖励模型(Reward Model),构建了一套行为偏好优化系统。该系统将查询相关性、后验转化率以及用户的点击与下单反馈组合成对齐信号。在具体算法上,采用 TPMA-GRPO 技术处理搜索结果序列(SID)中不同位置 token 的贡献差异,从而更精准地优化生成式检索的效果。
03线上实测效果
| 核心指标 | 提升幅度 |
|---|---|
| Item CTR | +3.98% |
| PV CVR | +2.90% |
| Order | +2.11% |
快手电商搜索线上 A/B 测试结果
线上 A/B 测试数据显示,OneSearch-V2 在多项关键业务指标上均取得了显著收益,且均具有统计学显著性。值得注意的是,论文强调这些收益是在未引入额外服务延迟(Serving Latency)的前提下实现的。这表明该方案成功将 LLM 的推理能力压缩进了现有工业系统的成本承受范围内,验证了生成式搜索在电商场景落地的现实可行性。
当前文章无评论,是时候发表评论了