什么值得买App下载 App ›
连续签到专享现金活动

推荐算法中有哪些常用排序算法?

推荐系统排序模型作为连接用户与内容的关键闸门,其技术范式正在经历一场从判别式到生成式的结构性重构。过去几年间,以DLRM为代表的工业主流方案,在算力、延迟与稳定性的多重约束下形成了一套稳定的工程共识。然而,随着Scaling Law在推荐领域的失效以及业务复杂度的提升,这套基于原子ID和手工特征交叉的传统架构逐渐显露出瓶颈。从Google TIGER到Meta HSTU,再到国内头部厂商的跟进,生成式推荐正通过Semantic ID(SID)、统一Backbone及生成式目标等创新,重新定义了工业界的技术底层逻辑。
01DLRM时代的共识与局限
在2020年至2024年间,工业级推荐系统在DLRM框架下形成了一套高度标准化的解题套路。这套体系虽然在当时环境下有效,但每一环节都建立在特定的隐含假设之上,这些假设如今正成为技术进化的阻碍。
  1. 精排:算力约束下的参数堆叠
    模型架构趋同于离散特征过Embedding、连续特征过MLP,参数的99%集中在Embedding表中。多目标头从CTR/CVR扩展至20+个,主要依赖MMoE与PLE结构。但受限于CPU/GPU推理算力,全连接层往往被压缩在1-6层,且手工特征交叉模块(如DCN)难以在不同业务间迁移。
  2. 粗排:依赖蒸馏的前置过滤
    粗排作为精排的前置过滤器,需处理5-10倍的打分量,主流采用双塔或三塔架构。其核心痛点在于“粗精排一致性”,通常通过蒸馏让粗排对齐精排输出。然而,这种软标签弱耦合机制容易导致“蒸馏污染”,即精排的误差会渗透至粗排。
  3. 序列建模:SIM路线的工程妥协
    为了处理长序列行为,工业界普遍采用阿里SIM路线:先粗筛(GSU)再精算(ESU)。这本质上是针对Attention机制O(n²)复杂度的工程妥协。虽然序列长度已推至百万级,但“先筛后算”的两阶段设计限制了模型对全量历史信息的直接利用。
  4. 在线学习:稳定性与可塑性的博弈
    通过“凌晨全量+分钟级增量”的循环快速适应短期分布,但这往往导致模型被“锁死”在弱版本,压缩了探索新结构的空间,即机器学习中的“稳定性—可塑性”困境。
  5. 老汤问题:路径依赖的隐形成本
    长期积累的老模型参数编码了平台的历史策略,新模型即便结构更优,也难以在数据量上追赶。传统的复用Embedding或Teacher蒸馏等策略,只能缓解而无法根治这一路径依赖问题。
DLRM范式的核心瓶颈在于Scaling Law的失效。在自然语言领域,参数规模与效果成正比,但在推荐系统中,单纯堆叠Transformer层数往往无法带来收益,甚至出现“One-epoch phenomenon”。根本原因在于Item ID是原子化的、不可组合的“车牌号”,模型只能死记硬背,无法像处理自然语言那样通过子结构进行泛化。
02新范式:生成式推荐的核心变革
2024年以后,推荐系统进入范式重构期。其核心在于引入“语言化”的表示方法,将原子ID转化为可组合的Token,从而开启Scaling Law的红利。

技术范式演进对比

判别式建模
  • 核心对象:原子Item ID

  • 参数分布:99%参数在Embedding表

  • 建模方式:点对点交互概率打分

  • 特征交叉:依赖手工模块(如DCN)

  • Scaling表现:堆叠层数无法提升效果

  • 典型模型:DLRM, DIN, SIM, MMoE

生成式建模
  • 核心对象:Semantic ID (SID) Token序列

  • 参数分布:参数向Transformer Block转移

  • 建模方式:序列联合分布自回归生成

  • 特征交互:通过Backbone隐式高阶交互

  • Scaling表现:遵循Scaling Law,规模越大越好

  • 典型模型:TIGER, HSTU, OneRec, RankMixer

SID(Semantic ID):从原子ID到可组合语言
SID是新范式的基石,通过RQ-VAE或RQ-Kmeans将每个Item量化为3-4个Token(如[c1, c2, c3, c4])。这不仅将词表从几亿压缩至几千,更重要的是赋予了Item组合性。c1可能代表大类,c2代表风格,使得模型能够像理解自然语言一样理解物品的层级关系,实现“举一反三”。代价是量化误差带来的“精度税”,类似于将无损音频压缩为MP3。
Backbone与训练流水的统一
在新范式下,异构特征被统一Token化并送入统一的Backbone(如Transformer或Mixer)。训练流程也从单步监督进化为SFT(有监督微调)加GRPO(策略优化),将推荐任务重构为多步策略优化问题,尤其适合长链路任务的链路级价值分配。
03工业实践流派与技术路线
技术维度主要流派/方案特点与适用场景
Token化思路RQ-VAE内容量化 (TIGER/OneRec)基于内容语义,适合冷启动需求高的业务
协同SID (EAGER/TokenRec)基于交互协同信号,适合行为主导的业务
原始ID加大词表 (HSTU)工程简单,算力开销大,适合预算充裕场景
Backbone架构纯Transformer生成式参数量大,依赖数据Scaling,适合头部内容推荐
Mixer混合范式 (RankMixer)参数效率优先,适合特征异质、数据规模受限场景
训练起步方式从零训练 (HSTU/MTGR)适合语义弱或数据量充裕的场景,工业界主流
LLM基座+SID对齐 (MiniOneRec)利用外部知识,适合文本语义丰富的场景
在输出形式上,工业界主要分为“Retrieval-as-Generation”(直接生成SID候选)和“Ranking-as-Generation”(给定候选集计算生成概率作为排序分)两种路径。无论哪种,约束解码(Constrained Decoding)都是关键,需在Softmax前Mask掉非法的Token组合,防止模型生成不存在的物品。
04结构性洞察与未来展望
  • 工程对象的迁移:从架构到目标
    随着Backbone趋于统一(Transformer+SID),算法工程师的核心竞争力正从“架构工程”(设计模型结构)转向“目标工程”(设计生成目标、因果约束与多任务平衡)。
  • 可迁移语言的建立
    DLRM时代算法效果高度业务依赖(如MMoE的分化),根因在于缺乏可迁移的底层语言。SID提供了一套小、可共享、可冷启动的通用语言层,使得方法论在不同业务间的迁移成为可能。
  • 推荐与LLM的边界:可对齐性
    LLM基座并非万能,其价值取决于Item Token与自然语言是否可对齐。对于支付动作等纯业务符号,LLM不仅无益,反而可能因错误的语言分布泛化成为噪声源。
总体而言,生成式推荐并非否定DLRM时代的工程经验,而是将其内化为新的优化变量。尽管高昂的算力成本仍是当前全量替换的阻碍,但SID带来的组合性红利与Scaling Law的开启,已确立了推荐系统未来的演进方向。判断新方法的价值,不再仅看指标提升,更应关注其打破或更新了哪些隐含假设。

评论

评论区空态插画

当前文章无评论,是时候发表评论了