张大妈

腾讯混元最新开源成“最强翻译”:国际机器翻译比赛获30个语种第一

源自公众号:前沿翻译技术

02-24 16:03

腾讯混元开源的7B参数翻译模型Hunyuan-MT-7B,在WMT2025国际机器翻译竞赛中斩获30项第一。其核心价值在于,通过自研的Shy框架,在严格的参数限制和开源数据约束下,实现了超越更大规模模型的性能,为高效、高质量的机器翻译提供了新的解决方案。

腾讯混元最新开源成“最强翻译”:国际机器翻译比赛获30个语种第一智能速览

  • 腾讯混元开源7B参数翻译模型,获WMT2025竞赛30项第一。

  • 模型基于自研Shy框架,包含协同增强、GRPO算法和学习型集成三大创新

  • 在严格开源约束下,以小参数量击败更大规模模型,效率与部署优势显著。

  • 完全基于开源数据训练,支持33种语言互译,已应用于腾讯会议等产品。

  • Shy框架为垂直领域模型优化提供了可借鉴的方法论模板。

腾讯混元最新开源成“最强翻译”:国际机器翻译比赛获30个语种第一精华内容

面对参数与算力的限制,如何打造出顶尖的翻译模型?腾讯混元给出了答案。其开源的Hunyuan-MT-7B模型不仅在国际赛事中称雄,其背后的技术框架更值得深入探究。

小体积夺冠

在国际计算语言学协会(ACL)WMT2025比赛中,Hunyuan-MT-7B模型取得了31个语种比赛中的30项第一,AutoRank达到满分1.0。这一成绩含金量极高,覆盖了中英日等主流语言及捷克语、马拉地语等低资源语种。

关键在于,这一胜利是在严格的约束条件下取得的:参赛系统参数规模不得超过20B,且必须完全基于公开数据训练。Hunyuan-MT-7B仅以7B的参数量,击败了众多更大规模的系统,证明了其技术方案的先进性。在业界常用的Flores200数据集上,该模型的效果也明显领先于同尺寸模型,与超大尺寸模型相比也毫不逊色。

Shy框架创新

卓越成绩的背后,是腾讯混元提出的完整翻译模型训练范式——Shy(Synergy-enhanced policy optimization)框架。该框架最大的创新在于其系统性设计,由两大组成部分协同工作:基础模型开发和集成策略。

基础模型开发通过持续预训练、监督微调和GRPO强化学习优化三个递进阶段构建高质量翻译模型。集成策略则在此基础上,通过学习型集成技术进一步提升最终输出的翻译质量。两者相互配合,共同构成了从训练到推理的全链路优化方案。

GRPO算法优化

Shy框架的技术亮点之一是GRPO(Group Relative Policy Optimization)算法的采用,这是强化学习在机器翻译领域的一次成功实践。不同于传统PPO算法使用全局基线,GRPO采用组内相对优势进行策略更新。

这一设计显著降低了梯度方差,使训练过程更稳定,并提升了样本效率。此外,框架还采用了精心设计的复合奖励函数:r = 0.2×BLEU + 0.4×XCOMET + 0.4×DeepSeek,综合评估翻译的准确性、流畅性和语义质量,避免了单一指标优化的局限性。

学习型集成

Shy框架的另一大创新是学习型集成技术,它超越了过去依赖启发式规则(如简单投票)的传统方法。该技术首先通过调节温度、随机种子和束搜索宽度等策略,生成多个多样化的候选翻译。

随后,系统会训练一个专门的GRPO模型作为“智能选择器”,根据具体任务动态选择最优候选,或通过注意力机制生成一个全新的、超越所有候选的翻译结果。这种端到端的优化方式,实现了候选多样性与质量的最佳平衡,展现了比启发式集成更强的适应性。

开源与落地

Hunyuan-MT-7B的另一个重要特点是完全基于开源生态构建,其基础模型和训练数据均来自公开社区。这不仅保证了技术方案的透明性和可扩展性,也降低了研究者的参与门槛,推动了整个AI社区的进步。

目前,该模型已应用于腾讯会议、企业微信、QQ浏览器等多款产品。凭借7B的小体积,模型在推理速度和部署成本上具备显著优势,经腾讯自研AngelSlim工具FP8量化后,推理性能还能进一步提升30%,为各类业务场景提供了高效可靠的翻译支持。

Hunyuan-MT-7B的发布,不仅是一个性能卓越的开源模型,更是一套系统性的方法论。它证明了在有限资源下通过架构创新实现SOTA的可能性,其开源的Shy框架为其他垂直领域的模型优化提供了宝贵的参考。当技术范式得以共享,AI的未来是否会加速到来?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐