音视频生成领域迎来新突破,开源模型MOVA正式发布。它实现了电影级的音画同步效果,并在口型精准度、环境音效契合上表现出色。面对顶尖技术普遍闭源的现状,MOVA选择全栈开源,为社区注入了强大动力,推动技术发展回归协作与共创。
智能速览
中国首个高性能开源音视频模型MOVA发布。
实现电影级音画同步,口型精准度极高。
模型全栈开源,打破闭源技术垄断。
采用异构双塔架构,深度融合视听模态。
在多项评测中超越现有开源模型。
精华内容
在Sora与Veo等顶尖模型纷纷闭源的背景下,MOVA的出现如同一股清流。它不仅带来了与闭源模型媲美的生成效果,更通过开源全链路技术,为整个生态的发展指明了新的方向。
音画共振的物理智能
MOVA最直观的突破在于其对物理世界的精准模拟。在沙漠高速场景中,模型不仅生成了SUV扬沙的视觉冲击力,还同步合成了马达轰鸣与激昂配乐交织的音轨,营造出极强的速度感与空间感。这表明声音不再是可有可无的附加效果,而是具备空间感与质感的环境反馈。
另一大亮点是其电影级的口型同步能力。无论是中文还是英文对话,模型都能根据语义和情感生成严丝合缝的口型、表情与语调变化,告别了以往AI视频生硬的“对口型感”,使人物叙事更具灵魂和真实感。
异构双塔的技术架构
为实现音视频的深度融合,MOVA采用了非对称的异构双塔架构。该模型将一个14B参数的预训练视频DiT主干网络与一个1.3B参数的预训练音频DiT主干网络耦合。
两者之间通过一个双向桥接模块进行连接,让视频与音频的隐藏状态在每一层都能进行深度的交叉注意力运算。为解决视频与音频天然的时间尺度差异,团队还设计了Aligned ROPE机制,通过精确的缩放比例映射,将两种模态的Token对齐到同一物理时间尺度上,有效避免了生成过程中的时间漂移。
三阶段数据与训练策略
高质量模型的诞生离不开精细的数据工程。MOVA构建了三阶段数据处理管线:首先预处理成固定长度片段,再根据音视频质量与同步性进行筛选,最后通过大语言模型融合单模态描述,形成细粒度标注。
训练上,MOVA采用了由粗到细的三阶段策略:第一阶段以360p分辨率让模型快速学习音画对齐;第二阶段稳定并提升对齐质量;第三阶段才将分辨率提升至720p,进行质量精修。训练中还创新性地使用了Dual Sigma Shift技术,为音频和视频模态采用不同的噪声调度,有效避免了隐式模态依赖问题。
性能超越与开源意义
在权威的Verse-Bench评测中,MOVA在口型同步(Lip Sync Error)、语音准确度(cpCER)等关键指标上均显著优于LTX-2、Ovi等开源模型及传统级联方案。在包含5000次投票的竞技场主观评测中,MOVA的ELO评分达到1113.8,胜率稳定超过50%。
更重要的是,MOVA将模型权重、训练代码、推理代码及微调方案全栈开源,补全了中国音视频生成基础模型的开源版图。这一举措直接挑战了Sora 2、Veo 3等闭源巨头的技术垄断,为全球开发者提供了共同探索音视频生成前沿的宝贵平台。
MOVA的出现不仅是技术的突破,更是开源精神的胜利。它为开发者提供了强大的工具,也为音视频生成领域注入了新的活力。随着社区的参与,这项技术将如何演进?或许,一个更加开放、多元的AI创作时代正在到来。