长视频中关键信息稀疏,现有AI模型难以有效捕捉。Video-o3框架通过赋予模型类人般的迭代线索搜寻能力,自适应地发现和验证视觉证据,显著提升了长视频多跳推理的准确性与效率,为解决这一难题提供了全新思路。
智能速览
Video-o3通过迭代式线索搜寻攻克长视频多跳推理难题。
任务解耦注意力掩蔽技术解决了模型训练中的注意力分散问题。
可验证轨迹引导奖励机制有效平衡了探索广度与推理效率。
构建了包含17.3万条轨迹的Seeker-173K高质量数据集。
在MLVU和Video-Holmes等基准测试中性能显著超越现有方法。
精华内容
Video-o3并非一次性处理所有视频帧,而是模拟人类思维,通过一个包含线索搜寻与答案推理的动态循环,逐步深入视频内容,直至找到确凿答案。
框架设计
Video-o3的核心是一个动态推理循环。模型接收查询后,会先评估现有信息的充分性。若信息不足,则进入“线索搜寻”模式,调用工具精准定位并提取关键视频片段;若证据充分,则进入“答案推理”模式,直接生成最终响应。这一过程会迭代进行,直到模型确信已收集到足够证据,实现了从模糊认知到清晰结论的转化。
这种设计让模型能够主动、高效地探索视频,避免了统一采样带来的信息稀释问题。
技术攻坚
为支撑框架高效运行,Video-o3引入了两项关键技术。首先是任务解耦注意力掩蔽(TDAM),它在训练阶段通过隔离不同任务的注意力范围,有效解决了因上下文混杂导致的注意力分散问题,让模型在搜寻线索和推理答案时能更专注。
其次是可验证轨迹引导奖励(VTGR),该机制在强化学习阶段通过奖励精准定位和主动终止探索的行为,成功控制了上下文长度的无序增长,在保证推理深度与精度的同时,显著提升了计算效率。
数据基石
高质量数据是模型成功的关键。为此,研究团队开发了一套自动数据合成流水线,并构建了包含17.3万条高质量工具交互轨迹的Seeker-173K数据集。
该数据集经过线索定位、有效性验证、轨迹生成和逻辑一致性检查四个严格阶段,确保了每一条数据都逻辑严密且有事实支撑。这种结构化的数据让模型学会了自适应调用工具和执行复杂推理的能力,为Video-o3的卓越表现奠定了坚实基础。
性能验证
在多个权威基准测试中,Video-o3展现出全面领先的优势。在考验长视频理解的MLVU数据集上,其准确率达到72.1%;在需要复杂多跳推理的Video-Holmes数据集上,取得了46.5%的准确率,均显著优于现有最佳方法。
此外,在需要精确定位的Charades-STA任务上,Video-o3的mIoU达到60.7%,远超基线模型,证明了其精准捕捉关键时刻的元能力。这些数据充分验证了Video-o3框架在长视频理解领域的强大实力。
Video-o3通过创新的框架设计、精巧的技术构建和高质量的数据支持,成功攻克了长视频多跳推理的关键挑战,标志着AI在视频理解领域的一大步。它让模型不再是被动接收信息,而是能像侦探一样主动探寻证据,这为未来的多模态智能体发展指明了新方向。