面对多模态大模型在视觉溯因推理上的短板,AbductiveMLLM模型应运而生。它通过模仿人类“语言+图像”的双模态思维模式,有效弥合了抽象推理与具象想象间的鸿沟,显著提升AI从不完整视觉信息推断合理解释的能力,并在关键基准测试中取得了领先成果。
智能速览
AbductiveMLLM首创“语言+图像”双模态协同架构。
REASONER组件通过因果感知对比学习筛选高质量假设。
IMAGINER组件能“想象”出合理的视觉场景以辅助推理。
端到端联合训练实现了语言推理与图像想象的动态交互。
该模型在VAR和YouCookII基准测试中达到SOTA水平。
精华内容
AbductiveMLLM的创新之处在于其独特的架构设计与训练方法,它如何具体实现双模态溯因思维的呢?这背后是四大核心技术的支撑。
双模态协同
该模型首次将人类“语言溯因”与“图像溯因”的交互机制融入多模态大模型。其核心由两大组件构成:负责语言模态的REASONER和负责图像模态的IMAGINER。这种设计旨在填补抽象逻辑推理与具象视觉想象之间的鸿沟,让模型能同时进行假设生成与场景构想,更接近人类的认知过程。
因果感知筛选
在推理过程中,REASONER首先通过大语言模型生成多样化的候选解释假设。为了确保假设的质量,模型采用了因果感知对比学习技术,能够有效过滤掉与视觉观察缺乏直接因果关联的无效假设。这一步为后续的溯因推理提供了高质量、有针对性的先验知识,大幅缩减了模型的搜索空间,提升了推理效率和准确性。
图像思维引导
IMAGINER组件的创新在于将图像思维明确融入视觉溯因推理。它通过一个轻量级适配器改造了文本到图像的扩散模型(如Stable Diffusion),并结合观察到的视频以及REASONER输出的假设,主动“想象”并生成合理的视觉场景。这为溯因推理提供了关键的、接地的视觉上下文线索。
端到端优化
AbductiveMLLM通过端到端的联合训练方式,让REASONER和IMAGINER两大组件协同优化。这种方式既保留了多模态大模型原有的强大语言推理能力,又通过图像模态补充了因果连贯性。最终实现“语言推理-图像想象”的动态交互循环,其效果超越了单纯对模型进行微调或仅在单模态上进行优化的传统方法。在VAR和YouCookII基准测试中,该模型达到了当前最优(SOTA)性能。
AbductiveMLLM的成功,不仅为多模态大模型的溯因推理能力树立了新标杆,更重要的是展示了模仿人类认知双通道的巨大潜力。未来,这种双模态协同范式能否在更复杂的推理任务中复制成功,开启AI认知能力的新篇章?