张大妈

BabyVision:多模态模型视觉推理新基准

源自小红薯:AI-Dreamer

01-15 12:09

多模态大模型在语义推理上表现优异,但在基础视觉能力上却明显落后于幼儿。BabyVision基准填补了这一空白,首次系统评估模型在无需语言参与下的早期视觉推理能力,并与人类发展水平进行直接对比。

BabyVision:多模态模型视觉推理新基准智能速览

  • BabyVision基准首次评估多模态模型的基础视觉推理能力

  • 包含4大类22个子任务,涵盖精细辨别、视觉追踪等

  • 最强模型准确率仅50%,远低于成人94%的水平

  • 提出BabyVision-Gen,用图像生成评测视觉推理

  • 揭示当前模型存在“语言瓶颈”问题

BabyVision:多模态模型视觉推理新基准精华内容

现有多模态大模型在高层语义推理上表现突出,但在基础视觉能力上却频频失败,甚至不如幼儿。BabyVision基准的提出,为这一差距提供了系统化的评估工具。

视觉能力短板

多模态大模型在高层语义与知识推理上表现优异,但在无需语言参与的基础视觉能力上明显落后。研究发现,许多模型在幼儿即可完成的视觉区分、追踪和空间理解任务中频繁失败。

这一现象反映了当前模型过度依赖语言推理,而缺乏对视觉世界的直接理解能力。

基准构建方法

BabyVision基准基于发展心理学理论,构建了4大类22个子任务,涵盖精细辨别、视觉追踪、空间感知和视觉模式识别,共包含388道题目。

数据筛选采用严格标准,所有题目均经过双盲标注,确保评测的客观性和可靠性。同时设计了自动评测工具,支持生成式解法的评估。

人类表现对比

评测结果显示,主流多模态大模型的整体准确率显著低于人类水平。即使是表现最强的模型,准确率也仅达到约50%,而成人水平为94%,3-12岁儿童的表现也普遍优于模型。

这一差距凸显了当前模型在基础视觉推理能力上的严重不足。

生成式评测创新

除传统评测外,研究团队还提出了BabyVision-Gen,创新性地使用图像生成而非文本答案来评测视觉推理能力。

生成模型在部分任务上展现潜力,但整体表现仍然有限,表明纯视觉推理路径仍面临巨大挑战。

BabyVision基准揭示了多模态大模型在基础视觉推理上的“语言瓶颈”问题,为发展更接近人类的视觉智能指明了方向。未来研究需要突破语言依赖,建立真正的视觉-世界映射关系。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章