多模态大模型在语义推理上表现优异,但在基础视觉能力上却明显落后于幼儿。BabyVision基准填补了这一空白,首次系统评估模型在无需语言参与下的早期视觉推理能力,并与人类发展水平进行直接对比。
智能速览
BabyVision基准首次评估多模态模型的基础视觉推理能力
包含4大类22个子任务,涵盖精细辨别、视觉追踪等
最强模型准确率仅50%,远低于成人94%的水平
提出BabyVision-Gen,用图像生成评测视觉推理
揭示当前模型存在“语言瓶颈”问题
精华内容
现有多模态大模型在高层语义推理上表现突出,但在基础视觉能力上却频频失败,甚至不如幼儿。BabyVision基准的提出,为这一差距提供了系统化的评估工具。
视觉能力短板
多模态大模型在高层语义与知识推理上表现优异,但在无需语言参与的基础视觉能力上明显落后。研究发现,许多模型在幼儿即可完成的视觉区分、追踪和空间理解任务中频繁失败。
这一现象反映了当前模型过度依赖语言推理,而缺乏对视觉世界的直接理解能力。
基准构建方法
BabyVision基准基于发展心理学理论,构建了4大类22个子任务,涵盖精细辨别、视觉追踪、空间感知和视觉模式识别,共包含388道题目。
数据筛选采用严格标准,所有题目均经过双盲标注,确保评测的客观性和可靠性。同时设计了自动评测工具,支持生成式解法的评估。
人类表现对比
评测结果显示,主流多模态大模型的整体准确率显著低于人类水平。即使是表现最强的模型,准确率也仅达到约50%,而成人水平为94%,3-12岁儿童的表现也普遍优于模型。
这一差距凸显了当前模型在基础视觉推理能力上的严重不足。
生成式评测创新
除传统评测外,研究团队还提出了BabyVision-Gen,创新性地使用图像生成而非文本答案来评测视觉推理能力。
生成模型在部分任务上展现潜力,但整体表现仍然有限,表明纯视觉推理路径仍面临巨大挑战。
BabyVision基准揭示了多模态大模型在基础视觉推理上的“语言瓶颈”问题,为发展更接近人类的视觉智能指明了方向。未来研究需要突破语言依赖,建立真正的视觉-世界映射关系。