张大妈

前沿大模型宁愿用工具 也不愿看图

源自小红薯:想当好厨子的工科僧

01-30 15:06

前沿的视觉语言模型(VLM)并非真正“看见”世界。一项名为 InkSlop 的基准测试揭示了它们的软肋:在处理迷宫、手写补全等空间推理任务时,VLM 会优先调用代码工具进行搜索和形态学操作,而非直接依赖视觉信息理解。这一发现颠覆了对模型多模态能力的普遍认知,揭示了当前 AI 在空间智能上的根本性局限。

前沿大模型宁愿用工具 也不愿看图智能速览

  • VLM 在迷宫等空间推理任务中表现极差。

  • 模型优先使用工具(如A*搜索)而非视觉分析。

  • 频繁的网络搜索会放大语言先验,压倒视觉证据。

  • 当前VLM的“空间智能”仍严重依赖工具拐杖。

前沿大模型宁愿用工具 也不愿看图精华内容

这项研究通过一个精妙的基准测试,撕开了前沿大模型空间推理能力的伪装。其结果不仅令人意外,更指明了当前技术路径的核心缺陷。

空间推理试金石

InkSlop 基准测试专为评估 VLM 的手写与空间理解能力而设计,它跳过了“图中有什么”的浅层识别。测试包含四项核心任务:迷宫寻路、笔画补全、轨迹反渲染和重叠文本还原。这些任务分为简单和困难两个等级,旨在检验模型是否真正理解了图像中的空间结构关系,而非仅仅匹配模式。

灾难性的表现

测试结果暴露了 VLM 的巨大短板。在迷宫困难模式中,所有模型几乎全军覆没,正确率仅为 0-14%。在重叠文本还原任务上,困难模式的准确率更是无一例外地为 0%。唯一表现尚可的是轨迹反渲染任务,GPT-4o 达到了约 70% 的准确率,但这部分评测也仅是基于结构性打分,而非对复杂空间动态的完全理解。

不愿“看图”的真相

深入分析发现,模型解决问题的思路出人意料。它们并未在视觉层面进行推理,而是倾向于调用代码工具。例如,在迷宫任务中,VLM 会先对图像进行阈值化、骨架化等形态学操作,然后应用 A* 或 BFS 算法寻径,并反复调试参数。这个过程更像是传统计算机视觉,而非智能推理。

语言先验压倒视觉

除了代码工具,VLM 还频繁使用网络搜索来验证预测。在重叠文本还原任务中,模型会搜索“X是一个词吗?”或某个数学公式是否成立。这种行为导致模型更倾向于生成常见单词或熟悉的公式,即使图像提供的视觉证据指向一个不常见的组合。这使得语言和知识的先验偏见压倒了真实的视觉输入。

InkSlop 的研究结果清晰地指出,当前顶尖 VLM 的“空间智能”更像是一种由工具驱动的“智能幻觉”,而非真正根植于视觉理解的认知能力。这为后续研究指明了方向:如何让模型摆脱对工具的过度依赖,真正学会“看懂”世界?这或许是通往通用人工智能的关键一步。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章