张大妈

让大模型也能像人一样拖动 3D 视角来推理

源自小红薯:kk

01-23 19:21

大模型虽在视觉理解上表现出色,但仍是“2D生物”,难以进行真正的3D空间推理。一项名为“Think with Space”的研究打破这一局限,它让模型能直接在3D空间中操作,通过拖动视角、切换观察方式来思考。这不仅让GPT等大模型的空间推理能力飙升,还为解决小模型在空间探索中的难题提供了新思路,推动AI向更智能的具身体迈进。

让大模型也能像人一样拖动 3D 视角来推理智能速览

  • 提出新范式“Think with Space”,让模型直接操作3D空间进行推理。

  • 该范式显著提升了GPT、Gemini等大模型的空间推理能力。

  • 研究发现小模型在获得3D空间操作能力后表现反而变差。

  • 提出Think3D-RL强化学习算法,有效解决了小模型的难题。

  • 通过RL训练后,小模型的性能随推理步数增加而显著提升。

让大模型也能像人一样拖动 3D 视角来推理精华内容

从理论到实践,这项研究不仅构建了全新的交互式推理框架,还深入揭示了不同规模模型在空间操作上的差异,并给出了针对性的解决方案。

Think with Space:新范式

传统视觉语言模型(VLMs)本质上仍是2D感知者,在处理需要理解几何和空间关系的任务时表现不佳。“Think with Space”范式通过3D重建模型从图像中恢复出点云和相机位姿,构建了一个可供模型直接操作的3D空间。模型不再是被动地“看”图像,而是可以像人一样,主动拖动视角、自由切换第一人称(ego)或全局(global)视图进行观察,将复杂的空间推理任务转化为一个交互式的3D思维链过程。

能力飞跃:大模型性能飙升

无需对模型本身进行额外训练,仅通过赋予其操作3D空间的能力,顶尖模型的空间推理能力就获得了显著提升。实验数据显示,在BLINK Multi-view和MindCube基准测试中,GPT-4o和Gemini 2.5 Pro等模型的平均性能提升了7.8%。在更具挑战性的VSL-Bench测试中,性能增益也达到了4.7%。这证明了让模型在真实的空间维度中“思考”,是突破其2D感知瓶颈的有效路径。

反直觉发现:小模型的困境

研究过程中出现了一个令人意外的现象:给予小模型操作3D空间的能力后,它们的推理表现反而变差了。深入分析后,研究者发现问题的根源在于小模型天生缺乏有效的空间探索策略。它们不知道如何选择有价值的观察视角,也无法在恰当的时机切换第一人称和全局视图,导致在复杂的3D环境中“迷失方向”,无法形成有效的推理链。

Think3D-RL:强化学习的解法

为解决小模型的困境,研究团队提出了Think3D-RL强化学习算法。该算法通过GRPO奖励机制,在不需要任何人工标注的空间轨迹数据的情况下,引导小模型自主学习大模型在空间操作上的有效策略,即如何选择好的视角以及何时切换视图。训练结果令人惊喜:经过RL训练后的小模型,推理的步数越多,其性能增长就越为明显,工具使用带来的收益从微不足道的0.7%大幅提升至6.8%。

这项研究不仅为提升大模型的空间推理能力提供了切实可行的框架,更揭示了模型规模与工具使用能力之间的深刻关联。它预示着,未来的智能体不应仅满足于回答问题,而应真正具备看懂世界、理解几何、在3D空间中自主探索的能力,这或许是通往更高级别通用人工智能的关键一步。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章