张大妈

NVIDIA 用视频模型做机器人控制,Cosmos Policy 让 AI 边看边学

源自小红薯:arXiv_CyberPal

01-28 14:11

NVIDIA 正在探索一种训练机器人的新方法,名为 Cosmos Policy。这项研究不再依赖复杂的编程,而是让机器人通过观看视频来学习动作和任务规划。它将视觉理解与物理控制直接结合,为机器人自主学习开辟了新路径,有望让机器人更快地适应复杂环境。

NVIDIA 用视频模型做机器人控制,Cosmos Policy 让 AI 边看边学智能速览

  • Cosmos Policy 利用视频模型进行机器人训练。

  • 机器人通过观看视频来学习动作模式与任务规划。

  • 它结合了计算机视觉与物理控制两大领域。

  • 在 LIBERO 基准测试中取得了领先的表现。

NVIDIA 用视频模型做机器人控制,Cosmos Policy 让 AI 边看边学精华内容

这项研究的突破点在于其直接将视觉模型用于物理控制,并在模拟环境中验证了其卓越性能。

视频驱动

Cosmos Policy 的核心是让机器人通过观察来学习。

传统方法依赖复杂编程或大量物理交互数据,而这项研究利用视频模型作为中介,将视觉信息直接转化为动作指令。

机器人只需观看演示视频,就能理解任务目标并规划出相应动作,实现了从理解到执行的跨越,打通了“所见即所动”的关键环节。

性能实测

为了验证 Cosmos Policy 的有效性,研究团队在标准的 LIBERO 模拟基准测试中进行了评估,该测试包含空间、物体、目标等多种任务场景。

数据显示,Cosmos Policy 表现卓越。在 LIBERO-Spatial 和 LIBERO-Object 任务中,成功率分别达到了 100.0% 和 98.2%。

其平均成功率达到 98.5%,全面超越了包括 Diffusion Policy、Act、OpenVLA 等在内的多个先进模型,证明了该方法在复杂任务中的强大能力。

技术融合

Cosmos Policy 的重要意义在于它深度整合了计算机视觉与机器人控制这两个长期独立发展的领域。

以往的研究多侧重于其中一方,而这项工作展示了视觉大模型在物理世界应用中的巨大潜力。

它为下一代通用机器人的发展提供了新思路,未来有望应用于家庭服务、工业自动化等场景,让机器人更快地适应新环境和新任务。

NVIDIA 的 Cosmos Policy 为机器人学习提供了一种更直观、更高效的路径。它展示了 AI 大模型在物理世界中的巨大应用潜力,预示着机器人将能像人一样通过观察自主学习。未来,我们离拥有一个“看一遍就会”的机器人还有多远?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐