张大妈

【具身智能 346】SONIC

源自知乎:张海抱

02-28 13:55

传统VLA模型在人形机器人控制上面临扩展性挑战。SONIC模型另辟蹊径,提出以运动跟踪作为更通用的基础任务。通过将姿态指令转化为电机控制信号,该模型能统一处理多种遥操与指令控制,为实现自然、流畅的人形机器人全身运动提供了新思路。

【具身智能 346】SONIC智能速览

  • SONIC提出运动跟踪是人形机器人控制更具扩展性的基础任务。

  • 该方法解决了高动态环境下,从姿态到电机控制信号的转化难题。

  • 模型通过不同编码器处理机器人、人类和混合运动指令,并统一为通用token。

  • 支持游戏手柄、VR遥操、文本和音乐等多种控制方式。

【具身智能 346】SONIC精华内容

SONIC的核心创新在于构建了一个通用的运动控制策略,其设计巧妙地解决了人形机器人控制的多样性挑战。

为何选择运动跟踪

传统视觉-语言-动作(VLA)模型在预测下一个动作时,对于人形机器人这种高自由度、高动态性的系统显得力不从心。与抓取等低速静态的机械臂操作不同,人形机器人面临着频繁的接触扰动和复杂的动力学问题。仅仅指定末端姿态,难以直接解算出稳定可靠的电机控制信号。因此,SONIC模型提出将“运动跟踪”作为核心基础任务,即给定目标姿态,让模型学习输出能驱动机器人复刻该姿态的关节位置。这一任务能更好地覆盖行走、奔跑、跳舞、交互等广泛场景,为训练具备强大泛化能力的基础模型提供了可能。

通用控制策略

为实现对多种控制方式的兼容,SONIC设计了一套统一的控制策略框架。该框架的核心在于将不同形式的运动指令编码成统一的token表示。具体而言,它能处理三种主要运动指令:一是机器人自身的运动命令,直接指定未来几帧的姿态或速度;二是人体的运动命令,如从视频中提取的人体骨架3D位置;三是混合运动命令,例如上半身由VR设备遥操作,下半身由规划器自动补全。这些指令通过各自专门的编码器处理后,由一个量化器统一成离散的通用token,再由解码器将其转化为具体的机器人控制信号。

统一的多模态控制

得益于通用的控制策略,SONIC展现出卓越的多模态控制能力。它不仅能通过游戏手柄进行直接控制,还能实现复杂的全身VR遥操作。用户可以穿戴VR设备,实时控制机器人的上半身动作,同时模型会自动规划下半身的腿部运动以保证平衡。此外,通过引入人体运动编码器,模型能够学习并模仿人类视频中的动作,实现跨具身的视频遥操作。更有趣的是,它还可以响应来自文本或音乐的抽象指令,生成与之匹配的舞蹈或动作序列,极大地丰富了人机交互的形式。

性能与可扩展性

实验结果表明,SONIC在运动跟踪任务上表现出显著的scaling effect(规模效应),即随着模型规模和数据量的增加,性能持续提升。与其他基线方法相比,其在运动跟踪的准确性和流畅性上均展现出优势。这种强大的可扩展性证明了将运动跟踪作为基础任务的有效性,也为未来构建更强大、更通用的具身智能模型指明了方向。模型能够学习到复杂的动力学知识,并将其泛化到未见过的运动模式中,体现了其作为foundation model的巨大潜力。

SONIC通过将运动跟踪作为基础任务,为人形机器人控制领域构建了一个强大而灵活的统一框架。这种方法不仅提升了模型的扩展性,也为实现更自然、更多样化的人机交互铺平了道路。未来,这种通用控制策略将如何改变我们与机器人共存的方式?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐