传统机器人训练成本高昂,仿真数据又常与真实世界脱节。上交团队提出的ExoGS框架另辟蹊径,通过人体动作捕捉与4D场景重建技术,构建了一套无需实体机器人即可收集大规模、高保真操作数据的闭环系统,为机器人学习提供了一条低成本、高效率的新路径。
智能速览
只需穿戴AirExo-3外骨骼即可捕捉高精度人体操作数据。
采用3D高斯泼溅技术对真实场景进行可编辑的4D重建。
内置Mask Adapter模块,让模型学会关注关键的交互区域。
数据采集成功率相比传统遥操作提升近50%。
通过多维数据增强,模型能适应全新环境与物体。
在“抓取放置”到“拧瓶盖”等任务中表现优于传统方法。
精华内容
面对机器人训练中数据采集成本高、仿真与现实的鸿沟,ExoGS框架如何巧妙地绕开这些障碍,实现高效且逼真的学习效果?其核心在于一套创新的“现实-仿真-现实”闭环流程。
外骨骼捕捉
ExoGS的创新之处在于完全摆脱了对昂贵机器人硬件的依赖。操作员只需穿戴团队自研的AirExo-3轻量化外骨骼设备,即可在真实世界中执行各种操作任务。该设备能以毫米级精度捕捉人体手部和手臂的精细动作,直接转化为机器人的可执行指令。这种方法不仅将硬件成本降至极低,还因其符合人类直觉的操作方式,大大降低了演示门槛,使得大规模数据采集成为可能。
4D场景重建
为了解决仿真数据“失真”的难题,ExoGS引入了前沿的3D Gaussian Splatting(3DGS)技术。在捕捉人体动作的同时,系统通过多视角相机对操作场景和物体进行高速拍摄,并将其转化为一个动态的、可编辑的3D高斯模型。这意味着生成的4D场景不仅拥有极高的真实感,还能在仿真环境中自由调整视角、光照、背景等参数,为后续的模型训练提供了丰富多样的数据基础。
语义增强训练
在海量的仿真数据中,如何让模型学到最关键的知识?ExoGS内置了Mask Adapter语义增强模块。该模块能自动识别并标记出操作过程中人与物体的交互区域,引导AI模型在训练时“集中注意力”学习这些核心信息。得益于这种策略,模型学会了忽略无关背景干扰,从而在面对新物体、新背景时展现出强大的泛化能力,任务成功率显著提升。
实测表现
实验数据充分证明了ExoGS框架的有效性。与传统遥操作方式相比,使用该框架进行数据采集的成功率提升了近50%,且操作总时长明显缩短,上手更为便捷。在“抓取放置”、“拧瓶盖”等不同复杂度的任务测试中,经由ExoGS训练的模型表现均全面优于基线方法,尤其在视角、颜色、背景和物体姿态发生变化的测试场景下,其稳定性与适应性尤为突出。
ExoGS不仅是一项技术创新,更预示着机器人学习范式的转变。它大幅降低了高价值操作数据的获取门槛,或将加速机器人在工业、服务等领域的应用落地。未来,机器人学习是否真能像人一样“看一遍就会”?