张大妈

重型液压四足的强化学习控制 Sim2Real

源自UP主:有趣的机器人

02-24 15:21

重型液压四足机器人的模拟到现实迁移(Sim2Real)一直是技术瓶颈。一项研究通过构建基于真实数据的精准执行器模型,并结合强化学习,成功解决了该难题,显著提升了机器人在现实世界中的运动控制性能与稳定性。

重型液压四足的强化学习控制 Sim2Real智能速览

  • 重型液压机器人存在显著的模拟与现实差异。

  • 提出一种基于真实数据的新型执行器模型。

  • 该模型能精准预测液压执行器的力矩。

  • 结合强化学习训练的运动控制器性能显著提升。

  • 实测机器人可稳定跟踪高达1m/s的高速指令。

重型液压四足的强化学习控制 Sim2Real精华内容

如何让庞大而复杂的液压机器人在现实中稳定行走,一直是机器人领域的挑战。一项研究通过构建一个高精度的执行器模型,显著提升了模拟训练策略在真实机器人上的表现。

Sim2Real的巨大鸿沟

将模拟环境中训练好的控制器应用到真实机器人上,存在巨大的挑战,这一现象被称为Sim2Real差异。对于重量超过300公斤、长度超过1.8米的重型液压四足机器人而言,这种挑战尤为突出。

由于其巨大的尺寸和重量,液压执行器响应缓慢、动态特性复杂且难以预测,导致其在真实世界中的行为与模拟环境中的表现相去甚远。传统的控制方法在模拟中表现良好,但在真实机器人上常常出现不稳定甚至失效的问题。

高精度执行器模型

为解决这一难题,研究人员提出了一种创新的执行器模型。该模型的核心是利用从真实机器人上采集的实际运动数据进行训练,而非依赖于理想化的理论假设。

通过输入关节的目标指令和当前状态,该模型能够精准预测每一瞬间的实际输出扭矩。实验数据显示,与典型的神经网络模型相比,这个新模型在预测真实扭矩数据方面具有更高的准确性,从而为模拟环境提供了更贴近现实的物理基础。

强化学习控制框架

研究团队将这个高精度的执行器模型集成到强化学习训练框架中。在这个框架里,运动控制策略(Policy)在模拟环境中进行训练,但模拟器使用了这个能够反映真实物理特性的执行器模型。

这意味着,智能体在学习过程中接触到的 dynamics 更加接近真实世界。通过这种方式训练出的控制器,从一开始就学会了如何应对真实液压系统的复杂性和不确定性,为后续的成功部署奠定了坚实基础。

实测性能对比

为了验证模型的有效性,研究团队将训练好的运动策略部署到了名为BeTheX-Q的真实液压机器人上进行测试。结果对比非常鲜明。

未使用新模型训练的扭矩控制器表现出步态不稳,无法跟踪高速指令;位置控制器则动作僵硬,足部离地高度低,难以适应高速行走要求。相比之下,采用新执行器模型训练的控制器展现了流畅且稳健的运动能力,能够稳定跟踪高达1米/秒的高速指令,在指令跟踪能力和稳定性上均表现出色。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐