具身智能领域长期存在仿真与现实的鸿沟,演示视频中的流畅表现,在真实世界往往频繁“翻车”。RoboChallenge平台通过大规模真机测试,以标准化数据揭示了当前模型的真实能力边界,为行业提供了稀缺的评测标尺,推动技术从“纸上谈兵”迈向实战应用。

智能速览
RoboChallenge是全球首个具身智能大规模真机评测平台。
平台部署了UR5、Franka等20台真机,并开源736GB的Table30数据集。
评测机制透明公正,杜绝作弊,所有测试视频与日志全公开。
测试数据显示,头部模型在真实场景中的成功率刚过50%。
多步骤协同、柔性物体操作与长程时序任务是当前技术攻坚难点。
单任务模型表现远优于多任务模型,通用具身智能仍任重道远。
精华内容
数万次严苛的真机测试,不仅打破了行业对Demo的盲目崇拜,更用海量数据刻画出当前具身智能的真实技术水位与核心瓶颈。
头部模型基准
RoboChallenge平台发布的首份年度报告,揭示了当前顶尖模型的真实战力。Spirit-v1.5以67.19的综合得分和51.00%的成功率位居榜首,pi0.5紧随其后,得分为61.84,成功率为42.67%。值得注意的是,即便是排名前列的模型,在真实世界中的任务成功率也仅有一半左右,这打破了“具身智能已成熟”的普遍认知,客观反映了行业仍处于早期发展阶段。
任务难度分层
平台根据Top3模型在30个任务上的成功率,将任务划分为三个梯度。第一梯队为叠碗、堆色块等基础入门级任务,模型成功率达100%;第二梯队为放鞋上架、开抽屉等常规适配级任务,成功率在70%-90%;第三梯队则为做素三明治、给盆栽浇水等攻坚级任务,所有模型成功率均为0%,暴露了模型在处理柔性物体、长时序记忆等复杂场景下的能力短板。

通用能力瓶颈
数据清晰地表明,单任务模型的表现远优于多任务模型。以pi系列为例,pi0.5在单任务模式下成功率为42.67%,但切换到多任务模型pi05_generalist后,成功率骤降至17.67%,降幅超过50%。这说明当前模型仍停留在“专项突破”阶段,距离真正的“通用”智能还有很长的路,如何提升模型的泛化与协同能力是核心挑战。

失败案例复盘
海量失败案例揭示了模型的共性短板。在“制作素三明治”任务中,模型因缺乏多步骤协同能力,第一步抓取即告失败;在“给盆栽浇水”任务中,模型因时序记忆丢失,中途出现逻辑混乱;在“叠抹布”任务中,因无法预测柔性物体形变,成功率最高仅30%。这些案例为模型优化提供了宝贵的“错题集”。

RoboChallenge通过构建公开、可复现的真机评测体系,为具身智能领域树立了客观的行业标尺。它揭示了技术瓶颈,也凝聚了开发共识,推动行业从Demo驱动迈向数据驱动的“ImageNet时刻”,期待全球开发者共同参与,用实测定义智能的未来。