现有Vision-Language-Action模型在捕捉3D状态变化上存在短板,导致控制效率低下。腾讯与港科大提出的Pose-VLA模型,通过创新的“统一位姿Token”与“两阶段解耦训练”范式,有效打通了3D感知与动作生成的壁垒,显著提升了模型的跨任务、跨场景泛化能力,为具身智能的发展提供了新思路。
智能速览
使用统一的6-DoF位姿Token,桥接物体状态与机械臂轨迹的表征。
两阶段解耦训练,先建立几何先验,再进行具身对齐。
采用相机中心统一坐标系,解决观测与执行空间不一致问题。
融合Depth与Raymap等显式3D几何先验,提升模型鲁棒性。
针对深度分布偏态特性,采用非均匀量化策略提高信息效率。
精华内容
Pose-VLA究竟如何通过位姿表征与两阶段训练,攻克传统VLA模型在3D空间推理与控制上的难题?其核心在于将几何信息与动作执行进行深度解耦与统一。
传统VLA的困境
当前主流的VLA模型大多沿袭VQA(视觉问答)式的语义预训练路径,这种方式在处理具身任务时暴露了明显缺陷。模型难以精确捕捉和推理环境中物体的细粒度3D状态变化,导致在需要精细控制的阶段,感知特征容易出现塌缩现象。
这不仅限制了模型的表现,也造成了训练数据的利用效率低下,使得模型在复杂多变的环境中泛化能力不足。
位姿Token统一表征
Pose-VLA的核心创新在于引入了统一的“位姿Token”表示法。它将物体的三维状态以及机械臂的运动轨迹,统一抽象为在相机坐标系下的离散化6自由度(6-DoF)位姿Token,具体包括旋转
这种设计彻底打通了3D感知与动作生成之间的表征鸿沟,让模型能够用同一种“语言”理解和操作物理世界,为后续的高效学习奠定了基础。
两阶段解耦训练
为确保模型能学到有效的几何先验,Pose-VLA采用了两阶段解耦的训练策略。第一阶段,模型在包含140万张图像和650万条3D标注的大规模非机器人数据集上进行空间预训练,主要学习通用的3D几何结构。
第二阶段,模型在此基础上,用155万条机器人轨迹数据进行轻量化的具身对齐训练,专注于将学到的几何知识映射到具体的动作执行上,有效避免了稀疏的动作监督信号与高层语义的相互干扰。
相机中心坐标系
传统VLA模型常面临一个难题:机器人感知的相机坐标系与执行动作的机器人基座坐标系不一致,这限制了模型在不同机器人间的泛化能力。Pose-VLA通过将所有物体位姿和机械臂轨迹统一投影到相机中心坐标系下,巧妙解决了这一问题。
这种以相机为中心的统一视角,使得模型学到的控制策略与具体的机器人硬件解耦,从而获得了更强的跨具身智能体泛化能力。
几何先验与离散策略
为了进一步增强模型对3D世界的理解,Pose-VLA显式地融合了3D几何先验。它将Depth(深度图)与由相机内参生成的Raymap(射线编码)作为加性条件输入到模型中,即便在仅使用RGB图像进行推理时,模型依然能保持良好的鲁棒性。
此外,针对深度信息在Z轴上呈现的偏态分布特性,研究团队设计了非均匀的分布感知离散化策略,能够更高效地利用Token容量,提升了信息熵和表征精度。
Pose-VLA通过将几何表征与动作控制深度融合,为提升VLA模型的数据效率和泛化性能提供了极具价值的解决方案。它证明了显式3D几何先验对于具身智能的重要性,未来的基础模型设计是否会更多地借鉴这种“先理解空间,再学习运动”的思路?