当前自动驾驶模型依赖模仿学习,面对新场景时易失效。一项名为MindDrive的新框架,通过与小米的合作研究,证明了在线强化学习能有效解决这一瓶颈。它利用小参数模型实现了超越大模型的性能,为自动驾驶的因果推理和泛化能力提供了全新的解决思路。
智能速览
MindDrive是首个证明在线强化学习对自动驾驶VLA有效的框架。
采用双专家系统,将一个0.5B小模型拆分为决策与动作专家。
通过离散化技术,将连续驾驶动作转为语言指令,提升训练效率。
在Bench2Drive测试中,以0.5B小模型超越多个更大规模的SOTA模型。
精华内容
MindDrive的核心在于,它不再让车“照猫画虎”,而是让模型在模拟器中通过试错“自学成才”,实现了从模仿到推理的跨越。
双专家协作
为了解决单一模型在复杂任务中的能力瓶颈,MindDrive设计了一套双专家系统。该系统将一个仅有0.5B参数的轻量级语言模型拆分成两个角色:决策专家负责高层级的驾驶策略推理,而动作专家则专注于生成具体的驾驶指令。
两者共享底座模型但拥有独立的LoRA参数,这种设计让模型既能宏观思考,又能精准执行,实现了决策与行动的有效解耦。
动作空间离散化
传统强化学习在连续的驾驶轨迹空间中训练难度大、效率低。MindDrive巧妙地引入了离散化技术,将连续的驾驶动作映射为有限的语言指令,即“元动作”。
这意味着模型在进行决策时,不再是预测无数个连续数值,而是在一个预设的指令库中做“多选题”。此举极大地简化了问题复杂度,让训练效率和稳定性得到显著提升。
闭环自主学习
MindDrive的强大之处在于其闭环学习能力。在CARLA模拟器中,模型通过“试错”不断优化自己。系统会根据车辆的实际行驶轨迹给予轨迹级的奖励或惩罚信号,这些信号反向指导高层级的语言推理模块进行调整。
这种端到端的反馈机制,让模型真正理解了行为与结果之间的因果关系,而非简单模仿。
以小博大战绩
在极具挑战性的Bench2Drive闭环驾驶榜单上,MindDrive取得了78.04的驾驶分数和55.09%的成功率。最引人注目的是,这一成绩是仅用一个0.5B参数的轻量级模型达成的,其性能超越了多个参数量远大于它的SOTA模型,甚至包括7B规模的模型。
这充分证明了,通过精巧的算法设计,小参数模型也能爆发出强大的决策能力。
MindDrive的成功为自动驾驶技术的发展开辟了一条新路径,证明了模型能力并非完全取决于参数量。未来,如何将这种高效的强化学习范式从模拟器迁移到真实世界,将是值得期待的下一步。