具身智能在走向边缘设备时,常面临高能耗与低可靠性的矛盾。一项名为 CREATE 的系统级框架为此提供了解决方案,它通过跨层协同设计,在不牺牲任务成功率的前提下,显著提升了AI系统的能效和稳定性,为AI在真实硬件上的长期运行铺平了道路。
智能速览
具身智能在边缘设备上运行面临高能耗与低可靠性的核心矛盾。
CREATE框架旨在实现能效与可靠性的协同优化。
其核心思路是跨层协同设计,整合电路、模型和应用三层。
电路层通过异常检测机制,让硬件可在更低电压下安全运行。
该方法在几乎不影响任务成功率的情况下,平均降低40%的整体能耗。
精华内容
如何在降低电压以节省能源的同时,避免硬件错误导致任务失败?CREATE框架给出了一个系统性的回答,其智慧在于协同而非单点优化。
功耗与稳定之困
具身智能系统,如机器人和无人设备,通常由大语言模型(LLM)负责高层规划,强化学习(RL)控制器执行底层动作。当部署在电池供电的边缘设备时,巨大的计算需求带来了能耗挑战。工程上常用的降压节能手段,会引入位错误,这可能导致AI规划出错或控制失灵,最终造成任务失败。如何在节能与可靠之间取得平衡,成了一个亟待解决的难题。
CREATE的协同之道
CREATE框架的创新之处在于跳出单点优化的局限,提出跨层协同设计的思想。它发现,AI系统在不同层级对硬件错误的容忍度是异构的。基于这一洞察,CREATE在电路、模型和应用三个层面同时着手,让每一层都发挥其“抗错”优势,共同实现能效和可靠性的最优解,而非让各层孤军奋战。
三层联动机制
在电路层,CREATE设计了异常检测与清理机制,过滤掉因降压产生的极端错误,保障硬件在低电压下的基础稳定。
在模型层,它为LLM规划器引入了权重旋转增强策略,提升了模型本身对硬件错误的鲁棒性,降低了任务失败的概率。
在应用层,系统会根据任务执行的不同阶段和系统实时状态,自主地动态调整控制器的供电电压,实现可靠性与能耗之间的实时精细化权衡。
实测效果显著
通过在完整系统上进行实验,CREATE的效果得到了验证。数据显示,该框架相比标称电压基线,平均降低了40.6%的计算能耗;相较于已有的优化技术,还能额外节省约35%的能耗。这直接带来了29.5%至37.3%的芯片级能耗节省,并使设备电池寿命延长了15%到30%。最重要的是,这些收益几乎未以牺牲任务成功率为代价,展现了极高的实用价值。
CREATE框架为具身智能的落地提供了关键的系统级优化思路,证明了节能与稳定可以兼得。随着AI与物理世界的融合日益加深,这类兼顾效率与鲁棒性的技术将成为推动其发展的核心动力。未来,我们还能在哪些层面挖掘AI系统的潜力?