张大妈

ETH×Meta:三点输入实时生成双人舞蹈

源自小红薯:每日ComputerScience

02-05 16:15

VR中创建流畅的双人舞蹈动画曾需高昂的动捕成本与算力。如今,一项来自ETH与Meta的研究提出仅需头显捕捉三点(头加双手)轨迹,便能实时生成高质量双人舞蹈,大幅降低了技术门槛,为VR社交与数字人互动带来了新可能。

ETH×Meta:三点输入实时生成双人舞蹈智能速览

  • 仅用VR头显的三点轨迹即可描述并驱动完整的双人舞蹈动作。

  • 采用映射网络与跟踪网络的双阶段架构,确保了动作生成的稳定性。

  • 完全确定性模型避免了生成噪声,实现了低延迟的实时响应。

  • 通过“领舞-跟舞”范式建模双人互动,简化了复杂的协同关系。

  • 普通笔记本CPU上即可实时运行,性能显著优于基于扩散模型的方法。

  • 即使在小的舞蹈数据集上训练,该方法也展现出强大的泛化能力。

ETH×Meta:三点输入实时生成双人舞蹈精华内容

这项技术的核心在于化繁为简,将复杂的全身动画问题,巧妙地转化为对头部与双手这三个关键点轨迹的精准建模与预测,从而在保证效果的同时实现了高效的实时生成。

三点轨迹即动作

传统的人体动作合成常需处理高维度的全身关节数据,模型复杂且容易过拟合。该研究独辟蹊径,提出将VR设备天然能捕捉的头部与双手这三点轨迹,作为描述和驱动双人舞蹈的核心“动作描述子”。

这种低维表示极大地简化了问题,不仅显著降低了数据需求与算力负担,还有效规避了直接建模高维动作时可能遇到的复杂性与不稳定性,为实时应用奠定了基础。

双阶段架构

为确保动作的连贯与稳定,研究设计了映射网络与跟踪网络的双阶段架构。首先,映射网络根据当前的三点轨迹,预测未来一段时间内领舞者与跟随者的运动轨迹。

随后,跟踪网络接过这些预测轨迹作为输入,像一位精准的“动画师”,自回归地生成每一帧的完整全身骨骼动作。这种职责分明的流程,有效避免了端到端模型可能出现的级联误差和不稳定现象。

确定性模型优势

与当前流行的扩散模型不同,该方法采用了完全确定性的生成策略,通过多层感知机(MLP)和改进版的Codebook Matching技术在连续潜空间中进行匹配,彻底消除了生成过程中的随机噪声。

这一设计带来了两个核心优势:低延迟与强响应性。实验数据显示,在普通笔记本的CPU上,单角色推理仅需约7.8毫秒/帧,轻松达到30Hz的实时运行标准,这是许多基于扩散模型的实时方法难以企及的。

领舞-跟舞范式

双人舞蹈的精髓在于互动。研究巧妙地利用了交谊舞中“领舞-跟舞”的清晰角色先验,将被动的跟舞者建模为对领舞者轨迹的响应。

这种互动范式被施加于轨迹层面的预测,而非复杂的全身关节层面,从而极大简化了双人协同建模的难度。通过仅预测跟舞者的反应轨迹,模型避免了复杂的双向自回归,确保了双人动作的同步性与和谐感。

实测性能与泛化

定量实验结果充分证明了该方法的优越性。在三点跟踪误差上,该方法仅5.68cm,远超对比方法CBM的14.2cm。在衡量整体动作质量的全身误差上,结果为8.32cm,同样领先。

尤为关键的是,在跟舞者的合成误差上,该指标低至9.21,显著优于基于扩散的实时方法CAMDM的32.7。此外,该方法在自采的小规模舞蹈数据集上训练后,在LaFAN1等大规模通用数据集上同样表现出色,展现了强大的鲁棒性与泛化能力。

这项研究通过三点输入实现了高质量双人舞蹈的实时合成,其确定性模型与高效架构为VR交互和数字人动画设立了新标杆。未来,这种轻量化技术能否催生出更多沉浸式的社交与娱乐新体验?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章