腾讯开源了实时交互式生成世界模型HY-World。它能够根据文本或动作指令,实时生成无限长、可交互探索的3D世界视频,同时保持几何一致性。这项技术解决了当前模型在速度与记忆间的权衡难题,为游戏开发和虚拟现实应用带来了新的可能性。
智能速览
腾讯开源了实时交互式生成世界模型HY-World。
支持通过文本或动作指令实时生成无限长的3D世界视频。
实现了24fps 720p流式输出,并能保持长期几何一致性。
核心技术WorldPlay解决了速度与内存的权衡难题。
支持第一和第三人称视角,对游戏和VR开发极具价值。
精华内容
HY-World的核心突破在于其流式处理能力和长期几何一致性。这项技术如何实现实时渲染,又将如何改变游戏与VR的开发范式?
实时交互生成
HY-World最引人注目的特性是其实时交互能力。用户只需输入一句描述文本,或通过手柄给出一个动作信号,模型便能即时渲染出一段视频流,展现出一个可探索、可交互的3D世界。该模型同时支持第一人称和第三人称视角,为用户提供了灵活的观察与互动方式,让虚拟世界的构建变得前所未有的直观和迅速。
核心技术突破
为了实现流畅的实时体验,HY-World采用了名为WorldPlay的流式视频扩散模型。这项技术的核心突破在于,它有效解决了现有方法在生成速度与视频长度(记忆)之间的固有矛盾。这使得模型能够以24帧每秒的速率稳定输出720p分辨率的视频,并确保在长时间生成过程中,场景的几何结构保持高度一致,避免了物体穿模或环境变形等问题。
广阔应用前景
这项技术的开源,对游戏设计、虚拟现实(VR)和元宇宙概念的发展具有深远影响。开发者可以利用HY-World快速生成庞大且复杂的游戏地图或虚拟场景,极大地缩短开发周期。对于VR体验,用户可以动态创造和探索属于自己的虚拟空间,这为未来的社交、娱乐和教育培训等领域提供了全新的可能性。
腾讯开源的HY-World模型,在实时生成和几何一致性上实现了显著突破,为构建动态、可交互的虚拟世界提供了强大的工具。它预示着游戏和VR内容创作方式的革新,未来,创造一个沉浸式的3D世界或将不再是少数人的专利。这是否会开启一个全民创作的元宇宙时代?