张大妈

MIT:用语言驱动的“虚拟现实实验室”

源自小红薯:每日ComputerScience

01-25 13:22

随着大语言模型能力向决策推理深化,传统仿真环境已显不足。MIT推出的VirtualEnv平台,基于虚幻引擎5构建,旨在统一视觉真实度、语言驱动、复杂任务与多智能体协作,为LLM/VLM在真实交互环境中的系统性评测与研究提供了全新解决方案。

MIT:用语言驱动的“虚拟现实实验室”智能速览

  • 基于虚幻引擎5构建,提供业界领先的视觉真实度。

  • 允许智能体通过自然语言直接与环境交互和修改。

  • 内置超过20000个具备明确可供性的高分辨率资产库。

  • 引入逃脱房间基准,用于系统性评估AI的多步推理能力。

  • 支持多个AI智能体实时协作,提升复杂任务成功率。

MIT:用语言驱动的“虚拟现实实验室”精华内容

为了深入评测LLM在真实环境中的决策与规划能力,VirtualEnv平台通过四大核心支柱,构建了一个统一且强大的研究生态系统。

UE5高保真环境

VirtualEnv的核心基础是Unreal Engine 5,这使其能够构建出视觉保真度极高的仿真环境。平台支持室内与室外一体化场景,覆盖了办公室、商店、城市街区等多种复杂环境。在用户盲测中,其视觉真实度显著高于AI2-THOR、Habitat等现有主流仿真平台,为视觉语言模型(VLM)提供了更接近现实的测试床。

语言即接口

该平台通过Python API与大语言模型和视觉语言模型深度集成,实现了“语言即接口”的交互范式。智能体可以直接接收自然语言指令,进行任务理解、行为规划、执行操作,甚至主动修改环境,真正做到了“用语言操作世界”,极大降低了人与智能体、智能体与环境之间的交互门槛。

资产与语义建模

平台内置了一个包含超过20,000个高分辨率资产的大规模库,每个资产都明确标注了可供性,例如“可开”、“可拿”、“可移动”等。配合UE5的物理引擎,这些资产能支持真实的状态变化。其核心是场景图(Scene Graph)驱动的语义建模,它统一表示了对象、空间关系与状态,成为连接语言规划与物理执行的关键中间层。

评测基准设计

为系统性评测具身智能,VirtualEnv引入了名为“Escape Room”的逃脱房间基准。该基准包含四个难度层级,旨在全面考察智能体的多步推理、误导信息识别、多线索整合能力。通过这种设计,研究者可以更清晰地了解模型在复杂问题解决过程中的优势与缺陷。

多智能体协作

VirtualEnv支持多个由LLM驱动的智能体在环境中并行执行任务。平台实验证明,在复杂任务场景中,多个智能体通过分工协作,其任务成功率相比单个智能体有显著提升。这为研究多智能体间的通信、协商与协同策略提供了重要的实验平台。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章