为解决终端智能体训练中真实环境数据的缺失难题,一项名为 TerminalTraj 的工作应运而生。它通过自动化方案,构建了超三万个可运行的Docker环境,并生成了五万余条经过验证的交互轨迹,显著提升了模型在复杂任务中的表现,为终端智能体的发展提供了坚实的数据基础。
智能速览
现有方法难以构建大规模、真实可运行的Docker环境。
TerminalTraj提供自动化、可扩展的终端环境构建方案。
项目构建了32,325个Docker镜像和50,733条终端交互轨迹。
TerminalTraj-32B模型在TerminalBench上达到SOTA水平。
真实环境交互轨迹能显著增强模型的test-time scaling能力。
精华内容
TerminalTraj 的核心在于其创新的构建流程,从海量仓库中自动筛选、构建、验证,最终形成高质量的数据集,其细节与方法值得关注。
现有局限
当前训练终端智能体的方法面临两大瓶颈。一是完全依赖大型语言模型(LLM)合成环境,这种方式生成的内容与真实环境存在偏差,缺乏实用性。二是仅基于少数高星GitHub仓库构建任务,虽然环境真实,但规模和多样性严重不足,无法支撑模型学习应对复杂多变的真实世界场景,限制了其能力上限。
创新方案
针对上述难题,TerminalTraj提出了一套全自动化的可扩展构建流程。首先,设计了一套基于文件质量与数量的Repo评分机制,用于从海量仓库中自动筛选出高质量候选。接着,自动构建大规模可运行的Docker环境,确保每个环境都是真实且可交互的。最后,基于具体环境自动生成与之严格对齐的终端交互任务实例,并针对8个需要特殊依赖的专业领域进行了专门增强。
数据规模
该工作的数据规模令人印象深刻。项目起始源头为899,741个GitHub仓库,经过自动化筛选与构建流程,最终成功构建了32,325个可运行的Docker镜像。基于这些环境,生成了50,733条通过实际执行验证的终端智能体轨迹。数据集覆盖了Python、JavaScript、Go等8种主流编程语言,以及数据分析、系统运维等8个专业的终端任务领域。
性能提升
基于Qwen2.5-Coder模型进行多轮监督微调(SFT)后,构建的TerminalTraj系列模型性能表现突出。在权威评测基准TerminalBench上,TerminalTraj-32B模型在参数规模小于100B的模型中达到了当前最优(SOTA)水平。更重要的是,实验发现,使用这种基于真实环境交互构建的轨迹进行训练,能显著增强模型的test-time scaling能力,即模型在推理时通过更多计算获得更好表现的能力。
TerminalTraj 的工作为终端智能体的训练开辟了新路径,证明了构建大规模真实环境数据的重要性。未来,随着数据规模和覆盖领域的进一步扩大,终端智能体解决实际问题的能力无疑将得到更强的释放,这或许将加速通用人工智能在交互式任务中的落地。