大模型 Tool Call 描述太占上下文的问题解决了?
Manus 的后端负责人在 Reddit 上发布了一篇关于大模型工具调用的帖子,引起了广泛关注。该帖子提出了一种全新的方法,旨在解决传统 Tool Call(工具调用)在配置大量工具时导致上下文占用过高的问题。通过引入统一的命令行接口,利用大模型对 UNIX 命令的先天认知,实现了更自然、更节省 Token 的交互模式。
01传统 Tool Call 的痛点
大模型配置 Tool Call 后可以调用本地工具,与操作系统交互以访问资源,从而完成视频剪辑等复杂任务。然而,传统方法要求将所有工具的功能描述写入 system prompt 中。当工具数量众多时,会导致 prompt 失焦,模型忙于选择工具而非解决实际问题。
02CLI 新方案原理
作者提出的新方法不再提供大量散乱的工具,而是仅提供一个 `run(command="...")` 的调用模式。文件操作、内存、浏览器、剪辑调用等均被映射为统一命令空间内的 command。通过利用 UNIX 管道命令符,模型可以构建复杂的调用链,例如:
`run(command="cat 脚本.md | grep \"分镜A\" | find ./分镜A.* | ffmpeg ....")`。
这种方式使模型不再在多个 API 之间跳转,而是在熟悉的 CLI 语境中直接表达任务流程。
`run(command="cat 脚本.md | grep \"分镜A\" | find ./分镜A.* | ffmpeg ....")`。
这种方式使模型不再在多个 API 之间跳转,而是在熟悉的 CLI 语境中直接表达任务流程。
03优势与局限性分析
| 对比维度 | CLI 新方案 | 传统 Tool Call |
|---|---|---|
| Token 消耗 | 低,无需在 prompt 中堆砌工具说明,按需查看 --help | 高,需在 system prompt 中详细描述所有工具 |
| 自然度 | 高,利用模型先天掌握的 Shell 命令 | 低,需处理大量 JSON Schema |
| 适用场景 | 文本处理、文件操作、通用任务流 | 强类型数据操作、数据库精准交互 |
| 稳定性 | 新命令未经后训练微调,存疑 | 经过专门的后训练调整,稳定性高 |
CLI 方案与传统 Tool Call 对比
该方案的核心优势在于大模型的训练机制。模型基于文本输入输出训练,而 UNIX CLI 遵循“一切皆文件”的哲学,同样基于文本交互。Shell 命令已内置于大模型的参数中,因此命令行比 JSON Schema 更自然。此外,使用 `--help` 指令让模型自主查询参数,能显著节省 Token。
04潜在局限与实测进展
- 新命令稳定性
除了标准 UNIX 工具外,作者提供的新命令未经过专门的后训练调整,调用稳定性可能不如传统 Tool Call。 - 精准操作受限
对于涉及强类型数据或数据库的精准操作,传统 Tool Call 依然是更好的选择。 - 剥离与集成
目前作者正在尝试将该工具从 AI 自动剪辑工具中剥离,并计划集成到“龙虾”项目中,测试结果将后续以 Skill 形式发布。
当前文章无评论,是时候发表评论了