张大妈

成本降到 2% 的 Agent 方案:把工具调用搬进执行环境

源自公众号:AI设计湿

02-05 10:02

当前企业级Agent开发面临上下文管理困难和tool调用不可靠的痛点。本文介绍的MCP执行环境方案,通过让Agent编写代码而非直接调用工具,将API成本从150,000 token降至2,000 token,降幅达98%,同时解决了复杂工作流的执行效率和隐私问题。

成本降到 2% 的 Agent 方案:把工具调用搬进执行环境智能速览

  • 传统Agent开发中tool调用依赖LLM判断,容易出现功能错乱

  • 上下文窗口占用过多是Agent开发的核心难点

  • MCP方案将工具调用改为代码执行,大幅降低token消耗

  • 中间数据在执行环境中处理,不进入模型上下文

  • 代码执行方式支持更复杂的流程控制和错误处理

  • 该方案特别适合连接大量工具和复杂工作流的Agent

成本降到 2% 的 Agent 方案:把工具调用搬进执行环境精华内容

Anthropic提出的MCP执行环境方案,通过改变Agent与工具的交互方式,从根本上解决了传统LLM+Tool模式的诸多限制,让Agent开发变得更加高效和经济。

传统方案弊端

现有的LLM+Tool模式存在明显问题。当tool数量增加时,上下文管理变得困难,容易出现记忆丢失。更严重的是,即使prompt中明确了tool之间的依赖关系,LLM也无法保证按照预期顺序执行,导致产品端偶现功能错乱。随着上下文窗口占用增加,这个问题出现的频率也会加剧。

MCP核心思路

MCP方案的核心改变是将工具调用API转为代码执行。Agent编写代码与MCP服务器交互,代码在执行环境中处理所有中间数据,仅将最终结果返回给模型。这种方式下,Agent可以按需导入工具,避免了加载全部工具定义的开销。

成本对比分析

Anthropic的测试数据显示,原本消耗150,000 token的工作流程,采用MCP方案后仅需2,000 token,成本下降98%以上。这不仅是成本节约,执行速度也显著提升,因为代码执行比多次API调用更高效。

技术实现示例

以Salesforce数据处理为例,传统方案需要3次独立的tool调用,所有中间数据都要通过上下文传递。而MCP方案下,Agent编写一次代码,在同一执行环境中完成搜索、过滤和汇总,只有最终的摘要对象返回给模型。

七大核心优势

MCP方案的优势包括:token大幅节省、渐进式工具发现、中间数据处理、更好的流程控制、隐私保护、状态持久化和可重复使用技能。特别是隐私保护方面,敏感数据可以在执行环境中处理而无需进入模型上下文。

适用场景分析

这种方案特别适合需要访问许多工具、具有复杂工作流程和长时间运行任务的Agent。当Agent连接数十个服务时,传统方法已经无法规模化,而MCP方案能够轻松应对,让Agent变得更加智能和高效。

MCP执行环境方案重新定义了Agent的构建方式,通过将工具调用转化为代码执行,不仅大幅降低了成本,还提升了执行效率和可靠性。随着Agent连接的工具数量不断增长,这种方案将成为大规模Agent应用的标准实践。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章