针对现有大模型智能体工具评测的不足,北大团队推出了MCPAgentBench评测基准。它通过模拟真实环境和引入效率指标,能更精准地揭示模型在复杂工具调用中的真实能力与缺陷,为技术选型和优化提供了新视角。
智能速览
北大团队发布MCPAgentBench评测基准,聚焦大模型智能体的工具使用能力。
评测集包含180个真实任务,并引入干扰工具来测试模型的抗干扰能力。
新增任务高效完成分数(TEFS),专门评估工具调用的执行顺序是否正确。
主流模型普遍不擅长并行工具调用,OpenAI系列模型在此项得分为零。
qwen3-235b因“无思考链”设计,在Token效率上表现最优。
精华内容
MCPAgentBench的评测结果,不仅是一份排名,更是一面镜子,照出了当前顶尖模型在工具协同上的普遍短板。
评测基准新设计
为解决现有评测依赖外部服务、缺乏难度感知的问题,MCPAgentBench构建了高质量的评测集。数据源自GitHub和MCP市场的841个真实任务与超20000个工具,经人工审核筛选出180个实例。
任务按调用复杂度分为单工具、双工具并行、双工具串行和多工具调用四类,并按领域划分为通用与专业任务,确保评测的全面性和梯度性。评测在动态沙箱中进行,候选工具列表内含干扰项,以考验模型的工具选择与甄别能力。
效率指标引入
传统评测多关注任务完成率,而MCPAgentBench引入了更为严格的效率指标体系。除评估任务正确性的任务完成分数(TFS)外,新增了任务高效完成分数(TEFS),用于衡量模型工具调用的执行顺序是否正确。
同时,评测还包含Token效率和时间效率,从资源消耗维度对模型性能进行综合考量。这一系列指标的引入,使得评测结果不再局限于“能否完成”,而是深入到“如何高效完成”的层面。
并行调用软肋
评测结果暴露出当前大模型的一个关键短板:并行工具调用能力。在双工具并行任务中,尽管模型的TFS分数尚可,但TEFS分数却出现大幅下滑。
这表明模型虽然能识别出需要调用哪些工具,却普遍无法正确规划和执行并行的调用逻辑。尤为突出的是,OpenAI系列模型在并行工具调用任务上的TEFS得分直接为零,显示其在此领域存在严重缺陷。
效率模型差异
在效率维度,不同模型展现出鲜明特点。qwen3-235b-instruct凭借其“无思考链”的设计,显著减少了推理过程中的Token消耗,在Token效率上拔得头筹。
Claude Sonnet 4.5则在时间效率上领先,完成任务速度最快。相反,gpt-5模型因其过度的“思考”过程,不仅未能提升任务完成质量,反而导致Token和时间效率双双垫底,揭示了过度推理的潜在弊端。
MCPAgentBench为评估大模型工具能力提供了更科学的标尺,揭示了效率与协同能力的重要性。未来,模型发展是否会更侧重于此?