调试 AI Agent 常常像“盲飞”，改个 Prompt 就可能让用户体验倒退，却缺乏客观的验证方法。Anthropic 结合内部实践与客户经验，梳理出一套完整的 AI Agent 评估体系。这套指南旨在帮助开发者摆脱被动响应，通过系统化的自动化评估，量化改进效果，确保 Agent 在迭代中持续稳定，甚至变得更聪明。
智能速览
AI Agent 开发需要从直觉调试转向系统化评估，以避免性能退化。
评估体系包含任务、试验、评分器等核心组件，用于端到端验证。
针对编码、对话、研究等不同类型的 Agent，需采用差异化的评估策略。
构建评估应尽早开始，从真实失败中收集任务，并平衡能力与回归测试。
使用 pass@k 和 pass^k 指标，可以更准确地捕捉 Agent 行为的非确定性。
精华内容
面对复杂多变的多轮交互和工具调用，简单的测试已无法满足需求。如何构建一套既能捕捉 Agent 能力边界，又能防止性能回退的评估体系，成为了关键挑战。
为何需要评估
早期靠直觉和手动测试能走很远，但一旦 Agent 进入生产环境，缺乏系统化评估就会引发问题。用户反馈“感觉变蠢了”时，团队无法区分是真实退化还是偶然噪声，调试变成被动的“等投诉-复现-修复”循环。评估的复利效应显著，它能帮助团队在模型升级时快速验证，几天内完成适配，而没有评估的团队可能需要数周手动测试。
三类评分器
评估 Agent 通常组合三类评分器。基于代码的评分器（如单元测试）快速、客观，但较为脆弱；基于模型的评分器（LLM 评委）灵活，能处理开放式任务，但需要与人工校准；人工评分是黄金标准，但成本高且难以规模化。实践中建议尽可能用确定性评分器，必要时加 LLM 评分器，人工评分器用于校准，形成成本与效果的平衡。
差异化评估策略
不同类型的 Agent 评估重点不同。编码 Agent 相对简单，可通过 SWE-bench 等基准测试代码是否通过测试；对话 Agent 需要模拟用户交互，评估语气、解决效率等多维度目标；研究 Agent 评估最难，需综合检查信息来源的全面性、准确性和权威性，并频繁与人工校准。计算机操作 Agent 则需在真实或沙盒环境中检查操作结果。
从零到一路线图
构建评估体系应尽早开始，不要等完美。初期仅需 20-50 个从真实失败（如客服工单、Bug 追踪）中提取的任务即可。任务需有明确参考答案和成功标准，确保两个专家能得出相同判定。问题集要平衡，既测应该做的情况，也测不应该做的情况，避免训练出“什么都答应”的 Agent。评估最终结果而非执行路径，以保护 Agent 的创造性。
理解非确定性
Agent 行为存在随机性，单次运行结果不可靠。需借助两个指标：pass@k（k 次尝试中至少一次成功的概率）和 pass^k（k 次尝试全部成功的概率）。编码场景更关心 pass@1（首次成功率），而面向用户的 Agent 则更关注 pass^k，因为用户期望每次交互都可靠。选择哪个指标取决于产品需求。
长期维护之道
评估体系需要持续维护。定期阅读失败的转录轨迹，能分辨是 Agent 真的错了，还是评分器拒绝了有效解。同时要监控评估集的饱和度，当通过率接近 100% 时，它只能追踪回归，无法再提供改进信号。应让最接近用户的人（如产品经理、客服）持续贡献新的、更难的评估任务，驱动 Agent 能力不断提升。
构建评估体系是 AI Agent 从“玩具”走向“工具”的关键一步。它将失败转化为测试用例，用指标取代猜测，让迭代变得有据可依。随着模型能力的快速演进，一个健康的评估体系将是团队保持竞争力、快速适应变化的基石。你的团队准备好告别“盲飞”了吗？
