面对自主AI智能体日益复杂的安全风险，传统静态防御显得力不从心。上海AI Lab提出的AgentDoG框架，通过构建诊断型守门员，实现了对风险的精准识别与根因追溯。这项研究将安全评估从内容过滤提升至过程诊断，为AI Agent的安全应用提供了全新且可靠的解决方案，有效解决了复杂交互中的隐性风险难题。
智能速览
提出三维安全分类法，系统刻画AI Agent的复杂风险。
构建诊断型守门模型，实现轨迹级风险溯源。
发布细粒度基准ATBench，包含500条长程交互轨迹。
AgentDoG在ATBench上诊断准确率超92%，性能显著优于基线。
通过轨迹级监控，有效捕获传统方法忽略的中间恶意行为。
精华内容
为了精准捕捉AI Agent在动态交互中的潜在威胁，AgentDoG框架从理论创新到工程实践构建了一套完整的解决方案，其核心在于一个独特的三维诊断体系。
三维分类法
AgentDoG的核心是提出了一套统一的三维安全分类法。它将风险解构为三个正交维度：风险来源（用户、环境、工具或内部）、失效模式（行为类或输出类）以及现实危害（涵盖隐私、金融、物理等10类）。这种系统性的刻画方式有效消除了传统标签的重叠问题，例如能清晰地将“提示注入”这一风险来源与“未授权访问”这一现实危害区分开，从而极大提升了风险归因的精度与可解释性。
诊断型守门员
基于此理论，研究团队构建了诊断型守门模型AgentDoG。该模型支持对智能体的完整行为轨迹进行监控，不仅能给出“安全/不安全”的二值判断，更能提供细粒度的三元组诊断报告，明确指出风险的具体来源、失效模式和最终危害。相较于仅检查最终输出的传统守门模型，AgentDoG通过轨迹级监控，能够有效捕获中间步骤的恶意工具调用与隐性指令注入，显著降低了在复杂交互场景中的漏检率。
基准与验证
为验证模型有效性，团队发布了细粒度基准ATBench。该基准包含500条平均长达8.97轮的交互轨迹，涉及2157个真实工具，并通过工具集隔离确保了零训练重叠，数据质量经过四模型与人工双层验证。在此基准上，AgentDoG的细粒度分类准确率高达92.80%，在三个诊断维度上均达到最优水平。即使在模型分歧较大的“Hard”子集上，其准确率也稳定保持在81.2%，证明了对模糊、边界风险的强大鲁棒性。
模型与开源
为推动社区发展，上海AI Lab已全面开源AgentDoG的相关资源。这包括基于Qwen和Llama家族的4B、7B、8B三种不同参数尺寸的守门模型，以及完整的训练数据集。此举旨在降低研究门槛，鼓励更多开发者和研究人员在此基础上进行复现、验证和功能扩展，共同构建更安全的AI Agent生态。
AgentDoG框架的成功，标志着AI Agent安全研究从静态内容过滤迈向了动态过程诊断的新阶段。其可追溯的诊断能力和开源实践，为构建更可靠的智能体系统奠定了坚实基础。未来，这套诊断式安全理念能否成为行业标配，值得持续关注。
