AI代理的自主性带来了隐藏在执行轨迹中的安全风险。AgentDoG框架应运而生，它超越了传统“结果验收”式的安全防护，通过轨迹级全程审计，精准诊断风险来源、失效模式与潜在危害，为AI代理的安全与稳定运行提供了全新的保障思路。
智能速览
AgentDoG是一个专为AI代理设计的轨迹级安全诊断框架。
它通过全程轨迹审计，而非仅检查最终结果，来识别风险。
框架能从风险来源、失效模式和潜在危害三个维度进行诊断。
集成的可解释AI（XAI）模块能定位导致问题的具体执行步骤。
项目配套开源了包含500条轨迹的评测基准ATBench。
精华内容
AgentDoG的核心优势在于其独特的诊断过程和归因能力，它如何实现轨迹级的精细化安全分析呢？
传统防护的局限
传统的安全防护机制如同“结果验收员”，只在任务结束后检查输出是否合规，这种方式忽略了AI代理在执行过程中可能出现的各种风险。例如，一个代理可能在中间步骤访问了敏感数据或执行了危险操作，但最终输出看起来正常，传统防护便无法察觉。AgentDoG则扮演“过程审计员”的角色，沿着代理的完整行动轨迹进行监督，确保每一步都在安全可控的范围内。
三维风险诊断
AgentDoG将复杂的风险拆解为三个核心维度进行诊断，分别是风险来源、失效模式和最终危害。风险来源用于判断问题起源于恶意的外部请求还是环境的固有缺陷。失效模式则分析代理是因规划能力混乱出错，还是滥用或误用了可用工具。最终危害评估该行为可能导致的具体后果，比如是隐私数据泄露，还是对系统造成了破坏性影响。这种结构化诊断让安全问题一目了然。
精准的归因定位
该框架最令人瞩目的功能是其强大的归因能力。通过集成可解释AI（XAI）模块，AgentDoG不仅能标记某条轨迹“不安全”，还能在漫长的执行步骤中精准定位到“是哪一步”或“哪一句指令”将代理引向了错误的方向。这为开发者提供了明确的调试线索，让他们不仅知道“发生了什么”，更清楚“为什么会发生”，极大地提升了安全问题的排查效率。
评测与开源生态
为了推动该领域的发展，研究团队同步发布了评测基准ATBench。该数据集包含500条完整的代理执行轨迹，其中250条安全轨迹和250条不安全轨迹，并提供了细粒度的诊断标签，便于进行诊断式评估。更重要的是，AgentDoG的模型、代码及评测基准已全部开源，为研究者和开发者提供了一个可直接上手、共同完善的平台。
AgentDoG为AI代理的安全体系构建提供了从“事后审查”到“过程审计”的范式转变，其开源特性和标准化评测基准将推动该领域的发展。未来，这种可解释的诊断能力是否会成为AI系统的标配呢？
