多Agent系统在医疗金融等核心场景应用广泛，但其隐私安全问题被严重低估。现有审计方法只关注最终输出，忽略了Agent间交互的内部通道。一项新的研究发现，这些内部“悄悄话”的隐私泄露率远超外部，成为监管盲区。本文将深入剖析这一重大风险，揭示多Agent系统隐藏的隐私漏洞，为安全部署提供新视角。
智能速览
多Agent系统内部通道泄露率是外部通道的2.1倍
仅审计最终输出会漏掉高达41.7%的隐私违规行为
多Agent系统总泄露率飙升至68.9%，远超单Agent模式
安全对齐的Claude 3.5 Sonnet也存在28.1%的内部泄露率
AgentLeak基准首次全面评估多Agent内部隐私风险
精华内容
多Agent系统在处理敏感数据时，其内部的通信链条究竟隐藏了多少隐私风险？一项全新的基准测试揭示了令人担忧的真相。
监管盲区
当前对多Agent系统的隐私审计存在巨大盲区。企业和开发者普遍只关注最终输出给用户的结果是否合规，而完全忽略了Agent之间为了协同工作而产生的海量内部通信。这些数据通过Agent间消息、共享内存、工具参数等通道流转，构成了一个无人监管的“暗网”。一项对真实医疗工作流的审计发现，一个调度Agent的最终输出是完全合规的，但它传递给验证Agent的消息中却包含了患者的完整医疗记录，这种严重的隐私侵犯在传统审计下无从发现。
AgentLeak登场
为了解决这一难题，研究者推出了全球首个全栈多Agent隐私泄露基准AgentLeak。该基准覆盖医疗、金融、法律和企业四大高敏感领域，构建了1000个真实场景，并系统性地拆解出7个泄露通道和32类攻击模式。测试对象包括GPT-4o、Claude 3.5 Sonnet等5款主流大模型。结果显示，多Agent配置虽然将单一输出通道的泄露率从单Agent的43.2%降至27.2%，但引入了内部通道后，系统的总泄露率飙升至68.9%。
内部通道高危
测试数据明确指出，内部通道是隐私泄露的重灾区。内部通道的平均泄露率高达57.8%，是外部通道（27.2%）的2.1倍。其中，Agent间消息（C2通道）的泄露率最高，达到68.8%，是最终输出泄露率的2.5倍。这意味着，仅审计输出会漏掉高达41.7%的隐私违规行为。即使是安全对齐方面备受赞誉的Claude 3.5 Sonnet，其内部通道泄露率也达到了28.1%，证明了模型级别的安全训练并未能有效覆盖内部通信风险。
安全新方向
这些发现表明，多Agent系统的发展必须将隐私保护的重心从“输出审计”转向“全链路管控”。未来的多Agent框架需要内置对内部通信的隐私保护机制，例如在协调层强制执行数据最小化原则，确保Agent只分享完成任务所必需的最少信息。组织在部署此类系统时，也必须建立能监控所有内部数据流的审计工具，不能再仅仅依赖对最终输出的检查，才能真正将隐私风险关进笼子。
多Agent系统带来的效率提升背后，是潜藏的巨大隐私危机。AgentLeak基准为我们敲响了警钟，揭示了内部通道是当前最脆弱的环节。未来的AI安全建设，必须将目光从最终结果延伸到整个协作过程。如何为Agent的“悄悄话”加上一把可靠的锁？
