多智能体系统中的极端事件，如金融崩盘，一直是难以解释的黑箱。一项新研究首次提出系统性框架，通过量化智能体行为的边际贡献，为预测和规避这类“黑天鹅”事件提供了全新的解决思路。
智能速览
研究聚焦于解释LLM多智能体系统中的“黑天鹅”极端事件。
极端事件具有统计异常、影响巨大和事后可解释三大特征。
现有归因方法难以有效处理此类事件的风险积累和驱动因素。
新框架首次适配Shapley值来量化智能体行为的边际贡献。
通过对时间、智能体和行为的聚合归因，可刻画事件多维特征。
精华内容
要打开极端事件的黑箱，就必须追溯其起源、驱动者与关键行为。该研究提出的框架，正是为了精准回答这几个核心问题。
何为黑天鹅
在LLM驱动的多智能体系统中，会涌现出被称为“黑天鹅”的极端事件。这类事件具备三个核心特征：首先，它们是统计分布中的异常值，出现在肥尾区域；其次，它们能对整个系统产生极端的、系统性的影响；最后，它们在事后可以被分析和解释。经济中的恶性通胀、金融市场崩盘等都是其现实体现。
归因之困
尽管这类极端事件的存在已被证实，但其形成机制却被“涌现的黑箱”所遮蔽。核心问题在于：风险从何时开始积累？哪些智能体是关键驱动者？以及，是何种行为模式促成了事件发生？现有的归因方法大多依赖统计先验或外部知识，难以有效捕捉和解释肥尾分布中的极端事件，导致归因不准。
Shapley值新解
为解决上述难题，该研究提出了首个系统性解释框架。其核心创新在于适配了合作博弈论中的Shapley值。通过这种方法，框架能够忠实地量化每一个智能体在不同时刻的具体行为，对最终极端事件的发生所产生的边际贡献。这打破了传统方法的局限，实现了更精细化的归因分析。
量化风险特征
该框架不仅能进行单点归因，还能进行聚合分析。它基于时间、智能体和行为三个维度进行归因聚合，并设计出一系列定量指标。这些指标能够从多个维度刻画和描绘极端事件的具体特征，例如识别出风险积累的关键时间窗口、起到决定性作用的智能体群体以及最危险的行为模式。
这项研究为理解和控制复杂智能体系统的风险迈出了关键一步。通过量化归因，未来有望在金融、社交等领域提前预警并干预潜在的系统性崩溃。这对于构建更稳健、可靠的人工智能系统具有深远意义。
