什么值得买App下载 App ›
连续签到专享现金活动

一个多Agent协作根本性缺陷:拜占庭将军

随着大型语言模型(LLM)被广泛部署为协作智能体,群体共识机制成为关键研究课题。然而,最新研究揭示了多智能体协作在应对经典“拜占庭将军问题”时的根本性脆弱性。核心矛盾在于,基于随机系统的协作难以支撑确定性共识,这直接解释了为何试图用一群“诗人”去执行“会计”工作并期待机器般精确对账是不可行的。
01共识失败与停滞现象

共识失败模式分析

理想环境下的困境

即使在所有智能体都诚实的情况下,共识依然难以达成。

  • 随着群体规模扩大,对共同价值观达成一致的难度显著增加
  • 失败模式并非答案被恶意篡改,而是表现为“停滞”
恶意环境下的崩溃

当混入“坏智能体”时,系统迅速失效。

  • 只要混入一个“坏智能体”,整个网络即无法达成共识
  • 困扰分布式系统40年的难题已成为AI领域的现实威胁
  • 对话陷入死循环
    智能体之间无法收敛到统一结论,导致交互无限进行。
  • 超时与无响应
    系统在规定时间内无法输出最终决策,导致任务中断。
02根本矛盾:随机性 vs 确定性

系统引擎的根本冲突

传统共识算法
  • 依赖节点执行完全一致的确定性协议

  • 需要精确执行和可预测的输出结果

大语言模型本质
  • 本质是随机的,输出结果天生具有波动性

  • 运行在充满不确定性的引擎上,缺乏数学形式的严格保证

这种根本性的冲突构成了多智能体系统的阿喀琉斯之踵。依赖更多智能体来获得更好答案存在未被重视的天花板,当群体规模过大时,协调带来的沟通成本和共识失败风险,将完全抵消多元视角带来的好处,“人多力量大”在此成为一种幻象。
03实践建议与风险控制
建议方向具体措施预期目标
拥抱工程严谨将共识机制作为核心模块,通过外部的、形式化的协议强制达成一致避免依赖简单的“涌现”效应,确保系统稳定可靠
设立安全护栏在金融、医疗等领域,让AI负责“提议”,决策保留在确定性系统或人类手中在没有引入“拜占庭容错”机制前,防止不可信决策造成损失
控制群体规模主动测试并寻找“群体规模临界点”,在临界点内利用多样性红利避免因规模过大导致共识崩溃,平衡多元视角与协调成本

高风险领域多智能体部署策略

综上所述,可靠的共识不是靠智能体“聊出来”的,而是靠严谨的工程设计出来的。在当前阶段,重新审视智能体数量的效益,并在关键决策环节保留确定性控制,是规避系统性风险的必由之路。

评论

评论区空态插画

当前文章无评论,是时候发表评论了