多智能体系统虽能通过辩论提升大模型推理能力，却面临高成本、高延迟和错误放大的挑战。AgentArk研究提出新范式，通过训练阶段的蒸馏技术，将复杂的群体智慧内化到单个LLM中，旨在实现更高效、鲁棒的推理表现。
智能速览
多智能体系统提升推理但存在高成本、高延迟问题。
AgentArk通过训练阶段蒸馏，将多智能体智慧融入单个LLM。
其核心是三层蒸馏技术：共识监督、轨迹增强、批判修正。
实验表明，单模型效率更高，推理和泛化能力更好。
精华内容
如何在不牺牲推理能力的前提下，解决多智能体系统的高成本与延迟问题？AgentArk研究提供了一种新思路，将复杂的群体交互过程转化为单个模型的内在能力。
多智能体的困境
多智能体系统通过模拟多个智能体间的辩论、批判和共识过程，能够显著提升大语言模型（LLM）在复杂任务上的推理能力。然而，这种动态交互的方式也带来了明显的弊端：高昂的计算成本、较大的推理延迟，以及在交互过程中可能放大个别模型的错误，导致最终结果不可靠。这些问题限制了其在实际场景中的应用。
AgentArk核心思路
AgentArk的解决方案是改变推理模式。它并非在模型推理时进行多轮交互，而是在模型训练阶段就将多智能体的群体智慧“蒸馏”并融合进单个LLM。这样一来，模型在推理时无需实时协作，而是依靠内化学会了自我辩论和修正的能力，从而直接生成高质量的答案，大幅提升效率。
三层蒸馏技术
为实现这一目标，AgentArk采用了三层蒸馏策略。
第一层是基于共识结果的推理监督，利用多智能体辩论后达成共识的高质量结果作为监督信号，训练模型产出正确答案。
第二层是多样推理轨迹增强，通过模拟多智能体产生多样化的推理路径，让模型学习从不同角度思考问题，增强其鲁棒性和泛化性。
第三层是过程级奖励驱动的批判-修正蒸馏（PAD），引入奖励机制来评判推理过程的好坏，驱动模型学会批判自己的推理并进行自我修正。
效果与优势
研究结果显示，经过AgentArk方法训练的单个LLM，在多个基准测试中表现优异。与传统的多智能体系统相比，它不仅推理速度更快、成本更低，而且在多数情况下，其推理行为、泛化能力和对对抗性样本的鲁棒性都获得了更好的结果。这证明了将群体智慧内化为单体模型能力的可行性与优越性。
