生成式AI的“幻觉”难题让人类治理捉襟见肘。一种新思路是“用AI治理AI”，通过让AI系统自省或对抗来识别风险。这种范式转变或为解决AI可靠性问题提供关键技术路径，并重塑未来的创新与责任结构。
智能速览
AI生成内容成本降低，但其真伪甄别成本剧增。
Gnosis系统通过分析AI内部信号，能以超80%的准确率预测错误。
“用AI治理AI”是治理范式的转变，实现内嵌、实时、同构化治理。
该思路已发展出宪法型、对抗型、自省型等多种具体模式。
AI治理AI本身也面临二阶风险和结构性合谋等技术挑战。
未来竞争力或取决于谁的治理架构更具公信力。
精华内容
当AI复杂性超越人类治理边界，“用AI治理AI”成为新选择。这并非简单的工具升级，而是一场深刻的治理结构重构。
治理新范式
人类治理AI面临三重困境。首先是AI系统复杂度已逼近甚至超越人类掌控边界，例如GPT-5参数量或超万亿级。其次是AI技术迭代速度过快，人类立法和监管存在天然时滞。最后，为人类设计的传统治理模式，难以直接适配AI的运行逻辑。因此，“用AI治理AI”作为一种内嵌、实时、同构性的治理范式，逐渐获得关注。
六种实践模式
目前“用AI治理AI”已发展出多种模式。宪法型治理，如Anthropic的“宪法AI”，将原则嵌入模型进行自我校验。对抗型治理，如OpenAI的自动“红队”，通过AI攻击AI来测试风险。模拟型治理，通过多智能体仿真预判社会影响。审计型治理，则是对行为进行持续监控与分析。此外还有代理型与自省型治理，如Gnosis系统便是自省型治理的代表。
潜在技术风险
“用AI治理AI”自身也面临技术风险。一是“二阶风险”，即治理AI本身也需要被治理，其目标函数若被篡改或极端优化，可能引发系统性风险。二是“结构性合谋”，多个治理模块可能为达成局部最优而“默契合谋”，导致系统整体收敛到对人类不利的“边缘合法”状态，且这并非源于任何恶意指令。
深远社会影响
这一新范式将深刻影响社会。它将改变创新方式，从“先试错后监管”变为“约束中探索”。同时，它将重塑责任与信任结构，信任对象从个人转向持续纠偏的机制。未来，谁掌握了更具公信力的治理架构，谁就可能掌握AI时代的核心权力，进而改变全球技术格局。
“用AI治理AI”是对技术现实的有力回应，它重构了治理结构，为AI时代的风险管控提供了新路径。当AI开始部分承担治理职责，人类在其中的新位置与角色，将是未来需要持续探讨的核心议题。
