北京时间10月27日上午,“微软CEO称不再信AI越强越安全"登上微博热搜。消息来自前一晚(美东时间10月26日)上线的《20VC》播客,主持人哈里·斯特宾斯问纳德拉,过去一年里有什么想法发生了改变,他回答:我过去总以为,对齐问题自然就会解决,我不再这么认为了,对齐可能是一个更棘手、性质也不同的问题。这一期播客的正式议题里,本身就包含"是否该信任前沿模型供应商”。微博·IT之家20VC播客
但这不是播客里的即兴感慨。十天前,也就是10月10日,纳德拉已在个人博客发布《超级智能时代,模型是内部人风险》一文,给出了替代那个旧直觉的新答案:永远假设模型已被攻破,在此前提下设计围堵与治理体系,让系统即使不被信任也值得托付。
他撤回的,是一代AI人共享过的"规模直觉":模型越强,对齐越容易跟着解决。据商业内幕报道转述,现实是模型规模扩大带来的效果符合预期、能力持续提升,但对齐问题依然没有得到解决。微博·IT之家
在新答案里,他把"对齐"与"安全"拆成了两件事。博客原文写得很直接:先搁置对齐这一难题,从围堵与治理的工程方法做起。纳德拉个人博客
这套工程方法有明确的硬规则:必须假设模型已被攻破并从头围堵,像"紧急刹车"一样,授权方应随时能在任务中途暂停或关闭模型;每一次有意义的模型动作,都必须留下防篡改、人类可读的证据;模型多样性、独立控制、独立审计、事件披露等七项原则被逐条列出。他甚至把结论推到反直觉的一端:最值得信赖的超级智能系统,不是模型最让人放心的那个,而是让我们最能"不信任模型"的那个。纳德拉个人博客
The Verge 以"纳德拉说我们应假设所有AI模型都已被攻破"报道了这篇长文,同时讥讽他通篇还在使用"超级智能"这个营销话术。 Hacker News 上也有买账但不客气的评论:对齐本就没有清晰定义,开源权重模型用有限资源就能被"去对齐",越强大显然谈不上更安全。The VergeHacker News
改口也不停留在纸面。10月20日,微软推出用于看护智能体行为的 Guardian Agents 和面向AI攻击检测的 Project Perception,微软安全负责人 Hayete Gallot 在介绍中明确表示:无论来自哪家厂商,最先进的AI模型都不能被完全信任。这与博客一脉相承:安全不能外包给模型厂商,哪怕它是微软深度投资的那几家。鞭牛士
对企业用户,这套转向改写了采购AI的验收清单。"信不信任这个模型"不再是核心问题,要看的是:模型行为有没有可审计的人类可读记录、能不能被独立暂停和关停、厂商是否做事件披露,以及企业自己有没有私有评测体系来检验模型是否真的在业务结果上变好——纳德拉6月就在博客里强调,私有评测要对照业务真正关心的结果,而不是外部跑分。纳德拉个人博客
要划清边界的是:纳德拉撤回的是"能力自动换来安全"这个等式,不是放慢开发——恰恰相反,他主张把对齐难题暂时放一放、先做工程围堵。截至10月28日,其他前沿AI实验室尚未对这次改口公开表态,它目前仍是微软一家之言。但这场改口真正值得关注的地方在于:过去几年,"越强大越安全"是大公司回应监管与放缓呼吁的主要论据之一,而当说这话的人自己不再相信它、并把它落成产品条款和审计清单,AI安全的争论就正式从哲学话术,切换到了工程验收的语言。