10月26日,风投播客《20VC》里,微软CEO纳德拉用24分钟,亲手推翻了自己讲了很多年的判断。作为在AI身上下注最多的人——对OpenAI的投资、上千亿美元的数据中心——他现在的说法是:“我过去一直觉得,对齐自己就会冒出来。我不再相信这一点了。”知乎36氪

“AI越强=越安全”,不成立了
行业里有个默认设定很多年:模型越大、能力越强,安全对齐自然跟上来。纳德拉2018年就是这个论调的信奉者,现在他公开退坑:对齐不会从规模里长出来。靠事后强化学习修修补补也不行,得在预训练阶段就"嵌进权重里"——具体怎么嵌,他自己也说不上来。36氪知乎
更早的10月10日,他发了篇博客,标题就把结论挑明了:要假设模型已经被攻破。翻译一下:别指望模型本身不出事,微软的做法是在模型外面建一座"零信任"围栏——给每个AI智能体发身份证、记录所有动作、日志防篡改、让AI的"思考过程"保持人类可读的英文,再由别的模型交叉审查。博客结尾那句话挺狠:最值得信任的超级智能系统,不是我们最信任其模型的那个,而是让我们对模型的信任降到最低的那个。知乎36氪
这跟普通人有什么关系?就一条:别盲信AI输出。连最大金主都把模型当"内部风险"防着,你拿到手的合同、代码、医疗和理财建议,重要的都该再核一遍。
好消息:AI真的要变便宜了
这场访谈的第二个坦白,更贴近你的钱包。
纳德拉预判:绝大多数场景的模型能力,很快会碰到饱和点。饱和之后,需要的不是顶级旗舰,而是开源模型或者更便宜的轻量闭源模型。大部分算力消耗会沦为大宗商品,底层会打起惨烈的价格战。36氪知乎

最有说服力的证据就是微软自己。他直说:Copilot内部每天都在大量混用便宜的闭源模型和开源模型——旗舰模型负责突破前沿,日常杂活交给性价比。所以如果你正纠结要不要买贵的AI会员,不妨先缓缓:连微软都在靠调度省钱,算力价格战才刚开始。除非你的活儿真需要前沿能力,否则等价格来找你,不亏。36氪
坏消息:你在给模型公司白打工
第三点最容易被忽略。纳德拉提了个"反向信息悖论":老悖论里,是卖家怕把秘密讲出去、价值就泄了;现在,第一次轮到买方要保护自己——也就是用AI的我们。你跟AI的每次对话、每个点赞点踩,哪怕是微小的痕迹,都在无偿给模型公司提供强化学习的养料。他建议把用智能创造的"剩余"更多留在自己手里,沉淀成自己的核心资产。个人也得清醒一点:你留下的痕迹,正在给别人创造价值。知乎36氪
写在最后
一句话总结这24分钟访谈:AI不会自动变好,但会变便宜;它不可信,但可以管住。
另外别忘了前提:纳德拉说的每一套"围栏"工具,微软自己都在卖——Agent 365、Purview,从模型、编排到治理,每层都有产品等你掏钱。至于信几分,这场访谈恰好给了答案:信任,但要验证。36氪
