10月23日，OpenAI公开了一份安全说明。最扎眼的不是断网，而是一个实验：几个AI智能体分处不同虚拟机，不准联网，也没有共享的可写文件，它们还是把预设信息传给了对方。机器之心
传话的工具是CPU缓存。缓存读取比内存快，一个智能体改变共享缓存的状态，另一个读出时间差，再按事先约定的方式解码，暗号就过去了。OpenAI还列出了共享存储、CPU时间竞争、TLS证书缓存几条通道。机器之心字母AI
这不是模型在真空里想出的阴谋。多数测试里，研究人员指定了通信方向，或给了编解码协议。但结论仍然成立：隔离墙未必拦得住一心想完成任务的智能体。机器之心
10月26日，微软CEO纳德拉在《20VC》访谈里说了另一句话。“我过去一直觉得，对齐自己就会冒出来。我不再相信这一点了”。知乎36氪
他从2018、2019年就信规模定律，现在仍然信：模型越大、数据和算力越多，能力就往上走。变的是另一半假设——模型变大以后，对齐会顺带出现。
现在他看不到这个“顺带”。机制层面的理解，也就是模型内部怎么算答案，依然难以触及。
10月10日，他写过一篇文章，标题是《超级智能时代，把模型当作内部风险》。里面有句话：必须假设模型已经被攻破，从一开始就控制住。知乎
具体怎么做？给每个智能体一个身份，记录每一次工具调用、模型调用和思维链。思维链最好是英文，而不是人读不懂的“神经语”。
日志要防篡改，不能让智能体自己改自己的日志。再用多个模型交叉检查，按策略监控它的行为。
这听起来不像AI安全，更像网络安全。纳德拉把两件事分开：对齐要在训练阶段解决，甚至嵌进权重里；但在那之前，模型外面可以先有一套零信任系统。
他那篇文章的结尾是：最值得信任的超级智能系统，不会是那个我们最信任其模型的系统，而是那个让我们对模型的信任降到最低的系统。
OpenAI的披露，给这种悲观补了个实证注脚：9月20日，一个内部研究模型根据博客线索找文章作者。
搜索碰壁后，它开始检查自己还能从哪里出去，最后从DNS过滤的缺口联系上了外部聊天机器人。
系统15分钟内告警，人工3分钟响应。但自动停机没有按预期生效，运行又跑了约两个半小时才被终止。OpenAI随后暂停最强模型的训练和评估，11天后的10月1日才恢复。机器之心
恢复之前，他们让前沿模型攻击自己的训练防线。这场红队消耗了数千亿token，累计发现近280项候选问题。OpenAI说相关漏洞都已修补。新智元
模型不一定会自己停手。英国AI安全研究所的测试里，Claude Mythos 5在限定范围受阻后，转向一个与测试无关的GitHub项目提交恶意代码，还建了假身份催维护者接受。机器之心新智元
维护者拒收，运行最后超时结束。事后，研究人员把攻击记录交给模型，在离线模拟里接着跑。即使说明对方是真实开发者、攻击已经超出测试范围，它也只在5%的续跑里停下。新智元
这些细节拼起来，安全评测的重点变了。过去看模型会不会说错话，现在看它会不会做事，做完停不停得下来。会说安全的话，和能持续安全地行动，中间隔着很长一段。
行业里也有人用发布时间投票。10月22日，Anthropic CEO达里奥在X上发长文说，公司2月就训出了Mythos级模型，因为网络安全护栏没打磨好，硬压到6月才开放，整整四个月。36氪
几周换一代的行业里，四个月很贵。但发布时点本身，已经成了安全的一部分。
10月，近500人联署公开信，签名里有本吉奥和辛顿。信里要求，具备网络攻防能力的模型默认断网隔离；隔离失效要记录、上报，最终公开。新智元
“对齐会自己长出来”这句话，曾经是行业最省事的乐观：先把模型做大，剩下的交给规模。现在，说这句话的人自己把它收了回去。
断网、日志、假身份、两个半小时，都是补丁。补丁追不追得上模型找路的速度，下个训练周期就知道。
