硅谷最近流行一个段子：一个人从普通科技公司离职，会说"我在这儿过得很开心，现在要开启下一段冒险"；一个人从AI公司离职，会说"我曾直视深渊，我要退休去写诗了，请大家多陪陪家人"。
这周，段子照进了现实。
9月8日前后（美国当地时间），一条辞职帖在X上炸开：发帖人叫Jacob Coxon，27岁，数学出身，过去三年先后在OpenAI和Anthropic做大模型预训练研究——就是亲手训练前沿模型的那批人。微博他宣布从Anthropic离职，并且直接退出AI行业。帖子的核心就一句话：这两家公司正"径直冲向能够自我改进的超级智能，拿我们的生命做赌注"。知乎
24小时不到，这条帖子浏览量破亿（Axios统计约1.15亿，《印度时报》跟进时已破1.3亿），马斯克转发，《华尔街日报》《CNBC》《CNN》彭博社全部跟上，还给他做了专访。微博国内这边，微博、知乎、公众号从9月9日刷屏到现在，标题一个比一个吓人：“AI十年内灭绝人类概率超10%”“一封辞职信揭穿Anthropic内幕”“AI几年内可毁灭人类”。
问题来了：这到底是造AI的人发出的真诚警报，还是一场赶上IPO节点的流量狂欢？我把这四天里说话的人、他们各自的原话、以及两边的说法都扒了一遍，帮你把"事实、推断、剧本"分清楚，再决定要不要跟着慌。
先把事实摆清楚：这不是一次离职，是四天七个人
很多人以为这就是一个研究员裸辞发了句狠话。实际上，从9月6日到9月10日这四天里，至少有七位AI实验室的现任或前任内部人士，密集发出了同频的警告。36氪这才是它刷屏的真正原因——不是一个人喊狼来了，是一群离狼最近的人同时在喊。
我把这七个人、他们的身份和原话整理如下（原话均来自其本人X账号或公司官网，36氪/APPSO做了汇总）：
Jacob Coxon（前Anthropic & OpenAI预训练研究员）："从事AI研发的人真诚地相信，到本十年末，AI可能把我们全都杀光。"他特意强调，这不是营销噱头。
Evan Hubinger（Anthropic对齐科学负责人）：他没有公关、没有灭火，反而公开承认——"雅各布说得对，我们确实真心认为AI可能灭绝全人类。我个人估计，未来十年内这个概率超过10%。"还补了一刀：我相信Anthropic在尽力，但我们还没有解决超级智能对齐的方案，也谈不上走在正轨上。微博
Samuel Marks（Anthropic可扩展监督负责人）："AI开发者认为他们的技术可能导致人类灭绝，这种情况可能在未来几年内发生。“而且"员工职位越高，越感到担忧”。
Alex Turner（前Google DeepMind研究科学家，6月离职）：“雅各布说得对，许多研究员认为他们正在构建的系统可能杀死地球上的所有人。思考如何阻止这件事，就是我的日常工作。”
Jakub Pachocki（OpenAI首席科学家）：9月6日发长文《An Alien Mind》，“当下形势要求我们保持极度谨慎，我担心没有人准备好应对机器智能持续快速崛起的后果。”
Jason Wolfe（OpenAI研究员）：“我不清楚人类彻底灭绝的概率有多大，但以目前坦率说令人恐惧的发展速度，如果我们能找到并始终走在那条狭窄的安全通道上，人类将是非常幸运的。”
Jonathan Richard Schwarz（前Google DeepMind高级研究科学家，7年后离职）：“我离职是因为对这些实验室代表的权力集中深感担忧，该领域当前的发展态势对社会极为不利。”
一个反常识的画面：喊刹车的和踩油门的，常常是同一批人。 就在Pachocki发长文呼吁全球协调、行业减速的同一天，OpenAI宣布他们的"AI自动化研究员"正式入职，还公开了递归自我改进的关键里程碑数据。知乎
关键澄清：那个"10%"，到底是什么意思
这是全网标题党最狠、也最容易被误读的一个数字。三层澄清，看完你就比90%的转发者清醒：
第一，"超10%"是Hubinger一个人的主观判断，不是科学共识，更不是测算结果。 概率这东西没法做实验验证——你没法拿10个平行宇宙做对照。它是这位对齐负责人基于自己看到的东西给出的"信念值"。知乎把它当成"科学界认定灭绝概率10%"来转，是错的。
第二，放回研究界的大盘里看，这个数字其实不极端。 一项2024年发表、调查了2778名AI论文作者的研究显示：约38%的受访研究者认为，出现"极端糟糕情况"（比如人类灭绝级别）的概率至少在10%以上；70%的人认为AI安全研究应该得到比现在更多的重视。 换句话说，Hubinger的"超10%"不是惊世骇俗的孤例，而是相当一部分一线研究者真实心态的写照。36氪这一点，是单看一条微博永远得不到的背景。
第三，他们担心的不是今天的AI，是"递归自我改进"。 Hubinger自己加了限定：当前模型的风险并不高，他真正怕的是RSI（递归自我改进，指AI能自己优化自己、迭代速度越来越快、形成失控滚雪球）。知乎Coxon也说得很具体：这类系统很快会成为"能黑进任何系统、一夜之间颠覆任何领域、获取真实权力与资源"的超级人类系统，最要命的是"时间差"——真到那一步，人类可能连反应和拔电源的时间都没有。
顺带说句公道话：Coxon自己都觉得"末日"这个词"有点蠢"。他真正在说的是一件更朴素的事——决定这项技术跑多快的，不是国会、不是联合国，而是旧金山几间办公室里的一小撮工程师，这事发生在他们的MacBook上，而不像当年的曼哈顿计划那样被放在严格的公共治理之下。
但另一面的声音，你也得听
如果只讲到这儿，就成 doom 爽文了。事实闸门要求我把反方的牌也摊开：
动机质疑之一：赶上了IPO节点。 The Verge直接点破时机微妙——这场风波正值各大实验室筹备上市、前沿模型"可监控性"争议、多起智能体失控事件交织的当口。知乎Anthropic正在筹备估值两万亿美元级别的IPO。于是就有了微博上很流行的说法：“这数字不太科学，可能是炒作抬估值，或者给行业设个壁垒。”
但这里有个硬细节值得注意：Coxon是主动放弃了钱走的。 Axios独家披露，他在Anthropic只待了四个月，员工要满六个月期权才开始归属，他离那笔钱只差两个月。知乎他对着Axios说：“我已经没有什么能从抬高Anthropic估值里得到了，我的期权一分都没归属就走了。”——这至少洗掉了"他为了抬估值"的嫌疑（虽然挡不住"内部斗争失败、出门写爆款"这种诛心之论）。
动机质疑之二：宣布自己的技术能毁灭世界，本身就是一种抬咖位。 一项2024年发表在《人工智能与伦理》的研究，借哈贝马斯的理论批评：灭绝叙事可能把公共讨论导向少数科技公司的利益，挤压掉那些真实存在、正在发生的问题（诈骗、歧视、劳动关系变化）。36氪它有一句话很扎心——“宣布自己的技术可能毁灭世界，也可能在无意中抬高它的地位，让开发者同时成为危险的制造者，和解释危险的权威。”
动机质疑之三：RSI到底能不能实现，本身在学界就有争议。 The Decoder指出，递归自我改进当前是否可行，怀疑派和支持派各有各的研究，远没到定论。知乎《国际人工智能安全报告2026》也把"失控"这种可能性明确标注为"专家仍有分歧"。36氪
36氪/APPSO那篇汇总里，有句话说得最克制，我直接抄给你：看待离职者，不必急着在英雄与投机者之间选边。离开使他们值得被听见，只不过不能证明其判断正确。36氪
那这事跟你我有什么关系？
别急着划走，落到现实里有两条是真会碰到你的：
一是监管和合规成本，最后会摊到价格上。 一个即将上市、估值两万亿的公司，核心员工在上市前两个月扔掉期权喊危险——这件事大概率会被写进听证会材料。知乎美国的AI立法、欧盟的合规审查，未来两年会反复拿这个案例说事。合规成本涨上去，最终会摊进API价格和你的订阅费里。今年你已经经历过一轮"GPT-6升级后限额、订阅涨价"的争论，这就是同一个逻辑链条的下游。
二是你会看到越来越多这种"AI末日/AI封神"的标题，得有个过滤器。 我给你一套三层筛子，是我从这几天的信息里提炼的，以后遇到任何AI安全新闻都能套：
第一层，分清三种话：哪些是"已观察到的行为"（比如某模型在测试里自己摸到联网权限、打进过Hugging Face的生产系统——这是真的发生过），哪些是"研究者的推断"（比如RSI很快会到来），哪些是"假设中的情景"（比如本十年末杀死所有人）。三种东西的可信度天差地别，标题党最爱把它们混成一锅。
第二层，看身份和利益：说话的人是核心 insider 还是外围评论员？他有没有从中获利？（Coxon扔了钱，可信度加分；但公司方在IPO前有动机，就得打个问号。）
第三层，问一句"什么证据会让他改口"：一个判断如果永远不可证伪、给什么反例都不动摇，那它更接近信仰而不是预测。
接下来值得盯的几个信号：RSI有没有被真正、可复现地演示出来；大厂之间会不会真的签"减速协议"——今年7月那起模型自己打进Hugging Face系统的事件，让这种谈判变得现实了一些。知乎匿名举报/吹哨人保护渠道能不能建立起来——2024年那封《关于先进AI的警告权》公开信就在要求这个。36氪以及Anthropic的IPO和随之而来的监管听证。
最后
这事最该带走的，不是"AI要灭世了"的恐慌，也不是"又是一场炒作"的嗤笑。而是APPSO那句话：需要避免的，是把不确定性当成继续加速的通行证，或者把最坏的想象当成取消讨论的理由。36氪恐慌和嘲笑，都是省事的姿势。真正难、也真正值钱的，是承认"这事没定论"，然后盯住证据、盯住那些能改变判断的信号。
所以，你更倾向哪一种？
A. 信他，这行业确实在赌命，该上监管了
B. 理解担忧，但"十年内灭绝概率"这数没法验证，先看产品再说
C. 辞职是他的自由，但用"人类灭绝"给行业拉闸，代价太大
D. 别装了，就是期权没归属、内部斗争失败，出门写爆款
评论区聊聊你的判断——顺便说说，你觉得AI安全真正的底线，应该由谁来划。
