当地时间2026年11月19日,Anthropic完成纳斯达克上市:发行价83美元,盘中按完全稀释口径市值一度约2.08万亿美元,收盘97.17美元、较发行价高约17%,募资813亿美元,超越了SpaceX今年6月创下的全球IPO募资纪录。同一时间,27岁的前研究员雅各布·考克森现身Anthropic旧金山总部外,公开呼吁禁止AI系统进行递归自我改进(Recursive Self-Improvement,简称RSI)。他在现场表态:“他们应该禁止RSI,关掉它”,还对抗议者说:这里每来一个人,就有数十万人如果知道正在发生什么,也会来到这里。数十名抗议者聚集在总部外,Stop AI组织成员封堵了办公楼入口。36氪36氪集微网爱集微金融界

考克森不是局外人。他先后在OpenAI和Anthropic从事核心预训练研究,参与过GPT-4o等研发,并在上市前夕放弃即将归属的股权离职。他在Anthropic只工作了约四个月,今年9月因担忧AI发展公开离职。他的话之所以能在上市次日冲上中文热榜,不是因为末日预言有多刺耳,而是因为他带来了一组让公司立场难以自洽的证据。微博微博
一张让他决定离职的路演幻灯片
按他本人的说法,促使他离职的是IPO路演中一张训练算力需求图表:坐标轴经过压缩,算力需求增长10倍和100倍看起来相差不大,即便如此,曲线依然急剧上升。他的推论是:算法效率不仅在快速提高,提升速度还在不断加快——今年春季推出的Mythos模型并非偶然突破,“现在,他们只需耗费最初训练时的一小部分算力,就能重新训练 Mythos。”微博
这也解释了他为什么选在上市日走上街头:他担心的不是RSI已经做成,而是自动化AI研发已经被打包成一份可以卖给公众的增长故事。早在10月的纽约市议会听证会上,他就说过"自动化 AI 研究现在是这些公司的首要目标"。他还警告,递归式自我改进可能让人工智能系统在三到五年内无需人类干预即可取得进步,先进AI甚至可能在本十年末毁灭人类。微博微博

要禁止的东西,离我们还有一步
RSI指AI系统改进自身的算法、模型或研发流程,再利用被提升后的能力继续下一轮优化。风险在于闭环:能力增长一旦不再依赖人类介入,发展速度就可能跳出机构与监管的审查节奏。但闭环目前尚未被证实存在——一份由中科院自动化所与美团等多机构作者挂出的预印本综述把口径立得很严:改完留下的东西必须能进入下一轮改进、帮系统做出更好的修改,才配叫递归,只是把经验存下来下次接着用,那叫复用。被这类讨论反复援引的另一组数字同样说明问题:Anthropic代码库里超过80%的合并代码已由Claude编写,但自动AI研发评测只拿到55.8分,离85分的门槛还差近30分。也就是说,考克森要求在跨过去之前立法关掉的,正是这道还差最后一步的门槛。爱集微知乎知乎
公司自己的说法,与公开信的矛盾
Anthropic并非没有表态:公司承认无监督下让AI自主设计下一代模型不安全,正考虑修改政策确保前沿AI开发由人类掌控,但考克森认为现有措施不足,要求企业游说政府、联动行业全面禁止该技术。CEO达里奥·阿莫代伊9月12日还发表长文《我们必须控制前沿AI的步伐》。但在上市前一天,多名诺贝尔奖和图灵奖得主发表公开信反击称,公司警告递归自我改进的AI可能导致权力集中并脱离人类控制,却又争先开发这种技术,“Anthropic并不是一家安全的AI公司”。金融界微博36氪
考克森的诉求恰好卡在两种表态的裂缝上:他要的不是公司自我约束的补丁,而是政府立法、全行业联动的禁令。他也把僵局说透了——单边停下只会便宜对手,协调暂停"受到损害的只有 OpenAI 和 Anthropic",所以每家都知道风险,却没人敢第一个停。微博
禁令进了立法议程,但离表决还远
他的声音不只停留在街头。据CNBC报道,代表硅谷选区的民主党联邦众议员罗·康纳准备提出一项AI监管法案,引入严格责任标准,并禁止AI在缺乏政府安全防护机制的情况下进行递归式自我改进。桑德斯则主张对所有先进人工智能系统实施强制暂停,不得训练、修改或微调(包括递归自我改进)。中期选举后,民主党将在明年1月取得国会多数,党内政策讨论也更强调对AI公司加强问责。但从法案起草到真正的全面禁令,目前没有任何一方能给出时间表。微博微博36氪
接下来值得盯住的是三件事:康纳的法案会不会进入新一届国会的听证程序;Anthropic承诺的"人类掌控"政策修改会不会落成公开文件;以及OpenAI或Google会不会出现一位履历对等的研究员,公开说出同样的禁令诉求。至于"本十年末毁灭人类"——那是考克森的判断,不是可核验的事实,它也是这番表态里最难被反驳、却最可能最先被证伪的部分。
当前文章无评论,是时候发表评论了