11月19日,Anthropic上市当天,前研究员雅各布·考克森现身公司旧金山总部外,公开呼吁禁止AI系统进行递归自我改进。这位研究员今年9月因担忧AI发展离职。两天时间里,"递归自我改进"从招股书风险章节里的一句话,变成AI圈吵得最凶的话题。集微网微博
先把结论说清楚:目前没有任何一项禁令成为法律,而且多数提案针对的是"AI参与研发下一代模型"这个环节,不是用户行为——你现在用的Claude不会因此停摆。真正会传导给普通用户的影响在第二层:Claude变强、变快、变便宜,有一部分正是靠这个研发环节在加速。如果法律把这个环卡住,你损失的不是"能不能用",而是"还能不能越来越快"——而损失多少,取决于条文里的定义条款怎么写。

被讨论要不要禁止的那部分Claude,正是靠环变快的
11月2日递交的修订版招股书,在风险因素一节写下:根据内部估计,公司"可能很快"达到自己安全政策定义的一道门槛,叫"由AI带来的显著加速进展"。同一节还承认,过去都是在研发速度明显加快之后,才意识到它加快了。知乎
招股书把这轮加速称为"闭环":每一代Claude都在直接加速下一代的研发,从跑实验、生成训练数据、自动评测,到写代码和审代码。Anthropic称,到2026年5月,合并进代码库的代码八成以上是Claude写的,而2025年初这个比例还是个位数。知乎
独立评估机构METR驻场11周后给出的估计是:Anthropic模型能力的提升速度大约翻了一倍,其中约八成要算在AI头上。但OpenAI的奥特曼不接受这种平均数:能力进化是锯齿状的,有的环节远快于两倍,有的环节还在原地啃硬骨头。知乎36氪
证据层面有两个提醒。其一,Anthropic自己也说,人均代码量涨到2024年的八倍这个数字"几乎肯定高估了"真实生产力提升。其二,学界把"环"的标准定得比口号严格:中科院与美团团队的综述规定,改进成果必须能进入下一轮、帮系统做出更好的修改,才配叫递归,否则只是复用。换句话说,被讨论要不要禁止的严格意义上的RSI,大多还没有发生;正在发生、也确实改变着Claude的,是"AI帮人做研发"。知乎知乎

想禁的有三派,禁的是三种不同的东西
最重的提案是《2026年禁止人工超级智能法案》:禁止任何个人和企业开发、部署"超级智能AI系统",个人违规最高判20年,企业强制解散。知乎
9月,桑德斯在参议院、卡萨尔在众议院分别提出了这一法案。它是唯一一类可能直接触及模型本身的禁令,但在当前国会,多位行业分析认为它基本过不了。知乎
更受关注的版本来自代表硅谷选区的众议员罗·康纳:引入严格责任标准,并禁止AI在缺乏政府安全防护机制的情况下进行递归式自我改进。注意限定词——它禁的是"裸奔"的环:只要配上人工把关、第三方评估和政府防护机制,AI帮实验室干活并不违法,反而是这条款推着企业去做的合规动作。微博
业界自己主张的是第三种:不设禁令,但定节奏。Anthropic CEO阿莫代伊9月12日发表长文《We Must Pace the Frontier》,主张最近几个月AI能力显著提升,行业应给前沿进展留出做安全防护的时间。他同时强调,只有别的前沿公司被核实地一起放慢,Anthropic才会放慢。微博知乎
奥特曼11月16日则表态,OpenAI可以进一步推进递归自我改进,但目前还无法安全地这么做。围绕这些表态的信任赤字在上市前夜爆发:多名诺奖和图灵奖得主发表公开信,反击Anthropic"警告递归自我改进风险,却又争先开发这种技术"。36氪36氪
禁令走到普通用户手里,隔着三层
第一层,不会传导的部分。所有提案的监管对象是研发主体和部署方,不是坐在屏幕前用Claude写代码、聊天、跑Claude Code的你。使用AI不犯法,用户提示词里迭代一百遍也不算"递归"。
第二层,如果按康纳式窄口径落地:现在的研发闭环本来就是人在把关,禁令等于要求这套把关变得更正式、更可核查。外部嵌入式评估会从临时举措变成固定流程。比如OpenAI请ApolloResearch驻场,派出6人团队查的是模型会不会暗中破坏自身或下一代模型的控制机制。你的直接体感不是功能消失,而是发布前的安全链路变长,新一代模型的间隔被拉大——损失以"月"为单位。36氪
第三层,如果禁令宽泛到限制AI参与模型研发:那切断的正是前面说的闭环,影响开始变得肉眼可见。Anthropic约79%的收入来自按使用量计费。资本市场对它的定价,押的就是效率提升能持续摊薄成本。36氪
质疑它的基金经理援引过一份估算:AI单位智能成本可能每年降至原来的十三分之一。这份估算的前提是环继续转;环被卡住,降价和变强会一起慢下来,两年后的Claude可能和今天差不太多。当然,即便完全不让AI参与研发,模型也不会停止变强,只是物理时间卡在那里——AI能连夜安排下一轮实验,但训练、传输数据、保存检查点仍然要占用实际时间。禁令决定的是这条曲线有多陡,而不是它有没有斜率。36氪知乎
真正的分水岭在定义条款:禁"完全自主设计继任者",禁的是一个还没发生的事;禁到"AI参与模型研发",才碰到你正在受益的那部分能力增速。这也是各方在"递归"两个字怎么写上寸步不让的原因——禁多大,Claude未来的速度就被框多大。
什么情况下这篇该被改写
盯三个信号就够:康纳式法案的定义条款怎么写、有没有走过委员会;Anthropic下一次招股书更新,"可能很快"那道门槛的说法是否变化;以及未来两代Claude的发布间隔,和METR这类驻场评估报告里的速度曲线有没有拐头。在法案通过、定义落锤之前,"禁止"二字仍然是一个假设——而它现在值得每个Claude用户认真想一想,是因为最先把它喊进公共视野的,恰好是那家把闭环写进招股书的公司的前研究员。
当前文章无评论,是时候发表评论了