最高判20年:美国“超级AI禁令”里,哪些动作真会踩线

源自151位全网作者

07:37

11月5日,中文互联网把一份美国提案转成了同一个句式:禁止超级AI,个人最高判20年,企业强制解散。逐条读完国会网站上的文本,会发现三件事:20年是真的;“企业强制解散”不在条文里;最可能把普通开发者卷进去的,是另外几条几乎没人转的条款。

先说来历。参议院版本S.5493由桑德斯9月23日提出,众议院版本H.R.10538由卡萨尔9月24日提出、12名联署者。两份都停在Introduced,转交委员会后没有下一步。GovInfo美国国会

11月3日中期选举,民主党拿下两院。 11月4日,亚利桑那州众议员安萨里发帖,把“暂停先进AI、管住失控行业、禁止人工超级智能”列为新国会首日议程。 9月的旧文本才被重新翻出来。新华网知乎

20年落在谁头上

20年落在谁头上?SEC.13(b)只点名两类人:持照机构里做决策的“covered policymaking individual”,以及不隶属于任何持照机构的“rogue actor”;前提是“recklessly”违反第8、9、12条或据此制定的规则。 普通员工要分两种:在持照机构里不参与决策的,SEC.13©给的是10年禁业。 另一种是不在任何持照机构任职的,会被归入“rogue actor”,反而可能落进20年。拍板的人、写代码的人、没有牌照的独立开发者,面对的是三种不同的风险。GovInfo知乎

企业也没有“强制解散”。条文写的是:持照机构被认定违规,吊销charter(特许执照),知识产权和资产可被没收,相关系统和硬件销毁。 “企业死刑”来自提案方的一页摘要,不是法条里的处罚种类。GovInfo网易

五类动作

实际会踩线的动作有五类。先记住一点:这里的“暂停期”没有固定截止日,要等新部门配齐人手、把规则定完。美国国会

  1. 暂停期内训练、修改或微调先进AI(训练算力不低于 10^25 次运算,门槛由未来的AI部部长每年调整),或部署未发布的先进系统。GovInfo

  2. 开发、部署、获取、持有、资助、进口或转让超级智能,或任何带一项“前兆特征”的系统。美国国会

  3. 部署、发布、转让或进口一个“可预见会被改造成”前兆系统的AI——这条没有算力门槛。GovInfo

  4. 没有预部署批准就部署、发布、进口或转让先进系统,或没有charter就开发、分发先进模型。美国国会

  5. 发现超级智能或前兆系统后24小时内不报告。SEC.13的罚则只列了第8、9、12条,没列第11条。GovInfo

前两类是“不要造”,后三类是“不要放出去、不要绕过许可和报告”。覆盖最宽的是第二类和第三类:第二类只看系统是否带一项前兆特征,第三类甚至只看它“可能被改成”什么。

六项“前兆特征”是这份法案最容易被低估的部分:自动化或大幅加速AI研发;未经授权访问受保护的数字或物理基础设施;被下达关机指令后仍能独立运行;提升核生化武器的设计、生产、改造或采购;自主修改或增强自身功能;策划、欺骗或规避人类的有效监督。任何一项都够,而且清单用的是“包括以下”,不是穷尽列表。美国国会

这就是为什么它比“禁止超级智能”更值得看。超级智能的定义没法测——“在大多数领域超过人类”没有公认的考卷;但“是否具备前兆特征”可以由监管者认定。 按字面读,写Coding Agent、做自动实验、让模型自己改训练脚本,都可能碰到第一项和第五项。知乎

法案也没有写开源、学术研究或小模型豁免。发布权重、转让checkpoint、做蒸馏,都可能被“可预见被修改”或“足以重建能力”扫到。GovInfo

被传错的两句话

还有两句话也被传错了。“全球禁令”在SEC.15里是政策目标:美国要推动国际协议、盟友协调,可能包括出口管制;条文没有写域外刑事管辖。 “量刑对标核武”是摘要里的类比,法条只写依美国法典罚款、监禁不超过20年。美国国会网易

那它会通过吗?概率很低。参议院版本0联署,无一位共和党人签名。 众议院版本还躺在委员会里,119届国会会期所剩无几,总统还有否决权。 但它已经把“算力阈值、许可制、前兆能力”这套语言带进了主流讨论;就算这部法案不动,州法、监管规则、下一版提案都可能接着用。知乎新华网

对写代码的人来说,真正的问题不是“我的模型够不够聪明”,而是三个更具体的问题:我有没有charter?我训的东西在不在暂停线以上?我有没有把可能被改成前兆系统的东西放出去?这三个问题,比“超级智能”四个字更接近条文。而当这三个问题都没有确定答案时,最安全的选择往往是先别做——这大概才是这份提案最现实的影响。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章