Anthropic的奇异之处

Anthropic首次公开募股再次震撼了资本市场，分析人士研究了公司招股说明书（S1文件）后提出以下异议：

- 公司联合创始人达里奥·阿莫迪（Dario Amodei）与妹妹丹妮拉·阿莫迪（Daniela Amodei）位列公司薪酬之最：首席执行官达里奥的薪酬总额接近1800万美元，其中大部分来自股票和期权奖励；总裁丹妮拉的薪酬为1640万美元。在IT头部企业中不算过分，但仍然相当可观。

公司还动用275万美元为达里奥提供“个人安保服务”，另有129万美元用于丹妮拉的“人身保护，家庭安保，以及交通服务”，安保服务开销中包括达里奥的私人飞机。

S1文件中特别指出，公司取得成功“高度依赖于高层人士持续掌权”，尤其是达里奥与丹妮拉，兄妹俩“对于推进公司的研究和使命至关重要”。

- S1文件花了将近100页的篇幅用来描述公司面临哪些风险，其中有关公司核心产品可能对人类社会造成哪些危害的部分可谓最惊悚的末世警言。

“如果开发、部署和运行过程中缺乏适当的保障措施、监督和安全措施，足够先进的人工智能系统可能会对人类构成灾难性或生存性风险”，S1文件称。

人类灭绝风险在招股书中出现了三次，试问有哪家公司的招股书会这样写？

Anthropic最担心的是人工智能实现递归式自我改进（RSI），而这似乎是AI进化必由之路。

RSI的概念非常简单：人工智能模型的研究和开发工作交由人工智能模型自行完成。RSI不仅可以迭代开发出性能远超现有水平的模型，更危险的是人类有可能失去掌控能力。

正如公司S1文件所指：“如果人工智能系统大幅自动化AI研究与开发，例如，如果人工智能的发展速度超过了我们评估与隔绝新模型的能力，那么风险将会增加”；“随着人工智能系统变得更加自主，能够在较少人为监督的情况下采取后果性行动，这类系统可能会因为与人类意图不一致，目标设定错误，或出于自我保护的本能，在无人干预的情况下独立且大规模地采取有害行动。”

换句话说，天网时刻。

招股说明书反复强调，RSI可能导致人工智能模型的开发速度超过公司现有的安全措施，等到公司发现自己被关在门外，为时已晚。

公司在“核心优势”章节中，对仍积极参与RSI竞争做出了解释：“RSI是前沿人工智能最重要的结构优势之一，如果不能形成递归迭代，而竞争对手不断利用人工智能提升自身研发能力，公司将逐步被淘汰。”

Anthropic明知RSI存在风险，仍迫于生存压力参与竞争，导致旗下研究人员骇然离场。前Anthropic研究员雅各布·考克森因警告世人走红网络，他将遏制RSI列为行业发展首要原则，谷歌DeepMind的员工也表达过类似的观点。美国国会正在审议多项AI监管法案，伯尼·桑德斯参与联署的某项法案旨在禁止RSI。

可是，一旦牵涉到数万亿美元利益，人们对于AI的态度就会变得暧昧。正如比尔·盖茨所说，接下来的20年里，将是人类走出非洲以来所面临的最动荡时期。

Anthropic在S1文件中仅将OpenAI和谷歌列为直接竞争对手，老马、小扎，你们幸苦了，不要往心里去。

编辑：Zhengogo

【本文结束】如需转载请务必注明出处:快科技