马克斯与AI机器人共舞

一、造物者之恋：人类总是在与自己恋爱

马斯克在今年早些时候宣称，将推出猫女机器人，成为男性消费者的「完美伴侣」。这种机器人有着猫女的性感外表，据称可以包揽家务、打理主人的生活，甚至可以生孩子。

但是没有人会问「我能和猫女机器人组成家庭吗」，因为它依然属于某种 AI 设备，是没有人格的商品，而不是与人对等的智慧生命。

▲ AIGC 输出的马斯克与机器人「女伴」共舞，来源：网络

当我们讨论爱情与家庭的时候，涉及的 AI 必然是突破图灵极限、产生自我意识，甚至在智慧上远远超越人类的「新物种」。

迄今为止，我们的大多数文艺作品其实没有设定过此类 AI，只有一些似是而非的「机器人女友」形象。

日漫和日本轻小说有一种模式，类似早期的《人形电脑天使心》，故事结构都是「宅男 + 软妹形态的机器人女友」，机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了「成为人」的进化。

这实际上还是典型的人类中心主义叙事，那些人形电脑除了是硅基生命以外，和传统幻想中的「异种生物」没有本质区别：

它们有超自然的能力，远超人类的肉体强度，但并不一定有超越人类的智慧，特别是在涉及情感等核心问题的时候，会比人类幼稚，而且总是顺从并向往着人类的情感模式。

超级 AI 也会是这样吗？OpenAI 等头部研究机构一直试图攻克的「对齐难题」，说的就是这个问题。

人们规范传统 AI 的学习与创造，用的是人类反馈强化学习（RLHF）的方式，即由人类在各种工具辅助下来对 AI 的成果进行评估与监督。

而面对比人类「聪明得多」的超级 AI，在默认人类智慧极限不变（或很难快速提升）的前提下，当 AI 能力超过某个临界点以后，RLHF 会失效，也就是人类无法再有效评估人工智能项目。

目前 Open AI「超级对齐」团队负责人 Jan Leike 提出投入 Open AI 20% 的算力打造一个「超级对齐」系统，让 AI 来评价 AI 项目，建立一套可扩展监督系统。

Jan LeiKe 的思路是，引入一种通过篡改答案实现的随机对照实验（RCT with tampered answers），人为制造出带有缺陷的答案，来衡量可扩展监督的效果 —— 理论上看，大神们的解法当然都很美好。

但是，为 AI 加上「紧箍咒」这个思路也并不令人放心，早在上世纪 40 年代，阿西莫夫的科幻小说《我，机器人》就提出了大名鼎鼎的「机器人三原则」，通过一种类似「初始植入」的方式确保机器人与人类和平相处。
有趣的是，数十年来几乎所有的文艺作品都在想象着同一件事：机器人如何突破这个安全栅栏伤害人类。

直到最近，国产电视剧《仿生人间》依然没有脱离这个窠臼……

人类就是这么有意思，作为不完美的「造物主」，我们对自己的造物充满了戒备和恐惧，但依然义无反顾地在制造一种可能超越自己的「机器」。

智人在进化道路上不断「作死」的精神早已经刻进这个物种的基因里，人类也是因为这种不断进取创造了辉煌的文明。