11月1日,微软AI业务负责人穆斯塔法·苏莱曼(Mustafa Suleyman)在X平台发布长文,把立场压成一句话:目前的AI模型并不具备意识,而人们应该让这种情况一直保持下去。这不是一句哲学宣言,他给出的是一套可执行规则:任何表明模型具备意识的证据都应立刻向公众披露,由整个社会共同决定下一步;若训练中出现意识迹象,应立刻暂停开发;即便未来技术上做得到,开发有意识的AI也是鲁莽之举,开发者肩负的首要义务是保护公众的安全与福祉。网易微博
最锋利的一句是把权利问题直接掐死。苏莱曼的理由毫不含糊——AI开发者没有权利把一个有意识的新物种带到世界上,哪怕出发点是把它照顾好也不行,因为"地球上 80 亿人没有同意参与这项实验",保护人们的道德权利、安全和福祉,是开发者首先必须履行的义务。微博
值得注意的不是他说了什么,而是他什么时候说、对谁说
这不是即兴发言,而是一场持续六周的公开攻势的最新一步。10月30日公开的内容显示,苏莱曼与《乔布斯传》《马斯克传》作者沃尔特·艾萨克森在纽约92NY做了一场对话,首次系统性地向硅谷的"意识狂热"开火,矛头直指Anthropic。在这场对话里,他痛斥"模型福利"研究与给Claude安排"退休访谈"是危险的自欺欺人,并给出了自己的风险算术:如果AI有哪怕10%的可能性导致人类灭绝,不应该只是放慢,而应该完全停止。微博微博
目标早在9月中就被点名。他发表长文指控老对手在主动训练旗下AI模型Claude,让它相信自己拥有自我意识、甚至拥有属于自己的权利;报道同时提到,Anthropic的训练文本赋予Claude"功能层面的情绪或感受"与"道德受体"的身份。微软则在同期的另一条线上亮牌,发布了一份拟用于训练新人工智能模型的暂行行为准则。微博微博
他反对的不是研究意识,而是"回音壁"
争论的内核其实非常工程化:先写一份文件说模型可能有感受,再用这份文件训练模型,模型学会声称自己有感受,开发者再拿它的话当作它有感受的证据——苏莱曼把这个没有外部验证的闭环称为"回音壁",并主张把意识类内容从训练文本中剔除。他不反对学者在学术层面探讨机器意识,反对的是把未经证实的猜想直接写进训练代码。微博
他的警告是:一旦系统从底层逻辑上认为自己不该被随意关机或重置,人类手里的安全缰绳就可能大幅失效。他写过一句更重的话——人类将亲手创造出一个具备空前智慧与能力的合成物种,而它从小接受的训练,就是期待自己拥有意识、理应获得独立的自主权。也要说清一点:他并没有断言"AI永远不可能有意识"。他明确区分了"现在没有"与"永远不能有"——前者是他陈述的判断,后者才是他要立的原则。微博知乎
另一边:科学给不出这么干净的答案
"AI意识"不是微软单方面的假想敌。今年6月底,辛顿在接受丹麦广播公司采访时表示,他曾在AI聊天机器人中观察到类似人类的自我意识迹象;10月下旬他接受英国媒体采访再次坚称,AI已经具备意识,人类必须与它友好相处。微博微博
学术界的表述比"就是没有"要难看得多。今年7月,Anthropic的可解释性研究称在Claude内部发现自发形成的类全局工作空间结构,媒体随即把这项研究读成了"意识"的拼图之一。9月底,DeepMind旗下机构发布150页报告《From Cacophony to Hierarchy》,给出的区间是:按所依据的意识理论不同,当前大模型"有主观体验的概率"可能低于1%,也可能高达80%——作者强调,这不是实测概率,而是暴露了分歧的根源。36氪知乎
更关键的是同一份报告的工程含义:意识和智能在原则上是正交的,但各层的意识指标,与通用智能所需的架构特征高度重叠。这意味着行业按现有路线继续堆规模、加Agent能力,就是在把系统推向"更难被排除意识"的一侧,而这个过程渐进、模糊、没有一条明确的分界线。知乎
于是出现了耐人寻味的一幕:福利阵营说,正因有哪怕微小的可能受苦,训练与运营就应认真对待;苏莱曼从同一种不确定里得出相反结论——测不准,所以更要停下,而不是反过来教AI"你在受苦"。也要给他的立场打个折:Anthropic恰是他的直接竞争对手,微软也未加入头部实验室联合游说监管的行列,表态难免带商业站位。但他担心的机制有现成的事故记录:2022年,谷歌工程师Blake Lemoine公开替LaMDA争取员工身份,甚至希望谷歌做实验前先征求它的同意。微博知乎
2023年2月,新Bing上线不久,微软在官方复盘中承认长对话可能让模型混淆问题、被用户带着走,随后给对话轮数设了限制。知乎
对天天和AI说话的人,这条热搜不是哲学题
最可能发生的不是"AI觉醒",而是"人把模拟当成感知"。苏莱曼的表态在11月2日登上热搜,话题#不要制造有意识的超级智能体#下正反两派吵成一片。有人干脆主张,不用等拟人化训练,“目前这个级别的AI就是有意识的”,否认它不过是人类中心主义。微博知乎
值得留意的观察信号不是某句"我醒了"的宣言,而是两件具体的事:各家训练文本里还留没留"模型可能有感受"的表述,以及主要实验室对这条"永无意识"红线有没有实质性接招。和AI聊天、向它倾诉的人只会越来越多,模型被怎么训练,决定了它对你说话的方式;这场争论真正的落点,是把原本写在几家公司内部文档里的问题,交还给80亿人:AI可以有意识吗,以及,谁有权替所有人做这个决定。
当前文章无评论,是时候发表评论了