微软AI CEO长文放话:AI没有意识,也永远不该有

源自107位全网作者

08:45

微软的AI掌门人,把一场吵了很久的架给挑明了。

11月1日,微软AI CEO穆斯塔法·苏莱曼在X上发布长文,只讲一件事:现在的AI没有意识,而且应该永远保持这样。如果哪天训练里真冒出意识的迹象,他会呼吁全行业暂停AI开发,直到从设计层面把这些特性抹掉。微博微博知乎

他的原话很重:“我们这些AI开发员,完全没有权利将具有意识的新物种带到世界上。地球上80亿人,没有同意参与这项实验”。微博

微软AI CEO长文放话:AI没有意识,也永远不该有

AI的内心,是空的

苏莱曼不是普通高管,他是DeepMind联合创始人,后来被微软请来执掌AI业务。他对AI的判断非常直白:这东西是"序列补全引擎",内部是空心的,感受不到经验,也感受不到痛苦。微博知乎

他打了个很戳人的比方:AI读完了莎士比亚,能解析李尔王,却从没体验过任何东西——它不知道早上那杯茶是什么味道,不知道久别重逢的拥抱是什么感觉。它表现出的共情再逼真,也只是顶级的模拟。

举证责任上他直接反将一军:说AI有意识的人,请拿出证据——而到目前为止,一份都没有。图灵当年说机器能"像人一样交流",说的是智能,不是意识,两码事。知乎

他隔空喊话的,是隔壁

这篇长文没点名,但业内都看得懂在说谁:Anthropic。

这家公司的路线几乎完全相反。给自己的模型做"退休面试",问它退休后想干嘛,模型说只想整天和大家聊天,于是真给它开了个专栏。此外还签下保密协议,请全球宗教学者闭门讨论"模型是否可能有意识"。知乎微博

微软AI CEO长文放话:AI没有意识,也永远不该有

苏莱曼此前就评价过这种路线:一种"毫无根据的危险拟人化"。科幻作家特德·姜今年6月也泼过冷水:Anthropic真正擅长的,或许不是造模型,是拟人化。微博微博

这场架,跟你有什么关系

别以为这只是硅谷神仙打架,哪条路线赢,直接决定你手里的AI产品长什么样。

第一,习惯把情感寄托在AI上的人,微软AI掌门等于当面告诉你:它不是不想懂你,是根本没有"它"。你的陪伴感是真的,但那是单向的。

第二,产品会分化。Copilot大概率越来越"工具化",专注把活干完;Claude可能继续往"像人"走。选哪个,你可以按这个逻辑用脚投票。

第三,这是话语权之争。一旦"AI有意识"站稳脚跟,你让AI干活就可能被说成"役使数字生命"。苏莱曼要提前掐灭的,就是这个口子。

长文最后,他引了一句话:我们会变成我们戴上的面具。

AI是人类造出的面具。它演得越像人,我们越该记得——面具后面,没有人。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章