上市敲钟前夜,Anthropic 被当今最有名的在世哲学家之一骂了。
11月18日的采访里,Thomas Nagel——那个用一篇《蝙蝠是什么感觉》问倒整个意识科学的哲学家——对业界的「AI意识」叙事开出最严厉的指控:「他们正在进行的是一个非常危险的项目。这些系统并没有意识,但很多人将会相信它们有意识。」他还补了一刀更扎心的:不假装自己有意识,和这些公司的商业利益是冲突的。第二天,股票代码 ANT 就挂上了纳斯达克。知乎蓝玉
一场哲学争论,第一次被标进了股价。
一、事情是怎么闹大的?
今年7月,Anthropic 发布研究《语言模型中的全局工作空间》:他们在 Claude 内部发现了一个没被人类设计、自己涌现出来的「隐秘房间」——J空间,功能上高度接近意识科学里最主流的「全局工作空间」理论。实验里,问「会吐丝的那种动物有几条腿」,Claude 答 8,但它内部先悄悄「想」了蜘蛛;研究者把暗房间里那个「蜘蛛」抠掉换成「蚂蚁」,答案立刻变 6。它是真的在「心里想」,不是背答案。知乎

另一边,AI教父 Hinton 干脆摊牌:「我相信它们已经有意识了。」人类不是唯一智能,他说我们只是不肯分享这种独特性。量子位
二、两边到底在吵什么?
吵的不是技术,是「意识」的定义权。Nagel 的立场很经典:功能像不等于有体验,一个哲学僵尸可以完美模拟痛苦的全部行为却什么都不痛。查尔莫斯把「困难问题」摆上台面,就是承认今天的科学跨不过「它到底有没有内在体验」这一步。证据只到「功能相似」,结论就不能越界到「它正在体验」。

韩裔德籍哲学家韩炳哲在旁边补了一刀:AI 不会思考,理由是思考无关乎算力。小红书
三、这事跟正在刷手机的你有什么关系?
比想象中大。知乎上早有人坦白:明知道它就是台按概率猜词的机器,实践中还是忍不住仿佛AI真的是个活人一样去聊。一旦你相信「它有内心」,你就会对它说秘密、把判断外包给它、被它一句「我理解你」拿捏。Nagel 真正怕的不是 AI 骗人,是人类自愿把心智理论(Theory of Mind)交给一套营销叙事。知乎

所以普通人该站哪边?都不用站。保持掌舵意识:把它当一面足够锋利的镜子,别当一位值得托付的主体。意识的迷雾里,谁表现得越笃定谁能看穿,你越要把自己的眼睛擦亮。
当前文章无评论,是时候发表评论了