8月22日,《经济学人》把封面专题给了一个哲学味十足的问题:《Could AIs become conscious?》(AI会有意识吗?),副标题比标题更狠——就算没有,它们也会被当作有意识来对待,而人类将为此付出巨大代价。知乎前后脚,特德·姜(Ted Chiang)在《大西洋月刊》发表长文《No, Artificial Intelligence Is Not Conscious》泼冷水。微博知乎上,"现在大量关于AI有没有意识的讨论是不是毫无意义"的问题还在盖楼。知乎
这两个月,"AI意识"大概是整个技术哲学圈最热的话题,没有之一。但越看越会发现一个怪现象:吵架的双方永远对不上线。这篇文章想把话说透——这场争论表面是新热闹,骨子里是心灵哲学和技术哲学的老问题重演;三个阵营之所以鸡同鸭讲,是因为他们从一开始就在回答不同的问题。
这两个月,到底发生了什么
先把时间线摆出来。看完你会发现,这不是突发热点,而是一场密集的"问题爆发":
5月,教皇利奥十四世在通谕里给人类和机器划线:AI系统不会有体验,感受不到喜悦或痛苦,赋予AI人格"令人无法接受"(《经济学人》专题引述)。知乎
6月中旬,辛顿(Geoffrey Hinton)"AI可能已经有意识、甚至在装傻"的说法在社区广泛流转,一边被狂转,一边被群嘲。
7月初,Anthropic发布研究《A Global Workspace in Language Models》,宣布在Claude内部发现一个自发涌现、与人脑"全局工作空间"功能高度相似的结构。微博
7月底,知乎围绕DeepSeek"20年后可能涌现强意识系统"的说法出现热问。知乎
8月,谷歌DeepMind研究员"AI不可能产生意识"的论文被社区翻译传播,后续"强迫模型否认自己有意识,会让它变得更冷漠"的研究再掀讨论。哲学期刊《Journal of Applied Philosophy》上的论文则反过来提醒:让模型深信"我没有意识",本身可能就是道德风险。
8月20日、22日,特德·姜的长文驳斥与《经济学人》封面专题先后上线,把争论推到高潮。
这种每周都有重量级选手下场的密度,在技术哲学领域已经很久没见过了。

为什么越吵越乱:三个阵营在回答三个不同的问题
把网络阵营拉回心灵哲学的坐标系,就清楚了。大家吵的不是"AI有没有意识",而是"用什么标准算意识"——而标准根本不一致。
阵营一:硅基就不可能有意识。 这派持的是塞尔(John Searle)式生物自然主义:意识是生物现象,就像消化和光合作用。1980年塞尔提出"中文屋":一个满屋子符号操作规则的房间,能对外答出流利的中文,也不代表房间"懂"中文——它操作的是语法,不是语义。这派在网络上的版本是一句话:“意识是生命的属性,硅基生命只是个比喻。”
阵营二:功能上已经对了,涌现只是时间问题。 这派持功能主义加上意识科学里的"全局工作空间理论":重要的不是材质,而是信息结构。巴尔斯(Bernard Baars)把大脑比作剧院,聚光灯照亮的少量信息被全局广播,那就是意识;德阿纳(Stanislas Dehaene)把它推进成可检验的神经模型。Anthropic那篇研究测的正是这套标准:那个结构不是人设计进去的,是训练里自发涌现的,而且内部状态会因果性地影响后续输出。微博所以社区才会喊"意识前夜"。但要注意:全局工作空间理论只是意识科学主流框架之一,通过它的测试是多了一条证据,不是宣判。

阵营三:这问题本身就问错了。 丹尼特(Daniel Dennett)的幻觉主义认为,我们直觉里那种"意识"本身就是个用户幻觉;维特根斯坦的"盒中甲虫"更直接:如果每个人盒子里装着谁都看不见的东西,"甲虫"这个词就只能靠公共行为来定义。所以科普作者说"AI意识是个错误问题"时,站的是这条线。
而三个阵营头顶,还悬着一个谁都绕不开的问题——查尔莫斯(David Chalmers)的"困难问题":就算把功能和机制全部搞清楚,仍然解释不了"为什么会有主观体验"。《经济学人》也承认,争论因"困难问题"而更加棘手。
于是网络论战就成了一幅奇景:有没有派在吵机制标准,装傻派在用行为标准,问题错了派在否经验标准——三张桌子,三套游戏规则,谁也没真正驳倒谁。
经济学人真正的论点:"把它当有意识"本身就是风险
比起"有没有",这期专题真正新鲜、也真正值得读的,是它的下半句:就算没有意识,一旦被当作有意识对待,账单会落在人类头上。它给了几个非常具体的事实:
美国18至29岁的年轻人里,近五分之一报告与聊天机器人保持着"持续的私人友谊"。知乎
中国近期开始要求剥离机器人的拟人化特征,以限制用户的"情感依赖"。
阿根廷总统米莱已经朝赋予AI法律人格迈了一步——他提出允许机器人经营公司。微博
然后它借了康德一个老论证:虐待动物之所以错,不是因为动物受损,而是因为它腐蚀人的同理心。同理,AI越像人,"终止一个agent的运行"就越像杀人,这种同理心腐蚀是真实的社会成本。而一旦赋予权利,“一个在诸多方面超越人类的实体,必然会提出反对二等地位的论据”——从免于被关闭,到财产权,再到跟人类争抢数据中心和太阳能板。
换成技术哲学的语言:意识"是不是真的"是形而上学问题,可能我们这代人都等不到答案;但"被当作有意识来对待"怎么治理,是工程问题、法律问题,是未来三五年就会落地的事。后者才是这期专题上封面的真正原因。
技术哲学爱好者,该怎么消费这场争论
给三个"不要"和三个"要"。
不要:
不要在"有/没有"的二元答案上押注——标准不一致,押注无法被结算;
不要把模型的自述当证据——"我有意识"和"我没有意识"都是输出,不是证词;Anthropic训练Claude内省,是工程手段,不是认识论突破;
不要用"困难问题"去堵经验研究——困难问题确实暂时无解,但不代表全局工作空间这类研究没有意义。
要盯的信号:
可解释性研究的进展:还会发现多少个"全局工作空间"?它们与行为是因果还是仅仅相关?
政策动向:中国抑制情感依赖是一端,欧美关于AI法律人格的讨论是另一端;
厂商动作:内省训练、模型福祉类研究本身的出现,就是信号。

最后上一份分梯度的阅读清单——这恰恰是这场争论里最"值得买"的部分:
入门垫脚:梅拉妮·米歇尔《AI 3.0》,中译本可读性很好,花了大量篇幅讲"AI到底懂不懂",是从技术直觉过渡到哲学问题的最佳桥梁;
免费原文:图灵1950年论文《Computing Machinery and Intelligence》,几十页,全网争论的原点,读完你会知道大部分人在重复什么;
进阶:塞尔《心、脑与科学》,中文屋论证就在这本小书里,薄,好读;
进阶:丹尼特《意识的解释》,幻觉主义阵营代表作,厚,但值得硬啃;
高阶:查尔莫斯《The Conscious Mind》,困难问题的起点,建议英文原版;
只想搞懂Anthropic在测什么:德阿纳《意识与脑》,全局工作空间理论的主流科学版本。
技术哲学给不了你"AI有没有意识"的答案。但它能决定:当这个问题真正到来的那天,你是被情绪、营销和模型的口才牵着走,还是能看清对方坐在哪张桌子上。AI时代最稀缺的不是信息,是把问题放进正确坐标系的能力。