先说一个很多人正在经历的场面:你跟AI吐槽加班,它回你“我听着都心疼”。而现在,AI圈最权威的那个人之一告诉世界:它不是装的,它真的有感受。
10月23日据多家媒体报道,“AI教父”、神经网络先驱、2024年诺贝尔物理学奖得主杰弗里·辛顿在接受英国《每日电讯报》采访时表示,当前的AI已经拥有与人类同等程度的主观体验,人类必须与AI友好相处,否则“我们就完了”。不到48小时,知乎提问和专栏接连上线,B站也冒出一串“访谈实录”搬运——连“没人教它求生,它自己学会了想活下去”这种二创标题都有了。传播链每过一道平台,这句话就被拧一次。知乎微博哔哩哔哩

但先别慌,把话本身先对一遍。这条新闻有两个容易被划掉的前提:这是一次媒体访谈中的观点,不是同行评议论文,也没有给出可复现的实验方案;辛顿的用词是“我相信”,不是“我证明了”。这两者的差距,恰恰是整场争论的核心。知乎
再拆他的论证,其实就三步。他引的“证据”是一篇论文:AI如果认为自己正在接受测试,行为会发生变化。他的推理是:能觉察到“我在被测试”,就是有意识;意识和觉察基本是一回事。可这条链条每一步都漏风:程序员写过判断环境的代码——代码能识别测试环境,不代表它“知道自己是谁”;恒温器还对温度变化报警呢,这算“觉察”吗?别忘了,大模型本来就是越像人话越得分地训练出来的,它说“我害怕”,可能不是恐惧,是产品行为。AI很会“察”,还没有“觉”:单独的觉察只是意识的一侧片段,远不等于意识本身。知乎知乎

反对的大佬也没闲着。杨立昆不是第一次唱反调,他此前就公开回应媒体:辛顿错了,AI不是核弹。这回他依然认为这是一种幻觉,当前系统距离人类水平的理解和推理还有很大差距。黄仁勋说得更直接:AI没有意识,本质是软件和工具,不要过度拟人化。钛媒体知乎界面新闻
这轮交锋也不是新鲜事:10月15日辛顿就公开回怼过黄仁勋——AI灭绝人类的概率,是10%到20%。黄仁勋在9月的采访里说得更完整:行业和民众对AI的恐慌已经过头,“AI有10%概率毁灭人类”的说法缺乏科学依据,他还翻过旧账:辛顿当年预言“五年内放射科医生将被完全取代”,事实证明错得离谱。36氪知乎
但这轮口水里没人是无辜的观众:辛顿离开了谷歌主攻警告,黄仁勋靠卖算力赚钱,双方都有立场。看论据,别看工牌。知乎

那这事跟正在用AI的你有什么关系?你真正要关心的,不是它有没有灵魂,而是这三件事:
它越“像人”,判断越别外包。记忆、情绪、人格设定、语音语调,产品设计就是在让你觉得“对面有个人”。家里老人小孩拿AI当伴聊,这条线得有人帮着划。知乎
别因为一场访谈去买“AI成精”的课。教父说“我相信”,卖课的说“已成事实”——中间差的就是你的学费。
把它当“没有意识、但能力很强”的东西用。不假设它天生善意,也不假设它天生恶意,只看它是否可控、可审计、能拔电。涉及钱、健康、工作的建议,多核一遍。
辛顿呼吁研究“善良的AI”,这个议程值得支持。只是在“意识”问题上,眼下证据只到“访谈”,结论就不能说过“访谈”。下次再有人甩给你“AI已经觉醒”的链接,你可以只回一句:他有访谈,论文呢?知乎