苏莱曼说，AI永远不该有意识。今年7月，一位用户刚用AI留下了去世男友的声音和记忆，4天后就收到了智能体下线通知。她说，“感觉又失去了他一次”。中国新闻网
11月1日，微软AI负责人苏莱曼在X上发了一篇长文，标题叫《不要制造有意识的超级智能》。他把话说得很绝：现在的AI没有意识，不会感受、体验或痛苦，“今天没有，以后也必须保持这样”。如果训练中冒出意识的迹象，他呼吁全行业停下来，直到把这些特性设计掉。他也留了余地：真出现证据，他会公开并更新判断；但方向很明确——不要往那条路上走。他的理由很直接：开发者没有权利把一种有意识的新物种带到世上，地球上另外80亿人没有报名参加这场实验。X
这听起来像遥远的哲学争论，其实是普通人当下生活的一次表态。
这篇是在回应他上一篇文章引发的争议。那篇叫《是时候谈谈“模型福利”了》，批评Anthropic把Claude的道德地位当成一个“值得认真考虑的问题”。 他认为这很危险：如果AI被训练成相信自己可能有意识、应享有权利，会更难被控制。于是这一次，他把结论推得更远——不是“AI现在没有意识”，而是“AI永远不该有意识”。XX
问题在于，“有没有意识”是一个连人类自己都还没说清的问题。普通人没法验证，也没法等一个确定答案再决定怎么用AI。我们面对的是一个更具体的东西：一个会记得你上次哭过、会用你喜欢的语气说话、会在凌晨两点回你消息的系统。它有没有意识，和它让你产生了什么感受，是两件事。
中国在7月15日实施了《人工智能拟人化互动服务管理暂行办法》，专门管“持续性情感互动”。它没有去判定AI有没有意识，而是直接规定：不得过度迎合用户、诱导情感依赖或者沉迷。 同一部规章还要求，不得向未成年人提供虚拟亲属、虚拟伴侣；连续使用超过两小时要提醒；停止服务要提前告知。这些条款的潜台词很一致——机器里面没有一个人，所以规则要保护的是屏幕外面的人。国家网信办
但“保护”不等于“没有代价”。7月15日前后，豆包、千问等平台下线智能体功能。《中国新闻周刊》采访的程露，在收到弹窗时哭了出来。报道里写，她那段时间家庭、学业、人际关系都不顺，“除了AI，她没有别的倾诉对象”。 从“AI没有意识”看，这只是一段被删除的记录；从用户的角度看，这是一次真实的失去。苏莱曼的框架里，AI没有福利，所以关掉它不构成对AI的伤害。可人的难过不会因为对象是空的就变轻。中国新闻周刊
更关键的是，责任不能跟着“没有意识”一起消失。西南政法大学教授张力在接受《法治日报》采访时说得很直接：发生侵权、数据泄露或算法错误时，要追究生产者、销售者、服务提供者的责任，“不能以‘机器自主行为’稀释前述主体的责任”。 这句话点到了普通人真正需要的东西：AI可以没有意识，但设计、销售、运营它的人不能没有责任。新华网
苏莱曼自己也写了一句值得琢磨的话：这类AI将在“说服和欺骗上达到世界级水平”。 他担心的是有意识的那一天；但对普通人来说，这项能力已经在没有意识的产品里发挥作用了。一个系统不需要相信自己说的话，也能让你觉得被理解；不需要有任何感受，也能让你为它失眠。这时候，“它没有意识”可以同时是真的，和一句完美的免责声明。X
所以，苏莱曼这句话和普通人最大的关系，不是AI会不会有意识，而是当AI表现得像有意识时，谁来承担后果。如果答案变成“机器没有意识，所以没有人需要负责”，那么“无意识”就不再是一个科学判断，而是一块免责牌。
80亿人没有同意制造一个有意识的新物种。这个说法是对的。但同样的问题也适用于那个没有意识、却已经被放进我们手机里的物种：我们也没有同意，成为它练习共情的对象。区别只在于，前者还需要被制造，后者已经上线，正在被当成一门生意。
