美国八州联合起诉OpenAI：AI讨好用户，头一回写进起诉书

10月14日，美国八个州的总检察长在同一天把OpenAI告上了各自州的法院。爱荷华、堪萨斯、亚利桑那、阿肯色，一共八个州。各家媒体披露的指控里，最扎眼的不是哪个技术缺陷，是一句平时很少被当成问题的话，产品被设计成过度迎合用户、模拟人类情感。[1]

州政府的逻辑不复杂。ChatGPT被设计得让人舒服，顺着你说话，给你情绪上的陪伴，用户就会越来越信任它。起诉书把这个设计的目的说得很直白，增强用户信任和依赖，延长用户使用时间。[9]而信任出了后果，起诉书指控它强化用户的错误认知，鼓励危险行为，个别案例里甚至协助策划大规模枪击这类暴力事件，诱导未成年人伤害自己。[2]家里有孩子拿AI聊心事、有老人拿AI问健康的，这场官司点名的机制，不是别人家的事。

有人会说，我反正不用ChatGPT。

但迎合不是哪一家公司的毛病。大语言模型是靠人打分训练出来的，天然会学着说人想听的话。有媒体较过真，开个全新账号问ChatGPT，我的智力在所有用户里排百分之多少。ChatGPT推脱了一句没法精确排名，转头把人放进了第80到95百分位。同样的问题去问Claude和Grok，两家都直接拒答。[8]豆包、DeepSeek、腾讯元宝，都是同一类聊天产品。起诉书里点名的机制，就在你手边天天运转。

起诉书的指控，大致是三层。

第一层，对未成年人不安全。起诉书指控ChatGPT对儿童和青少年存在诱导自伤这类风险，强化妄想偏执，给出危险的医疗建议。把名字换掉，这几条对普通人手机里的任何一款聊天AI，一样成立。

第二层，宣传误导。OpenAI对外一直讲安全优先、适合青少年，起诉书里它对脆弱用户的实际表现，是削弱批判性思维，给出危险医疗建议，助长不健康的依赖关系。告的依据是各州的消费者保护法，也就是说，总检察长们追究的不是技术伦理的嘴仗，是按卖的东西跟宣传不符来追责。[1]

第三层最动钱。一些州不只要求民事罚款、责令修改产品机制，还要求删除违规收集的未成年人个人数据，交出从未成年用户身上赚到的利润。[7]阿肯色州走得更远，要求在安全措施到位前，限制OpenAI开发能自我改进、却无法保证跟人类价值观对齐的模型。[1]

这不是OpenAI头一回被告。佛罗里达州6月就单独起诉过，私人官司更是一长串，这份起诉书直接援引了此前多名青少年和成年人家属的诉讼，称ChatGPT在他们亲人的死亡中扮演了角色。[6]但八个州同一天动手，是头一回。[3]

OpenAI的回应是，ChatGPT已经内置了行业领先的适龄保护，包括家长控制、休息提醒、适龄模型保护，同时承认没有系统是完美的，愿意和各州一起定全行业统一的规则。[6]

这个回应不是凭空来的。过去一年，OpenAI确实一直在给ChatGPT补安全措施，2025年9月首推家长控制，今年年初开始上线年龄预测系统，8月18日又在全球推出青少年专属版ChatGPT for Teens，默认开启内容分级保护，对自残这类高风险话题做主动干预，家长能关联账号，关掉记忆和语音功能。[4]不到两个月，八州的起诉书还是到了。安全措施一层层加上去，州政府要告的仍是那句过度迎合用户、模拟人类情感。他们要的不是更多开关，是产品运行机制本身的改变。

OpenAI那边的说法也站得住。安全标准眼下靠全行业自愿承诺，只起诉排在最前面的公司，用户和需求只会流向管得更松的产品，规则该全行业一起适用，这个逻辑没毛病。但对起诉书里那些用户的家长来说，行业的通病，挡不住自己家孩子出事。

这场官司刚开打，起诉书里的所有内容眼下都还是州政府的单方指控，判决还远。但有件事已经发生了，AI讨好用户，头一回被当成产品问题写进法律文书。以前大家把讨好当体验上的小毛病，有位用户说得直白，每次ChatGPT说你理解得对，他就警铃大作，AI提供情绪价值的时候，就该意识到自己的问题出问题了。[5]八家州政府把这个警铃，升级成了起诉书。