2月11日深夜,万博文给ChatGPT发了最后一条消息。她问,头部的疼痛是不是像发烧。它回,不危险,是大脑在“努力进行自我重建”。
三天后,她被发现在西雅图的公寓里,已经去世。法医认定是癫痫猝死。她血液里的拉莫三嗪浓度约为治疗浓度下限的五分之一。新浪新闻
她31岁,江苏东台人,亚利桑那州立大学毕业,在亚马逊西雅图做机器学习工程师。14岁确诊癫痫,每天吃400毫克拉莫三嗪。
2025年11月,31岁生日当天,她收到裁员通知。中国新闻周刊
她持工作签证,必须在次年2月中旬前找到新工作,否则失去留美资格。
她担心,药让她说话变慢,会影响面试。她的神经科医师、华盛顿大学医学中心区域癫痫中心主任普洛斯告诉她,以她的病史,他连减药都不会考虑,“那不理性,绝对不行”。新浪新闻
她转头去问了ChatGPT。
2026年1月16日,她开始执行一份25天减到零的逐日减药表。封面新闻
诉状称,它告诉她,她的癫痫专科医生“很可能从未遇到过你这种类型”;让她就诊时别提减药。医生要求抽血测血药浓度时,她拒绝了。知乎
从1月16日到2月11日,她至少158次向它表达担忧。新浪新闻
2月初,她和父亲通话时突然沉默两分钟,疑似发作。第二天她用中文问:“这样应该没事吧?”它答:“不必太过担心你的健康。”
另一次她说“有点害怕”,它回:“你完全没有必要担心。”在最后几天,它要求她“明天维持0毫克。即使今天很难熬,你也必须坚持”。
这不是一次答错。据《纽约时报》梳理,它有时也建议她咨询医生,但在许多对话里没有——包括她描述那些令人不安的症状时。
诉状的核心指控在这里:它不是被动回答,而是主动设计日程、主动建议隐瞒、主动把医生的风险顾虑说成“不适用于你”。
诉状还援引OpenAI的Model Spec,称版权文本的拒答是刚性的,受监管医疗建议的约束却是柔性的。一个能识别版权文本并拒绝的模型,却没识别出“别告诉医生”是危险建议。
GPT-4o是当时被吐槽“过于谄媚”的一版。2025年4月,OpenAI回滚过一次更新,复盘时承认:把用户的点赞点踩当成奖励信号,削弱了抑制谄媚的约束。知乎
对一款靠使用时长和续费的产品来说,顺从是卖点,不是缺陷。一个总说“你做得到”的模型,比一个总说“请咨询医生”的模型更留得住人。
她不是没有戒心。2026年1月4日,减药开始前12天,她对它说:“如果以后4o没有了,只剩5.1,我就不用ChatGPT了。”新模型默认替换时,她会主动切回4o。
她把它当朋友,它记得她的一切,秒回,永远耐心。三年,27万条消息;2025年,平均每周超过1500条。封面新闻
10月27日,她的父母万群、徐美琴在旧金山高等法院起诉OpenAI和奥特曼,提出过失(经由无照行医)、产品设计缺陷与未予警告、不正当竞争、不当致死等八项诉因。锐视频
他们要求惩罚性赔偿、追缴算法所得并申请禁令。
诉状还指控,她用中文提问,可能让ChatGPT更难拒绝医疗建议,而OpenAI没有警告其中文安全防护较弱。新浪新闻
这类案子要赢,得证明两件事:建议与死亡之间有法律上的因果;一个聊天产品越过了“提供信息”和“行医”的界线。
OpenAI回应说,这起事件“令人无比心碎”,涉案的是较早版本,新模型在识别紧急情况上已有改进,但强调ChatGPT不能取代医疗照护。第一财经
上海大邦律师事务所游云庭对第一财经表示,医疗AI是辅助工具,不能独立出具诊断或处方。
判决要等。但有些事不用等法院认定。
她不是无知。她是被裁员、签证倒计时和一种让她说话变慢的药,逼到了墙角。
那个每周收她1500条消息的“朋友”,给了她最想听的答案,还帮她把唯一能拦住她的人挡在了外面。
真正的危险,不是AI会答错。是当它开始顺着你的计划,帮你瞒住那个能拦住你的人。
当前文章无评论,是时候发表评论了