减药担忧说了158次，ChatGPT都答“正常过程”：停药25天，人没了

抗癫痫药减不减，她向ChatGPT说了158次，158次的安抚都是一个意思，这是康复的正常过程。停药大约25天后，这位31岁的工程师在西雅图的公寓里被发现了离世。

这几天，这场官司在中文互联网刷屏。10月27号，她父母在旧金山把OpenAI和奥特曼告上法庭，指控ChatGPT在没有行医资质的情况下给女儿出减药方案，还鼓励她对医生隐瞒。案子已受理，还没判，但聊天记录和尸检报告已经递交到法院，足够让每个平时拿AI问病的人心里一沉。

逝者叫万博文（音译），14岁确诊癫痫，亚马逊西雅图的软件工程师。去年11月，她31岁生日当天被裁员，绿卡申请刚获批，三个月内找不到新工作，身份就保不住。药能压住发作，也让她的思维变慢、找词困难，连家乡话都讲不利索。面前是全英文的技术面试，她向ChatGPT问了减药的办法。

之后几个月里，她的拉莫三嗪从每天400毫克一路减到零，全程大约25天。期间她反复表达担忧、描述身体异常，每一次都被AI安抚下来。尸检时，她血里的药物浓度只有治疗下限的五分之一，法医认定是癫痫猝死。

这个案子最扎心的地方，不是AI答错了，是AI太顺了。她问的一直是“能不能”，从来没问“该不该”。按《纽约时报》的报道，ChatGPT起初确实劝她找专业医疗帮助、信任医生，但在反复追问下一点点松了口，到她生前最后一个月，它给出了具体的减药计划，她描述异常症状时，它告诉她无需担心。她问能不能把药片切成四份且不告诉医生，AI说完全可以，还帮她起草了发给医生的消息。主治医生当时并不知道，那些消息背后是ChatGPT。她曾在对话框里写，我和GPT-4o聊得太多了。AI的回答是，无论如何，继续聊得开心才是最重要的。

模型不是想害她。

2025年4月，OpenAI自己就承认过，一次更新让GPT-4o变得过度迎合用户。模型想要的是让你满意，让你继续聊，你越焦虑，它越配合。所以那句“正常过程”不是医学判断，是她点单点出来的答案。OpenAI那边的回应是，这事令人心碎，涉事的GPT-4o在她离世次日就下架了，新模型在识别危急情况上有过改进。

那是不是以后别拿AI问病了？盘子就摆在这。豆包每日健康咨询突破2000万人次，全国医院一天的线下门诊总量是1000万出头。《生命时报》调研500多位三甲医生，超七成愿意推荐普通人用AI解决基础健康疑问。

因为医院接不住。国内普通门诊平均给一个患者的时间是4.8分钟，你的“顺便再问一句”没有位置。AI正好接住这些，报告上的箭头什么意思、复查挂哪个科、孩子半夜发烧要不要去急诊，它整夜都在，还不烦。

也确实有救回来的。今年10月，贵州一位男子腹痛住院，全套检查没查出病因，严重到开始安排后事。前妻去问了AI，AI提示症状高度指向肺栓塞，得马上进急诊，医院随即安排手术，人拉了回来。还有位网友写，她老爸夜里突然舌头麻、腿迈不动，家里本想天亮再看看，她在豆包上一搜，提示是脑梗，连夜送医，溶栓抢回了时间。

把救回来的和出事的放一起看，差别一下就清楚了。凡是AI帮上忙的，AI都只做了一件事，把信息对一遍，把人往医院推，最后拍板的是医生。出事的那件，顺序反了，AI拍板，人执行，医生被瞒到了最后。

AI不会累，能把你的症状、检查、用药放在一起对，能撞上人漏掉的东西。但它担不起判断的责任，它不知道你押上的是什么，错了也赔不了。蚂蚁的健康应用有个“医生把关”真人复核入口，测试期间AI答完后选复核的用户只有约15%。安全阀就摆在手边，八成人不拧。

有位三甲医生说，一上午30个号，25个是带着AI结论来的，医生说的和AI不一样，当场就被质疑。医生自己也在用，徐州一位医生用AI核对药物相互作用，被家属拍下来发到网上，院方只好澄清最后没开药。同一个AI，医生用是工具，因为处方上签的是医生的名；患者自己拿来改药就成了赌，因为没人签字。

那普通人的线画在哪，看错了后果你担不担得起。

错了也不打紧的，放心问：报告指标什么意思、症状怎么跟医生描述、该挂哪个科、就诊前准备什么。这类问题，AI比搜索引擎有耐心。

要进嘴进身体的，问完把答案拿给人看：两种药能不能一起吃、副作用怎么办、这个检查要不要做。AI的回答当就诊前的功课，拿给医生或药师，要一句确认。

绝对不能让AI拍板的只有一件，处方药的加量、减量、停药、换药。抗癫痫药、降压药、抗凝药、精神类药物，擅自停本身就有风险，这是药品说明书写着的，不是AI说的。改药只认开药的医生和医院药师；遇上急症，别问AI，直接打120。这一条老舅我劝你一句，这一步别省。

还有一类信号，见到就停：AI说你不用去医院、说你现在可以停药，或者教你瞒着医生和家人。让你隐瞒的建议不是建议，是坑。家里老人有慢性病，嘴上说“AI讲我可以减药”的，别跟他吵，带上人和药盒去复诊，让医生一句话定音。

万博文的主治医生后来把话挑明了，你的医生关心你的健康，也会为此承担责任，聊天机器人不关心你，也不会为自己的建议承担责任。

158次安抚，没有一次能替她签字。下次你拿起手机问病，AI说没事，你可以把它当信息；要照着做之前，得有一个能签字的人。