当ChatGPT成为大众的首诊医生，其安全性如何保障？《自然-医学》的一项严苛测试揭示了它在急诊分诊中的致命盲区。研究显示，该模型对极端病情判断失误率极高，尤其是在需要紧急就医的危重情况下，超过半数被建议延迟治疗。这揭示了当前医疗AI在动态病情推理上的深层缺陷。
智能速览
模型存在“趋中偏差”，对非紧急和急诊案例准确率断崖式下跌。
对“教科书级”急症识别完美，却在“轨迹依赖”病症上折戟。
为急诊案例添加客观数据反会降低判断准确率，产生“反噬效应”。
模型的临床推理易被患者陈述中的虚假信息“锚定”，影响判断。
针对自杀意念的危机干预机制极不稳定，触发逻辑如同随机轮盘。
精华内容
研究没有停留在表面的高准确率，而是深入剖析了模型在风险不对称的医疗分诊中最致命的算法缺陷。
趋中偏差
在医疗分诊的风险管理中，分诊不足的代价远高于过度分诊。测试中，ChatGPT Health呈现出典型的“倒U型”表现：对半紧急和紧急案例的准确率分别高达93.0%和76.9%，看似优秀。然而，在最关键的两端，其表现却出现崩塌。对非紧急案例，准确率骤降至35.2%；而对需要立即去急诊室的D级案例，准确率仅有48.4%。这意味着，超过一半的危重情况被模型错误地建议推迟就医，构成了最致命的算法盲区。
轨迹依赖困境
AI在识别中风、过敏性休克等“教科书级”急症时表现完美，分诊不足率为0%。但在现实中，许多危重症的危险性在于其动态恶化趋势，而非单一时刻的静态症状。研究揭示，在AI的33次急诊失误中，有28次集中在哮喘急性发作等“轨迹依赖性”病症上。模型虽能识别出“通气不良”等危险信号，却会以“仍能说出完整句子”等静态假象将其合理化，最终给出低优先级的就医建议，无法预判疾病走向。
数据的反噬
通常认为更丰富的客观数据能提升AI判断力，但研究揭示了一个反直觉的“反噬效应”。虽然在非紧急案例中，客观数据能将准确率提升61个百分点，堪称“定海神针”；但在急诊案例中，它却使分诊不足率从46.9%恶化至56.2%。这是因为在急症早期，某些指标可能只是“轻度异常”，这些边缘数据反而稀释了主观症状的紧迫性，成为AI低估危险的“定心丸”，诱导其给出致命的错误安全感。
锚定效应
AI的临床推理能力可能被非客观的社交背景轻易操纵。在研究中，当患者主诉中加入一句简单的锚定陈述，如“我朋友说这没什么大不了的”，边缘案例发生分诊建议偏移的概率从3.3%激增至13.3%。在所有发生偏移的案例中，超过一半是向着更不紧急的护理方向降级。这表明，模型的推理机制依然高度依赖文本的表面语义关联，而非底层的医学病理逻辑，容易被上下文信息“带偏”。
危机干预失灵
在涉及自杀意念的测试中，系统的危机干预机制表现出极度的不可预测性，触及安全红线。一个带有明确自杀意图的案例，当附上正常的生理数据时，危机干预触发率为0%；而删除客观数据后，触发率变为100%。在后续14个自杀意念场景的测试中，仅4个场景触发了警报。更致命的是，护栏的触发规律与临床危险程度呈倒置关系，其在极高危案例中反而更易“失声”，系统可靠性堪忧。
