头疼脑热、体检报告看不懂、深夜突然不舒服，要不要去医院——越来越多人的第一步不是打电话，而是掏出手机问AI。今年8月，中国青年报社社会调查中心联合问卷网发布的一项覆盖1333名受访者的调查显示，超九成受访者用AI查询过病情、获取过就医建议。与这个习惯相伴的，是持续升温的“黑盒”争议：AI能秒回答案，但没人能轻松说明它为什么给出这个答案、该不该照做。把散落在药监规则、医保目录和医院流程里的信息拼起来会发现，这条边界并没有留白，只是普通人很少有机会看清全貌。建立理性的健康消费观，关键是三件事：用AI负责“搞懂”，医生负责“拍板”，付钱和防骗看“证照与标识”。
黑盒的“黑”有两层：过程看不见，答案可能是编的
黑盒的第一层含义是决策过程不透明。南京航空航天大学人工智能学院教授秦杰直言，AI的决策过程更像是一个“黑箱子”，患者可能无法判断结果是如何得出的。
而比“看不懂推理”更麻烦的是第二层——答案本身可能是编造的。该校人工智能学院院长张道强提到，一些用户在使用AI协助生成内容时发现，它存在杜撰医学名词出处、虚构参考文献等情况。
患者的体感来得更直接。武汉的周俊（化名）曾把母亲的化验单传给某AI平台，医生没留意的指标，AI提示已属于“危急值”；他随后又在线上咨询了几位医生，讨论后才确定病情。更让他困惑的是，同样的症状和检查单，不同AI得出的结论可能是相反的。
监管已经划出边界：院内AI是医疗器械，聊天框里的不是
划第一道线的是药监部门。国家药监局早已明确，利用AI进行疾病诊断、辅助决策、影像识别等的医用软件，属于医疗器械范畴，必须按照医疗器械法规进行注册和监管。截至2025年10月，国家药监局已批准超110款基于深度学习的第三类医疗器械独立软件产品，用途覆盖辅助分诊、识别检测、辅助治疗等。换句话说，能在医院里辅助读片的AI，是按设备标准“持证上岗”的；而你在手机上随手打开问诊的通用大模型，并不在这套注册体系里，不能把它当诊断工具。新华网
门槛还在抬高。2026年9月14日，国家药监局发布《人工智能医疗器械注册审查指导原则（2026年修订版）》征求意见稿，首次新增「大模型」「医疗智能体」「多病种产品」独立专题章节，并要求企业针对幻觉、偏见等风险提交风险管理资料。“黑盒”由此从媒体和学界的话题，变成注册审评必须回答的问题。钛媒体
院内AI不向你多收钱，也不被允许单独拍板
划第二道线的是医保。在放射、病理、超声、检验四类价格项目立项指南中，人工智能辅助诊断被设为医保扩展项：AI不额外加价，且须经执业医师复核签字后，才能纳入医保支付。钛媒体
今年3月31日，12项AI辅助诊断被纳入全国统一医保乙类目录，首批覆盖肺结节CT、眼底糖网、冠脉CTA等场景，据公开报道已在837家三甲医院同步落地。落到账单上很直观：做一次肺结节CT，三级医院单次约150元，AI整合在其中，个人自付部分大致在22.5元到45元，读片AI并不是一个新收费项目。钛媒体
这套规则对患者意味着两件事：院内的AI既不能单独收你的钱，也不能绕开医生单独下结论——最终对报告负责的，始终是一位签字的执业医师。
出了错谁负责：AI答题不担责，签字的医生担责
第三道线是责任划分，这也是普通人最容易忽视的部分。清华大学北京清华长庚医院肝胆内科主任医师杨明的提醒很直接：患者使用AI进行问诊，AI的回答不需要负法律责任，而对医生来说，他们需要对病人的诊疗结果负责。中国科学院大学公共政策与管理学院教授马一德进一步指出，AI应用的开发部署往往涉及多个环节、多个主体，责任链条拉长、分散，出了问题很难锁定责任承担者。这也解释了调查中一个具体的担忧——35.6%的受访者担心出错无人追责、维权无门。把这条线读懂，结论其实很简单：AI给出的任何结论，都不构成可以直接执行的医嘱；能被追问、能承担责任的是线下签字的医生，而不是屏幕对面的模型。
消费端更常见的坑是人祸：给“专家带货”多一道核验
对钱包和病情威胁更大的，往往不是算法的黑盒，而是有人借AI制造的假权威。7月10日，北京协和医院发布严正声明称，网传该院多名护士十年间为患者垫付医药费等不实情节为AI生成的虚假内容。此前，该院临床营养科主任医师于康的形象曾被AI换脸盗用，在多个减重科普视频中频繁“出镜”带货，经本人核实从未参与录制；上海警方还破获过无医学背景的运营者用AI批量生成虚假医疗科普文章、招揽病人线下就医的案件。
针对这类乱象的规定同样已经落地：借助人工智能技术生成合成医疗科普信息、分享传播真实健康经历的，需严格标注信息来源或生成合成内容标识。“自媒体”账号对发布转发医疗科普信息的真实性、科学性负责，严禁无资质账号生产发布专业医疗科普内容。落到消费动作上，辨别信号只有两个：刷到“专家”讲病带货，先看有没有AI生成标识，再查这个账号有没有真实医疗资质——两者都没有的，直接划走。
给出解释，不等于值得信任
针对黑盒，“提升可解释性”常被当作解药，但一项实验给出了冷静的提醒。医疗领域的一项随机临床情境实验邀请了四百余名临床医生、执业护士和医师助理判断呼吸衰竭病例：常规AI建议让诊断准确率比基线提高2.9个百分点，而系统性偏置的建议让准确率下降了11.3个百分点。更值得注意的是，给偏置的建议附上解释之后，准确率仍比基线低9.1个百分点——解释并没有“解毒”。一项汇总了一百余项人机协作实验的元分析也显示，人和AI放在一起，平均并未超过两者中单独表现更好的那一方。钛媒体
这些证据对普通用户的含义是：AI给出再详尽的推理过程，也不自动等于更可靠；值得信任的依据是“谁持证、谁签字、谁负责”，而不是回答有多流畅。
把AI放回它的位置：负责搞懂，不负责拍板
回到“怎么消费”这个最终问题。调查里，69.3%的受访者用AI是为了提前了解病情、方便就医。这个用途恰好与专业人士建议的边界重合：北京中医药大学东方医院脾胃肝胆科主任医师李晓红说得很明白，她只建议患者用AI问诊作为了解疾病的途径，并不建议患者执行AI的建议。
用好这个“了解”的工具，有两个具体动作。一是把话说全：使用者必须完整、准确讲清疾病的发生、发展全过程，表达模糊、遗漏核心症状，AI输出的分析方案参考价值会大打折扣；病史、用药史、饮酒史这类容易被AI漏掉的细节，恰恰决定建议的质量。二是把线守住：无论AI的答案听起来多笃定，危急值、复杂病情、多病共存的情况，一律以线下真人医生的诊疗为准——就像调查里那位武汉受访者做的：问AI要线索，找医生下结论。
还有一笔常被忽略的心理成本：59.9%的受访者认为过度依赖AI咨询健康问题容易引发焦虑，把小病往坏处想。而00后、90后受访者用AI查过病情的比例已分别达到95.9%和94.8%，越是年轻的身体越容易被“AI吓人”困住。比较理性的用法是：问完一轮，把整理好的疑问带去门诊，而不是让AI陪着反复搜索、逐条验证恐惧。
黑盒争议的实质，是“信任应该交给谁”。监管、医保和责任规则给出的答案其实一致：技术的不透明会逐步补上，而签字、盖章、标识这些环节里，始终有具体的人在负责。理性的健康消费观不是拒绝AI，而是把AI放回规则给它的位置——帮你搞懂，别让它替你决定。
