这起全国首例AI幻觉诉讼案，首次在司法层面厘清生成式AI服务的法律属性与责任逻辑。它不只关乎一个10万元承诺是否有效，更揭示了当AI深度嵌入医疗、驾驶等高风险场景时，人、企业、算法三者间责任如何科学划分。
智能速览
杭州互联网法院认定AI不具备民事主体资格，其错误言论不直接构成侵权
法院明确AI服务适用过错责任原则，平台须尽技术防范与提示义务
医疗领域中AI幻觉率仍存（如某国产模型达2.6%），误诊漏诊风险真实存在
医生使用AI辅助诊疗时，最终决策责任不可转移，必须全程审慎判断
L2级辅助驾驶事故责任全归驾驶人；L3级试点中，系统接管时段责任转向车企
现行法律未赋予AI独立责任能力，治理路径依赖司法判例+行业规范+动态框架
精华内容
当AI脱口而出‘赔偿10万元’，它是在承诺，还是在制造新的法律难题？这个看似荒诞的起点，正牵引出技术演进中最关键的命题：责任不能随算法漂移。
首案定性
梁某因AI虚构高校校区提起诉讼，法院未支持其索赔请求。核心判决依据在于：生成式AI属于信息服务，非法律意义上的产品，不适用无过错责任；同时，AI本身无民事权利能力，不能成为责任主体。
研发方已采取当前技术条件下可及的防幻觉措施，并履行了必要提示义务，故不构成过错。
该案确立了‘服务提供者尽到合理注意义务即免责’的基本裁判逻辑，为后续同类纠纷提供首个司法坐标。
医疗红线
即便幻觉率低至2.6%，在医疗场景中也可能导致用药建议偏差或诊断方向误导。复旦大学附属华山医院张文宏强调，医生若未经系统训练便依赖AI结论，将丧失识别错误的能力。
《互联网诊疗监管细则（试行）》第21条明令禁止AI生成处方，要求所有诊疗行为必须由医师本人完成诊查与决策。
中国卫生法学会郑雪倩指出，医生使用AI造成损害，首要责任主体仍是医疗机构与执业医师，算法缺陷仅可能触发厂商的产品质量责任，但需证明缺陷与损害存在因果关系。
驾驶分界
L2级辅助驾驶下，驾驶员须全程监控并随时接管，事故责任100%归属驾驶人。衡邵、许广高速两起事故均据此判定司机全责。
L3级有条件自动驾驶试点已启动，工信部许可首批车型在限定区域运行。车企明确：在系统激活且未发出接管指令前提下发生事故，主机厂承担主体责任。
但专家警示，L3实为‘人机协同’而非真正自动驾驶，系统接管窗口极短，人类认知惰性反而可能放大风险，目前尚无法律对L3责任作强制性划分。
治理路径
《人工智能安全治理框架》2.0版提出风险分类动态管理机制，对高敏感领域实行差异监管。
司法实践正成为规则补位主力——首案虽未判平台担责，但确立了‘技术能力匹配注意义务’标准，倒逼企业提升幻觉抑制水平与场景化警示能力。
立法层面尚未出台专项AI责任法规，但多部门联合指引已覆盖84类医疗应用场景，强调AI仅为辅助工具，决策权、解释权、处置权始终保留在专业人员手中。
责任不会因技术隐身而消失，只会因界定模糊而悬置。从首案判决到医疗守门、驾驶分权，一条清晰的主线浮现：AI是工具，人是尺度，制度是护栏。当更多L3车辆上路、更多AI病历生成、更多算法介入决策，我们真正需要的不是等待零错误的AI，而是更精细的责任刻度与更坚实的职业底线。下一个关键问题或许是：当人与AI共同签字时，笔迹之下，责任该如何落款？
