当AI出错，责任归属成为难题。从国内首例AI幻觉案的判决切入，探讨在医疗、驾驶等关键领域，如何界定用户、服务提供者与开发者间的责任边界，以及现有法律面临的挑战与未来治理方向。
智能速览
国内首例AI幻觉案判决，AI服务提供方因已尽到提示和技术义务而无过错。
法院首次定性，AI生成内容属于“服务”而非“产品”，适用过错责任原则。
医疗领域中，AI定位为辅助工具，诊疗决策的最终责任人仍是医生本人。
L2级辅助驾驶事故责任在驾驶员，L3级自动驾驶试点开启，责任主体或将转移。
专家警示，L3级自动驾驶可能因人类认知惰性，成为最危险的人机协同阶段。
精华内容
随着AI深度融入社会，其固有的“幻觉”缺陷正将责任划分问题推向台前。从法庭判决到临床应用，再到公路驾驶，我们必须重新审视人机协作的边界。
首案判决的启示
国内“AI幻觉第一案”的判决为责任划分提供了初步参考。用户因AI提供不实高校信息起诉，法庭最终驳回请求。关键判决在于，法庭将AI定义为“服务”而非“产品”，因此不适用产品责任的无过错原则，而是适用民法典的过错责任原则。
这意味着，AI生成不准确信息本身不构成侵权，核心在于考察服务提供者是否存在过错。法院认为，服务提供者有义务在现有技术条件下采取必要措施减少幻觉，并对用户进行明确提示。本案中，因研发公司已履行提示和技术防护义务，故不承担赔偿责任。
医疗辅助的边界
AI在医疗领域的应用引发了更深层次的担忧。尽管AI能快速生成病历和诊断建议，但专家指出其对医生核心能力的潜在影响。有医生坚决反对将AI直接引入病历系统，担心这会削弱医生独立诊断和识别错误的能力，强调AI必须作为辅助工具使用。
法律层面，AI的角色被严格限定为辅助手段，而非诊断决策的主导者。根据现行法规，AI不能替代医师提供诊疗服务，医生需亲自诊查并开具处方。一旦发生医疗损害，责任主体仍是医院和医生。即便某国产医疗大模型仍有2.6%的幻觉率，法律也明确最终决策和责任必须由人来承担。
智驾责任的升级
自动驾驶领域正经历从L2到L3的责任主体演变。目前L2级辅助驾驶发生事故，责任仍在驾驶人。随着首批L3级有条件自动驾驶车型获批试点，责任划分开始出现变化。有车企负责人表示，在L3激活条件下，因系统失效导致事故，责任将由主机厂承担。
然而，L3级别并非完全自动驾驶，驾驶人仍需在系统请求时接管。这导致了责任认定的复杂化，涉及驾驶人、车企和软件服务商。专家警示，L3阶段人机协同可能最为危险，人类容易产生认知惰性，过度依赖系统而难以及时响应突发状况。完全信任自动驾驶，需待L5级别技术被客观数据证明比人类驾驶更安全。
从首案判决到行业规范，AI时代的责任框架正在探索中逐步建立。技术发展与法律治理需要同步前行，如何在鼓励创新的同时划定安全底线，将是全社会持续面对的课题。未来的人机社会，责任将如何更公平地划分？
