什么值得买App下载 App ›
连续签到专享现金活动

律师提交AI编的判例被罚,AI在法律圈摊上大事了

法律人用AI干活,已经不是什么新鲜事了。审合同、查法条、生成文书初稿,效率提升肉眼可见。但2025年以来,国内外法院陆续曝光了一批案件——律师把AI生成的内容直接搬进法庭,结果被法官发现案例是编的、法条是假的、甚至证据照片都带着“AI生成”的水印。轻则训诫罚款,重则取消执业资格。AI在法律领域正在经历一场信任危机:它到底能不能信?用来干活靠不靠谱?
AI生成的内容混进法庭,都闹出了什么笑话
2025年,北京通州法院审理一起股权代持纠纷时,原告代理律师提交了两份“完美匹配”的参考案例,案号分别是最高法和上海一中院出具的。法官起初还挺高兴——这种罕见诉求能有判例支持不容易。结果一查发现,其中一个真实案件是民间借贷纠纷,跟股权代持“风马牛不相及”。律师最终承认,这些案例是反复向AI提问后获得的,未作任何核实就提交了法院。法官在判决书中批评其行为违反诉讼诚信,要求“引以为戒”。类似的事情不止发生在中国。美国纽约南区联邦法院在Mata v. Avianca案中,对使用ChatGPT生成6个虚假判例的律师罚款5000美元。2026年6月,美国联邦地区法院更是同时处罚了原被告双方的四名律师——因为他们全都用了AI起草文件,全都没有核实,引用的判例全都是AI编造的。更离谱的案例出现在湖北:一起房屋租赁纠纷的原告向法院提交水电表照片作为证据,法官一眼看到照片上赫然印着“AI生成”的水印。原来当事人为了“完善”证据,直接让AI伪造了照片。1234
这些案例有一个共同特征:AI生成的内容“看起来很专业”,格式规范、说理通顺、没有明显破绽,但经不起核实。美国西北大学2025年发布的一项调查显示,超过60%的法官在工作中使用过至少一种AI工具,而法官们普遍担忧的问题正是AI的“幻觉”现象——即生成看似合理但实际虚假的内容。法律行业对准确性的要求极高,一字之差可能就是完全不同的法律后果,这也是为什么AI幻觉在法律领域格外危险。5
为什么AI会一本正经地胡说八道
AI幻觉不是“bug”,而是生成式AI的工作方式决定的。大语言模型本质上是一个“文本补全器”——它根据输入的文本,计算下一个词最可能是什么,输出概率最高的那个选项。它的目标是生成“看起来通顺合理”的回答,而不是保证回答“符合事实”。“当模型遇到自己不确定的知识时,与其说'我不知道',它更倾向于基于已有知识编造一个看起来合理的答案。”OpenAI在2025年发表的一篇论文中指出,标准训练和评估程序奖励“猜测”,而非奖励“承认不确定性”。在法律领域,这个缺陷尤其致命。律师经常需要查询冷门法条、基层法院的裁判口径、特定年份的司法解释——这些属于所谓的“长尾知识”,在训练数据中出现频率低,模型没有足够的信号形成可靠推断,反而更容易“编造”。更隐蔽的风险是“张冠李戴”:案例是真的,但判决理由被篡改了。由于案例本身存在,用户容易放松警惕,而这种错误比凭空捏造一个不存在的案例更难发现。67
把AI生成的东西交上去,谁来担责
目前已有的判决给出了明确态度:AI不是免责的理由。2025年杭州互联网法院审理的全国首例AI幻觉侵权案中,原告要求AI平台因生成错误信息赔偿9999元。法院最终驳回了原告的诉讼请求,理由是AI不具备民事主体资格,其承诺不构成平台的意思表示,平台已尽到提示义务。但这个判决不意味着律师可以随意使用AI。根据《律师法》,律师执业必须以事实为根据、以法律为准绳。向法庭提交载有虚构判例、虚假法条的文书,无论由人执笔还是由AI生成,都触碰执业底线。通州法院对律师的批评写得清清楚楚:“希望原告代理人引以为戒,在向法院提交参考案例、法条时,应当进行检查和核验,确保内容的真实性和准确性,不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。”8931
美国法院的处罚更为严厉。2026年6月的“双向幻觉”案件中,四名律师全部被处罚:两名外州律师被撤销特别准入资格、禁止两年内在该法院执业并处罚款;两名本地律师因未审查内容即签名,被取消代理资格并罚款。这传递出一个信号:签名即负责。“是AI写的”不是免责事由,签名律师必须对文书内容承担全部核实责任。310
法律人怎么用AI才能避坑
多位律师和研究者的共识是:AI是“初稿生成器”和“校对员”,不是“决策者”。具体的避坑方法可以归纳为几条。第一,明确AI擅长干什么。翻译、错别字校对、批量处理模板类文书——这类重复性基础工作AI完成度高,是目前最成熟的应用场景。第二,所有引用必须核实。法条查国家法律法规数据库,案例查中国裁判文书网等官方平台。如果AI给出的案号根本检索不到,或者真实案件的内容与AI描述不符,说明中招了。第三,警惕“讨好型”输出。AI会根据用户的描述调整答案,可能刻意筛选有利观点、美化判决结果,回避真实风险。法律检索时,尽量让AI给出正反两方观点,而不是只问“我这个案子能不能赢”。111213
技术层面也有应对思路。RAG(检索增强生成)技术是目前降低幻觉的主流方案——让AI在回答前先检索权威数据库中的真实文书,再基于检索结果生成回答,而非直接凭“记忆”编造。一些专业法律AI工具已经在尝试接入真实法律数据库,并设置“置信度提示”功能,当AI无法找到精确匹配时,标注“请人工核对”。但无论工具如何进化,最终把关的必须是人。深圳中院在2024年上线的人工智能辅助审判系统,每个节点都设置了法官确认环节,AI仅提供提示,裁判始终由审判人员作出。这种“人在回路、责任归人”的设计原则,正在成为整个法律AI领域的共识。1415163
回过头来看,AI在法律领域的渗透已经不可逆转。效率提升是真实的——审合同、查法条、整理类案,AI的速度远超人工。但法律是一个“容错率极低”的行业,一份合同一字之差可能就是巨额赔偿,一个虚假案例可能葬送执业资格。对法律人来说,用AI的底线是:永远不能省掉人工核实这一步。技术可以进步,工具可以优化,但最终面对法官和客户的,始终是签下名字的那个人。

评论

评论区空态插画

当前文章无评论,是时候发表评论了