律师提交AI编的判例被罚,AI在法律圈摊上大事了
法律人用AI干活,已经不是什么新鲜事了。审合同、查法条、生成文书初稿,效率提升肉眼可见。但2025年以来,国内外法院陆续曝光了一批案件——律师把AI生成的内容直接搬进法庭,结果被法官发现案例是编的、法条是假的、甚至证据照片都带着“AI生成”的水印。轻则训诫罚款,重则取消执业资格。AI在法律领域正在经历一场信任危机:它到底能不能信?用来干活靠不靠谱?
AI生成的内容混进法庭,都闹出了什么笑话
2025年,北京通州法院审理一起股权代持纠纷时,原告代理律师提交了两份“完美匹配”的参考案例,案号分别是最高法和上海一中院出具的。法官起初还挺高兴——这种罕见诉求能有判例支持不容易。结果一查发现,其中一个真实案件是民间借贷纠纷,跟股权代持“风马牛不相及”。律师最终承认,这些案例是反复向AI提问后获得的,未作任何核实就提交了法院。法官在判决书中批评其行为违反诉讼诚信,要求“引以为戒”。类似的事情不止发生在中国。美国纽约南区联邦法院在Mata v. Avianca案中,对使用ChatGPT生成6个虚假判例的律师罚款5000美元。2026年6月,美国联邦地区法院更是同时处罚了原被告双方的四名律师——因为他们全都用了AI起草文件,全都没有核实,引用的判例全都是AI编造的。更离谱的案例出现在湖北:一起房屋租赁纠纷的原告向法院提交水电表照片作为证据,法官一眼看到照片上赫然印着“AI生成”的水印。原来当事人为了“完善”证据,直接让AI伪造了照片。1234
这些案例有一个共同特征:AI生成的内容“看起来很专业”,格式规范、说理通顺、没有明显破绽,但经不起核实。美国西北大学2025年发布的一项调查显示,超过60%的法官在工作中使用过至少一种AI工具,而法官们普遍担忧的问题正是AI的“幻觉”现象——即生成看似合理但实际虚假的内容。法律行业对准确性的要求极高,一字之差可能就是完全不同的法律后果,这也是为什么AI幻觉在法律领域格外危险。5
为什么AI会一本正经地胡说八道
AI幻觉不是“bug”,而是生成式AI的工作方式决定的。大语言模型本质上是一个“文本补全器”——它根据输入的文本,计算下一个词最可能是什么,输出概率最高的那个选项。它的目标是生成“看起来通顺合理”的回答,而不是保证回答“符合事实”。“当模型遇到自己不确定的知识时,与其说'我不知道',它更倾向于基于已有知识编造一个看起来合理的答案。”OpenAI在2025年发表的一篇论文中指出,标准训练和评估程序奖励“猜测”,而非奖励“承认不确定性”。在法律领域,这个缺陷尤其致命。律师经常需要查询冷门法条、基层法院的裁判口径、特定年份的司法解释——这些属于所谓的“长尾知识”,在训练数据中出现频率低,模型没有足够的信号形成可靠推断,反而更容易“编造”。更隐蔽的风险是“张冠李戴”:案例是真的,但判决理由被篡改了。由于案例本身存在,用户容易放松警惕,而这种错误比凭空捏造一个不存在的案例更难发现。67
把AI生成的东西交上去,谁来担责
目前已有的判决给出了明确态度:AI不是免责的理由。2025年杭州互联网法院审理的全国首例AI幻觉侵权案中,原告要求AI平台因生成错误信息赔偿9999元。法院最终驳回了原告的诉讼请求,理由是AI不具备民事主体资格,其承诺不构成平台的意思表示,平台已尽到提示义务。但这个判决不意味着律师可以随意使用AI。根据《律师法》,律师执业必须以事实为根据、以法律为准绳。向法庭提交载有虚构判例、虚假法条的文书,无论由人执笔还是由AI生成,都触碰执业底线。通州法院对律师的批评写得清清楚楚:“希望原告代理人引以为戒,在向法院提交参考案例、法条时,应当进行检查和核验,确保内容的真实性和准确性,不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。”8931
法律人怎么用AI才能避坑
回过头来看,AI在法律领域的渗透已经不可逆转。效率提升是真实的——审合同、查法条、整理类案,AI的速度远超人工。但法律是一个“容错率极低”的行业,一份合同一字之差可能就是巨额赔偿,一个虚假案例可能葬送执业资格。对法律人来说,用AI的底线是:永远不能省掉人工核实这一步。技术可以进步,工具可以优化,但最终面对法官和客户的,始终是签下名字的那个人。
当前文章无评论,是时候发表评论了