11月12日,演员赵丽颖起诉红果短剧登上微博热搜:她一方的说法是,平台内短剧未经同意,用AI换脸、融脸把她的面部特征合成到角色脸上,还拿这张合成脸做封面引流。综合最近一年多的判决与新规,AI换脸、AI仿声"玩梗"的红线其实很清晰:法律看的不是你有没有赚钱、有没有声明"纯属娱乐",而是这张脸、这个声音能不能被认出是某个具体的真人,以及它是否未经同意被制作和公开。中国新闻网
一、民事红线:认出你来,就算用了你
配音演员殷女士2019年受托录制的素材,后来被包装成可出售的AI语音产品几经转手,平台显示这个声音被播放了数十亿次,而那份"数据授权书"上根本没有她的签字;北京互联网法院判令相关公司书面赔礼道歉、连带赔偿经济损失25万元。上海首例AI合成语音案里,法院则直接用声纹鉴定确认侵权,并把"可识别性"取代素材来源作为判断核心——平台再也无法用"开发员工离职、素材来源无法核实"来推责。知乎知乎
规则的法律依据是民法典:第1019条明文禁止利用信息技术手段伪造他人肖像,声音则参照肖像权保护。而"可识别性"并不要求百分百还原:司法口径认为,只要一般公众或特定行业人群能据此识别出特定自然人,就应认定使用了其肖像。所以"脸是AI生成的,不是她的照片",在赵丽颖案里恰恰构不成免责理由。知乎中国新闻网
二、三个常见"安全区",其实都已失效
第一个失效的是"非商用二创"。2026年4月2日,中国广播电视社会组织联合会演员委员会声明:凡可关联特定公众演员的侵权内容,即便标注了"非商用"“公益分享”“个人二创”,也不能视作规避侵权责任的依据。北京市第一中级人民法院的法官提示走得更早:任何组织或个人,未经肖像权人明确同意,不得以任何方式制作、使用、公开其肖像——哪怕初衷只是亲友间的玩笑。中国新闻网中国新闻网
第二个失效的是"打了AI标识"。2025年9月起施行的标识办法要求AI生成内容加显式、隐式标识,但到今年10月,多个涉嫌侵权的AI视频照样带着"含AI生成内容"提示,标识反而被拿来当挡箭牌——它只是给技术贴的标签,绝不是给侵权发的通行证。中国新闻网
第三个失效的是"AI生成的,关我什么事"。技术中立不等于使用免责,发布端平台如果知道或应当知道内容侵权却未采取必要措施,可能和制作方一起承担连带责任;今年3月北京互联网法院通报的AI短剧肖像权案中,制作方与上线方双双被认定担责。知乎
三、再往前一步,就不是赔钱了事
编造"真实事件"视频博眼球,触碰的是公共秩序:散布谣言、以其他方法故意扰乱公共秩序的,将面临五日以上十日以下拘留,并可处五百元以下罚款。10月走红的乐山大佛"掏耳朵"视频被景区证实系AI合成,执法依据同样指向治安处罚。中国新闻网中国新闻网
刑事这条线离普通人并不远。今年3月警方查获5万多条AI合成动态人脸视频,在电诈团伙手里,这些素材被直接用来突破实名验证实施诈骗。法官提示的极端情形是"深度伪造勒索":拿伪造的不雅影像、假录音要挟他人"私了",即构成敲诈勒索罪,公私财物价值三千元至一万元以上就达到入罪标准,两年内三次作案即便数额不达也构成犯罪。而生成这些内容的工具在电商平台3元到69元就能买到,"玩梗"与"犯罪工具"之间,只隔着一次未经同意的使用。央视网中国新闻网
四、怎么玩梗不算越线,被侵权了怎么办
对创作者,安全区只有三条:用真人面孔、声音先拿到本人授权,商用要单独书面约定训练与转授权范围;内容远离低俗语境、假身份和误导性宣传;发布时如实打上AI标识。中国新闻网
如果发现被换脸、被克隆声音,维权顺序是先固定证据(带时间戳的录屏、原始素材与合同),再向平台发出侵权通知——平台接到有效通知不及时处理,对扩大损害部分承担连带责任,最后才诉讼。举证也不再只靠个人硬扛:上海首例AI声音案已将训练素材合法来源的证明义务压给AI企业,"说不清来源"就等于没有抗辩。知乎
规则还在收紧。2026年9月7日,最高法发布《关于依法审理涉人工智能纠纷案件的意见》,共24条,统一规制"AI换脸拟声""AI复活逝者"等侵害人格权益的行为。换句话说,今年之后,"我以为只是玩个梗"很难再被法院当成一句有效的辩解。小红书