会被,而且这不是假设,已经发生了。在赵丽颖诉红果短剧案11月10日开庭、并于11月12日冲上微博热搜之前,古风AI短剧《桃花簪》就被指未经当事人许可,通过AI算法抓取、融合普通人的面部特征,生成剧中角色形象用于商业播放引流,汉服博主白菜、模特七海先后发声维权,二人社交平台公开的写真照片被算法提取面部信息,分别被塑造成猥琐男性、施暴反派。 相关笔记里提到,一位从业8年的资深汉服妆造师精心设计的原创造型,被AI短剧原封不动“偷”走,用来塑造一个贪财好色的反派角色。微博小红书
经济观察报8月报道此事时写道,商业模特七海的脸被AI短剧《桃花簪》未经授权盗用,角色形象负面,致其三个月无商单并遭遇网暴;尽管平台已下架内容,AI模型已“记住”面部特征,难以彻底清除。 事发后,红果短剧下架《桃花簪》全剧,暂停该出品方15天上传权限;当事人则提起人格权纠纷诉讼,要求侵权担责、公开致歉并赔偿损失。 到11月,当事人自述已经历第一次庭审,案件还得到法国广播电台的采访报道。微博微博微博
现在,同一把火烧到了明星身上。赵丽颖诉红果短剧肖像权纠纷案已于11月10日在北京市门头沟区人民法院云法庭开庭,被告包括红果短剧运营方、其全资股东北京抖音信息服务有限公司以及一名自然人,核心争议是未经许可用AI换脸、融脸技术合成的脸能否被认定为法律意义上的肖像,目前尚未宣判。 公开信息显示,新增开庭公告的公司为北京笔墨留香科技有限公司,案由涉及肖像权纠纷,原告方为赵丽颖。 网传本案索赔81万元,这一数字目前仍停留在网络传言层面,未获司法文书确认。微博微博微博
短剧为什么开始“偷”普通人的脸
盗脸不是个别制作方的随手作恶,而是一套产能与成本算盘的结果。9月17日国新办发布会上,广电总局网络视听节目管理司司长王小亮给出数字:今年前8个月,全国上线微短剧43万部,是去年全年的13倍,其中AI剧超九成。 产量洪流下,大量小制作方直接从网络公开图片、短视频里批量抓取人脸素材,跳过肖像授权流程,把他人面部当成免费的AI素材。 对素人来说,高清正脸写真、妆造作品、证件照模板这类公开图片,恰好是五官信息最完整的素材池。微博微博
监管也在收紧。11月5日,广电总局在微短剧论坛再次定调:扶持真人剧,规范AI剧,两个月内两次重申。微博
法律的判断标准不是“像不像”,而是“认得出认不出”
对普通人更关键的是裁判规则已经写死,而且明星与素人适用同一套。9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件,其中明确:未经同意利用人工智能处理自然人的姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开的,构成对姓名权、肖像权等人格权益的侵害。 也就是说,融出来的脸不必和原照片一模一样——只要观众认得出这是你,侵权空间就成立;制作方是否盈利,从来不是侵权的前提。该意见同样把AI拟声写入了声音权益保护,未经同意用他人声音作训练语料生成可识别的合成人声,构成侵权。央视网
这场诉讼也把矛头对准了平台,媒体评论指出,平台未经授权利用AI换脸合成肖像用于短剧引流,运营方和母公司一同被告,矛头直指平台审核缺位问题。 评论同时强调,平台不能拿“只是提供技术”当借口,推卸该负的审核责任。中安在线
被偷走的脸,不止流向短剧
“被盗脸去演反派”还不是风险链的末端,同一批面部素材可以被进一步加工成“能过验证的动态脸”。央视《法治在线》10月25日披露的案例中,有两人在网上四处收集他人的照片,再利用AI工具,将静态人脸图片生成点头、摇头、眨眼的动态视频。 操作者进一步篡改相机底层数据迷惑系统,顺利闯过购物平台的人脸核验——杭州中院披露的细节很直白:平台要求眨眼,操作者就点“眨眨眼”;要求摇头,就点“摇摇头”,所谓活体验证就这样被糊弄过去。更早的3月,山东青岛警方破获利用AI技术合成带有“摇摇头”“眨眨眼”的动态人脸视频5万多条,这些视频能骗过人脸检验系统,进而被用于虚假实名认证和诈骗。 换句话说,被偷走的不仅是“你的脸”,还有挂在这张脸上的账号安全门槛。知乎央视网
晒照片不是原罪,但维权路径值得提前知道
不必为此停止分享生活——私自收集他人肖像、合成伪造视频的责任首先在实施者,不能因为技术有漏洞,就把代价全压在发照片的普通人身上。但成本很低的防范和应对动作值得掌握:高清正脸写真、证件照、妆造作品公开前多留个心眼;发现疑似被盗时,第一时间录屏、截图并做时间戳或公证固定证据,先证明“哪部剧、什么时间、用了我的哪张照片”;再向平台投诉要求下架,必要时照白菜、七海的路径提起人格权纠纷诉讼,主张停止侵害、赔礼道歉和赔偿。
赵丽颖案尚未宣判,《桃花簪》当事人也还在等一审判决,“AI合成的脸算不算法律意义上的肖像”会随判决获得更清晰的司法表达。但从最高法的规则文本到素人已经开庭的诉讼,边界其实已经划出:无论明星还是普通人,未经同意被算法拼进任何一段剧情,都不构成“技术巧合”。