10月18日凌晨,演员吴越一觉醒来,发现自己的脸被搬进了一段卖护肤品的带货视频。涉事账号"花姐美肤日记"用AI伪造她的形象直播带货,她发文怒斥:一觉醒来,谁在利用Ai肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!这也是近期多起明星遭AI仿冒事件中最新的一起。微博
同一天,蓝鲸新闻记者实测多款国内AI视频生成软件,结果比个案更让人不安:在一款主流工具中,上传明星公开照片、在提示词里写明身份,系统以"版权限制"拒绝;删掉姓名和身份描述、只保留画面与口播要求,同一个人"带货羽绒服"的视频就顺利生成。平台审核拦截的是文字关键词,不是人脸——只要不点名,一张公开照片就足以让AI产出以该人物为主角的视频。微博
两件事放在一起,标题里的问题就有了答案:AI审核没拦你,不等于发帖没问题;视频标了"AI生成",也不等于内容是真的。真正兜底的线,画在大多数人没注意的另一个地方。
闸门只认字,黑产就把字绕开
绕开这道闸门的价码早就标好了。记者以消费者身份咨询,多家承接AI视频制作的店铺均表示支持"明星换脸",普通还原度的换脸视频,多数商家报价一分钟150元、半分钟75元;要求"真人感"还原形象与肖像特征、表情动作更自然的,报价则涨到一分钟700元至1000元。微博
需要说明的是,这次实测针对的是部分主流工具与店铺,不能外推为所有平台都拦不住脸。但"上传照片无需证明肖像权"这道缺口的存在,已经由个案反复验证。
法律看的不是"写没写名字",是"认不认得出人"
审核清单上的"姓名",从来不是侵权的判定标准。广东省高级人民法院发布的贯彻实施民法典典型案例中,一起AI换脸维权的判决把逻辑讲得很清楚:短视频博主赵某的古风造型视频被一家公司用作换脸软件的模板,法院认定,虽然出镜的是古风妆容,但从其面部形象、体貌等特征,普通人仍可轻易识别出其主体身份,未经同意用信息技术手段换脸构成侵犯肖像权,判决该公司赔礼道歉并赔偿损失。光明网
换句话说,判定线叫"可识别性":只要一般人能认出这是谁,不管写没写名字、换没换妆,权利就成立。姓名可以被删,照片里的人认不认得出来,才是真正的分界。这条线也比关键词清单严得多——它同时约束着每一个发帖的人。
声音也一样。民法典规定,对自然人声音的保护参照适用肖像权保护的有关规定;吴越事件中,涉事账号被报道系同时使用了换脸与声音克隆技术伪造其"亲自推荐"。行政层面也已有执法先例:央视网报道,山西大同网警巡查发现一网民邢某非法使用郑丽文形象的AI数字人直播带货,邢某被依法行拘。微博央视网
"AI生成"标签不是免责牌
《人工智能生成合成内容标识办法》自2025年9月1日起施行,要求对生成合成内容添加显式标识,并在文件元数据中添加隐式标识。中国新闻网
但打了标签,不等于内容就无害。短视频平台上近期批量涌现过一批叫"小海"的AI数字人男孩,对着镜头喊"姨姨妈妈"、哭诉吃馒头卖惨,精准收割中老年人的同情心再挂上带货链接,一位不认字的七旬老人甚至独自坐火车要去运城"走亲戚",被乘警拦下才清醒。值得注意的是,这类视频多数在角落打了"AI生成"水印。北京航空航天大学法学院副教授赵精武的判断很直接:操纵数字人卖惨带货的主体,只要恶意编造故事博取同情卖货,就已涉嫌构成欺诈。标识只是生成方式的说明,不是内容的真实性背书。中国新闻网
发帖、刷直播,这四道坎要自己过
第一,发涉及他人的内容,别拿"审核没拦"当能发的标准。平台拦的是敏感词,法律看的是认得出人。只挡姓名、不盖脸等于没打码——脸、声音,以及校服、工牌、车牌、住址这些还能对上号的信息,都要处理干净。
第二,发自己的照片前,想想被冒用的成本。一张公开照片加一句提示词就能生成"你"在卖货,这已经被记者复现。不必从此不发自拍,但要清楚:公开的高清正脸照越多,被收集和替换的素材就越全;合影里的其他人、孩子,打码之后再发。
第三,刷到"明星突然带货",先查标识,再查官方账号。按办法要求,AI生成内容必须显式标识,完全无标识、又推销来路不明低价产品的要多留心;打了"AI生成"标的同样不等于真——"小海"们全都带着水印。下单前去明星本人账号核实有没有这回事,只需多花一分钟。家里老人的屏幕上,角落里那行小字水印几乎不起防骗作用,这句话值得当面说给他们听。
第四,真被冒犯了,先录屏留证,再举报、再起诉。举报路径已经见效:吴越发文曝光后,涉事账号被永久封禁、内容清空。损失较大或影响恶劣的,可依民法典主张停止侵害、赔礼道歉和赔偿,广东高院那批典型案例已经给出了胜诉样本。微博
"拦姓名不拦脸"暴露的是工具闸门与法律标准之间的时间差,弥合它要靠审核补上人脸这道关、监管关口前移。而在那之前,最有效的一道闸,其实在我们每个人按下"发布"之前,和家里长辈按下"付款"之前。