“AI审核只拦姓名不拦脸”不是网友的一句玩笑,而是10月18日蓝鲸新闻记者调查报道中的实测结论:把一张外国男演员的公开照片上传到一款主流AI视频工具、在提示词里写明身份,系统拒绝创作;删掉姓名和身份描述,只留画面和口播要求,同一张脸就在视频里“活”了过来,口型、动作、带货文案一应俱全。 冲上热搜的同一天,演员吴越凌晨的打假帖,把这份边界测试报告接进了真实的伤害里。蓝鲸新闻
起点:吴越凌晨的打假帖
10月18日凌晨3时许,演员吴越发文点名视频账号“花姐美肤日记”,质问这位“花姐”骗了多少人的钱、要求如数奉还,直言“太恶劣”。 涉事视频以“明星同款、吴越推荐”推销一款次抛护肤品,假“吴越”甚至以第一人称背书:“这个产品不是他们找我,是我找他们”“闭着眼睛用闭着眼睛囤,孕妇妈妈都能用”。 视频末尾还出现了“邓亚萍”的带货画面,该账号名下另有多条“乒乓球冠军邓亚萍推荐”等带货视频。 尽管视频下方标注着“作者提示:含AI生成内容”,商品链接照常挂载。吴越微博蓝鲸新闻红星新闻
记者点击涉事账号客服,被引流至一家“IRY护肤”店铺:视频推荐的重组胶原蛋白精华液页面标价70元,按标价与销量估算,这一单品近30天售出超过7000单、销售额约50万元。 而在黑猫投诉平台,IRY系列产品的投诉多达1900条,消费者反馈集中在“祛痘变爆痘”、售后维权难等问题上。也就是说,消费者先被假明星说服,再被真商品坑住。蓝鲸新闻
账号处置走完了全流程:微信视频号团队回应“花姐美肤日记”已被永久封禁、内容清空。 据蓝鲸记者观察,在处置落地前,该账号一度被改名为“小刘打工日记”并清空带货内容。澎湃新闻
实测边界:删掉名字,审核就“看不见”脸
蓝鲸记者近日实测了多款国内AI视频生成软件,报告未点名涉事工具。 写明身份时,系统弹出提示:“抱歉,由于版权限制,暂时无法创作对应的内容,请尝试修改。”删掉姓名与身份描述后,视频顺利完成:人物笑着举起黑色羽绒服展示衣领标签,口型与配音同步,还自动生成了完整的带货口播文案,仅左上角保留“AI 生成”水印。 这意味着,审核拦截的是“姓名”这一文字关键词,而非照片中的人脸本身——在这组实测里,版权与肖像风险控制锚定在提示词文字上,图片侧没有做身份核验。红星新闻蓝鲸新闻
更麻烦的是,不用自己动手也有现成链条。多家承接AI视频制作的店铺明确表示支持“明星换脸”,普通还原度报价一分钟150元、半分钟75元;要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”,价格涨到一分钟700元至1000元。 记者追问“是否涉及侵权”,有商家明确拒单,有商家承认“明星侵权问题比较敏感”却仍表示“可以帮忙做”,还有商家提前撇清“我们只负责制作,不负责法律风险问题”;问到具体哪些明星能做,答复几乎一致:“什么明星都可以。”蓝鲸新闻
“证明我是我”,不止吴越的难题
吴越不是第一个被AI“抓走”的人。温峥嵘自述早在2025年4月之前,就出现在多个直播间,“同一时段,妆发不同,不同的产品,说着同样的话”,本人冲进直播间质问,反被秒拉黑。 她那句“我现在就很难证明我是我”,同样落在张文宏等被AI假冒的名人身上。 2025年12月15日晚,温峥嵘发布严正声明和立案告知书,称“报警,已刑事立案”,不过立案针对的是“卖面膜出事把锅推给AI”等被捏造传播的不实信息,盗播仿冒本身的维权依然漫长。红星新闻看看新闻东北网
相比个案,“被代言”是更大的盘子:刘德华被代言上百次,本人很可能完全不知道这回事。 娱乐法律师在知乎上的观察很直白:明星们对这类视频其实很无力,打官司打不过来,赔偿也不高,造假者却肆无忌惮。南方日报知乎
“含AI生成”小字,换不来合规
审核漏洞不等于法律豁免。北京云亭律师事务所律师王琼把AI换脸带货概括为“三重违法”:未经本人同意使用肖像、声音构成人格权侵权;伪造明星代言属于虚假广告,消费者受欺诈购买的可要求“退一赔三”;如果骗取钱财数额较大,还可能构成诈骗罪,提供换脸技术服务的商家也可能承担法律责任。 平台层面同样有账:接到权利人通知后不及时删除侵权内容的,对损失扩大部分要承担连带责任。而北京日报报道显示,视频里那行小字标注换不来免责——按2025年国家网信办等四部门发布的《人工智能生成合成内容标识办法》,AI生成内容应强制添加显式和隐式标识;律师董世连提示,“商业用途的AI图文、视频,仅靠话题标签、角落小字不足以合规”。 法治日报的评论点破了这笔账:用AI伪造名人形象营销触碰法律底线,借名人之脸换的流量必然透支自身信誉。蓝鲸新闻北京日报法治日报
互动盘点:愤怒、不信任,和“分不清”
吴越的打假帖很快收获两万多次点赞、上千次转发,“真的是无法无天令人发指!!!!”被顶到热评第一,编剧宋方金公开表态“支持吴老师打假!”。在红星新闻转发的实测报道评论区,“不制裁吗?”“未授权就罚呗,罚到倾家荡产那种连带品牌一起”“告的他们倾家荡产,他们还敢吗”反复出现;也有用户抱怨平台举报无门,称“只要你不闹大了,绝对不管不处理,我上次平台举报没有用,最后到了法院才处理”。
微博用户曾子言的转发总结了链条症结:涉事账号不止一个受害者,邓亚萍、海清的形象也被盗用过,“做一个新号的门槛比辟谣低得多”。 其评论区两条高赞提问更扎心:一条是“现在的AI换脸只要一张清晰正面照加一段说话录音就够了,门槛比大家想的低很多”,另一条问到了普通人的痛点——“如果平台不给认证标识,你们觉得还有什么办法能一眼分清真假”。也有相对冷静的声音:“正当途径用别人的脸还差不多”“AI是好,就是用的人坏”——这些评论恰好点出被击穿的边界在哪:拦的不是脸,也不是AI,而是“未经本人同意”四个字。微博
这次热搜留给普通用户的信号是具体的:刷到“明星代言”带货视频,审核放行不等于身份为真,一行“含AI生成内容”也不是商家的合规免责声明;真按假代言下了单,律师解读里给出了明确的退赔路径。而边界测试卷的另一半在平台手里——锚定“姓名”关键词的审核,要追上照片里那张脸,才不会让下一个“花姐”换个账号名字重新开张。