10月18日凌晨,演员吴越在微博发文,“一觉醒来”发现自己正在卖货:视频号“花姐美肤日记”用AI换脸和声音克隆合成出一个“吴越”,以“明星同款、吴越推荐”的名义推销护肤品,假“吴越”甚至以第一人称背书:“这个产品不是他们找我,是我找他们的”“孕妇妈妈都能用,闭着眼睛囤”。视频下方还挂着一行小字,“作者提示:含AI生成内容”。当天,微信团队向澎湃新闻确认了处置结果:账号永久封禁,内容清空不可见。澎湃新闻
判定永久封禁的依据并不神秘:内容已自声明AI合成、被仿冒对象是无授权的真人公众人物、视频直接挂链卖货,三者叠加即坐实虚假代言与身份冒用,权利人公开喊话和集中举报之后,平台按最高档处置。真正值得追问的是另一半:这条视频在发布前没有被拦住。
一张照片、150元,就能造出一个“明星代言”
制作端已是工业化流水线。涉事视频先让AI合成的“吴越”出镜口播放货话术,再剪入吴越公开活动的真实画面,真假混杂让人难以分辨,片尾还附带一段同款“邓亚萍”带货画面——同一套流程可批量生产“明星推荐”。被“碰瓷”的邓亚萍方当天回应,从未对外授权AI形象。财经网
蓝鲸新闻记者实测了国内一款主流AI视频工具:上传一张明星公开照片、在提示词里写明姓名,系统以版权限制为由拒生成;删掉姓名和身份描述,只保留画面要求与带货口播,视频即顺利产出,口型与配音同步,成品只剩一个“AI生成”角标。也就是说,生成工具的审核拦住的是名字关键词,拦不住脸。蓝鲸新闻
定制链条的报价更直接:据媒体暗访,普通还原度的AI换脸带货视频多数商家报价一分钟150元,要求“真人感还原人物形象”的涨到一分钟700至1000元;追问能做哪些明星时,答复几乎一致——“什么明星都可以”,有商家还提前撇清:“我们只负责制作,不负责法律风险问题。”
假“吴越”在卖货,真金白银已经成交
视频引流指向一家护肤店铺,一款标价70元的重组胶原蛋白精华液,近30天仅这一款单品就售出超过7000单,按标价与销量估算销售额约50万元。 而黑猫投诉上,IRY系列产品的投诉已累计1900条,集中在“祛痘变爆痘”、售后维权难。事发后,该账号一度改名“小刘打工日记”、清空内容试图金蝉脱壳,随后被封禁确认。蓝鲸新闻
封禁靠什么判:处置有据,前置失守
处置落在专项治理的窗口期。中央网信办9月30日部署为期两个月的“清朗·整治短视频虚假人设乱象”专项行动,明确将“通过AI合成虚假音视频等方式,假冒公众人物,实施虚假代言、营销等侵权违法行为”列为整治重点,并要求网站平台不得借“AI生成”等已标注内容标签规避治理义务——标注是披露义务,不是授权通行证。央视新闻
法律口径也已就位。9月16日,最高人民法院发布一批网络法治典型案例,其中一起涉及某文化公司委托带货主播用AI合成真实人物的声音与带货话术宣传图书、被判赔偿12万元。 在娱乐法律师李振武看来,《民法典》明确禁止利用信息技术手段“伪造”他人肖像,声音保护参照肖像权规则,司法确立的标准是可识别性——一般受众能从AI声音和肖像中识别出特定自然人,就受保护。 仿冒名人带货构成欺诈的,消费者可依法主张退一赔三。凤凰网知乎
缺口在前端。吴越接受总台独家采访时说,最怕粉丝真的信了、真的下单,“我想首先得告诉人家,这个东西不是我卖的”。 她还提到,发文维权前自己的投诉就遭遇“举报步骤太多、投诉失败”——账号要等明星凌晨发文、推上热搜之后才开始被处置。央视新闻
下一个“吴越”之前,平台还欠一个前置答案
这不是明星第一次被AI“点名”。演员温峥嵘此前刷到AI假冒自己的直播间,上前质问反被拉黑,自嘲“我现在就很难证明我是我”。 北京日报梳理此类乱象时反问,这些年为此苦恼的何止吴越——演员靳东、导演饺子、全红婵哥哥等人都曾被仿冒带货。知乎北京日报
10月20日,上海电影家协会(吴越任副主席)发布声明,要求平台完善商业授权核验、AI生成内容标识、风险识别及投诉处置机制,并点明要害:人工智能生成内容的标识义务,不能替代对相关人格权益的合法授权。长安街知事
对普通用户,有三条当下可执行的识别动作:刷到“明星推荐”先查明星本人账号有无官宣,真代言必有官方声明;对“闭眼囤”“孕妇都能用”“拍一发30比双11还便宜”这类话术一律按广告加诈骗预案处理——这正是仿冒视频使用的话术组合;发现疑似仿冒,按账号、视频、带货商品链接三要素向平台投诉,降低举报环节的摩擦。
永久封禁可以终结一个“花姐美肤日记”,换不了名的流水线还在:制作成本一分钟150元起,工具端仍在拦名字而不拦脸。平台治理能否把“认脸”前置到生成与分发环节,而不是等明星一觉醒来,将决定下一个“吴越”是止步于热搜,还是止步于货架。