10月18日凌晨3时许,演员吴越公开发文,怒斥视频号“花姐美肤日记”利用AI技术伪造其形象带货;当天,账号即被永久封禁、内容清空不可见。她在文中替所有被“抓去打工”的明星问出了那句质问:这位“花姐”骗了多少人的钱,请如数奉还。更值得警惕的是一个细节:涉事视频本身就标注了“含AI生成内容”。标注只是生产端的合规义务,不是这条推荐真实存在过的证明——避开换脸带货,真正要看的是授权和话术,而不是那个角标。北京日报梨视频深圳卫视
被仿冒的视频里,“吴越”先以带货画面出镜,随后接上她本人公开活动的素材,用克隆出的音色推销。“这个产品不是他们找我,是我找他们”“孕妇妈妈都能用,闭着眼睛囤”,这类无法验证的第一人称背书正是标准话术;同一账号页面里,还有冒用邓亚萍推荐的相似带货视频。梨视频大河报
很多人以为“标了AI”就等于自认造假、与侵权无关,恰恰相反。按《人工智能生成合成内容标识办法》,2025年9月1日起,AI生成的文字、图片、视频等内容都被要求“亮明身份”。但标注不改变定性:《民法典》第1019条明确禁止利用信息技术手段伪造他人肖像,第1023条对自然人声音的保护参照适用肖像权规则,司法实践以“可识别性”为标尺——只要观众能认出是吴越,未经授权使用就构成侵权。而虚构“本人推荐”诱导下单,除了侵权,还会触发更实在的后果:利用AI仿冒名人带货构成欺诈的,还可能面临惩罚性赔偿。央视网大河报央视网
从凌晨曝光到上午清空内容,平台这次的动作算快,但封号远不是终点。有平台负责人坦言,AI侵权识别是行业性难题,黑灰产靠凌晨发布、频繁更换账号等手段规避监管。规模也说明问题:去年12月网信部门的专项整治通报中,仿冒公众人物的账号被处置了1.1万余个。央视网央视网
监管也在往前追:今年9月底,中央网信办部署“清朗·整治短视频虚假人设乱象”专项行动,再次把利用AI合成虚假音视频假冒公众人物实施虚假代言、营销列为整治对象。违法的代价也不止丢号:公安部网安局今年通报的山西大同一案件中,涉案人员利用AI仿冒名人直播带货,被依法行政拘留。结论很直接:平台治理是事后追,付款前那几秒钟的核验才是第一道闸。央视网公安部网安局
先查账号主体。一个平时没几个作品、认证信息含糊的美妆号里突然冒出“明星亲测”,先在心里打个问号。最可靠的办法是去该明星本人的认证账号搜一搜:真实代言通常有品牌方与艺人双方联合官宣,只有“单方面出现”的,大概率是合成素材。
再认话术。“不是他们找我,是我找他们”“闭着眼睛囤”,这类无法验证的第一人称背书是仿冒带货的标准剧本——吴越本人显然没有找过这家厂商。“厂家联合送福利”式的独家低价,同样值得停一秒。
直播要互动,录播看细节。面对直播间,直接提一个具体要求:让主播摸一下鼻子、比个手势、把价签举到镜头前。实时换脸在面部急转、遮挡时最容易露出破绽,接不住互动的“明星”要高度警惕;连互动都没有、画面循环播放的,本质是录播切片冒充直播。看15到30秒也有用:脸部边缘虚化、口型与语音不同步、表情僵硬是常见合成痕迹。
老人和订单,都要多留一手。央视网的“618”网购消费提示,把“警惕AI仿冒,选择正规平台”列为第一条。家里老人刷到“名人卖保健品”,这两个动作值得反复教。万一已经下单,先存证:录屏或截图带货视频和账号页面,保留订单、支付记录;再依据《消费者权益保护法》第55条主张“退一赔三”——最高法今年9月发布的涉AI裁判规则已明确,法院对此依法支持。同时可在平台举报、拨打12315投诉,金额较大或明显团伙作案的直接报警。央视网大河报
吴越喊话“如数奉还”,指向的是骗子;但对已经下单的普通买家,“奉还”不会自动发生。号可以再注册,视频可以下架,唯有你完成的那笔订单留下了完整链条——把核验放在付款前,永远比事后维权便宜。