10月18日凌晨3时许,演员吴越公开发文,怒斥视频号账号“花姐美肤日记”利用AI技术伪造其形象直播带货;据微信团队回应,涉事账号已被永久封禁,内容清空不可见。 比封号更值得普通人细想的是一个细节:这条骗人的视频下方,其实写着“含AI生成内容”。标签没能挡住骗局——这才是这起事件里最锋利的事实。南国早报
一张“AI生成”标签,为什么拦不住骗局
涉事视频里,“吴越”拎着一款精华液出场,头头是道地推荐起了商品,可谓以假乱真,目前微信中已搜索不到该视频号。 合成音频高度克隆了吴越的音色与语调。上游新闻
“我都说今天我直接送,闭着眼睛用闭着眼睛囤,孕妇妈妈都能用。”视频里的“吴越”用第一人称劝人下单。 同一账号页面还有冒用邓亚萍推荐的相似带货视频。邓亚萍团队当天回应:从未代言、推广过该产品,也从未授权他人使用自己的AI形象。红星新闻大河报
讽刺的是,这条仿冒视频下方标注了“作者提示:含AI生成内容”。 连分析此案的娱乐法律师李振武都直言,没想到造假方“居然还标注了”。红星新闻知乎
标签为什么失效,此前已有调查探过底。中央广播电视总台中国之声调查发现,很多博主将标注藏在视频或者直播剪接的角落,或者用极小的字体显示,消费者很难注意到。 北京日报刊发的律师意见则更进一步:商业用途的AI图文、视频,仅靠话题标签、角落小字不足以合规。 更根本的难处在审核一侧:平台识别出内容是AI生成,也只能回答“是不是AI”,却无法判断“有没有授权”。中国新闻网西部网上游新闻
这早就不孤例。“演员靳东”“导演饺子”“全红婵哥哥”“刘欢妻子”……打着名人本尊及其家属的高仿号一抓一把,视频下方都挂着卖货链接,而各平台虽在治理,却往往跟不上账号繁殖速度。北京日报
打假的难点在于速率差。中国之声此前报道,有演员团队一天内曾集中举报50个假冒账号,有的造假账号被平台下架处理,有的则刚下架就换个形式重新出现。 造假者可以批量生产、快速倒灌,明星却只能逐个举报、处理。 吴越这次凌晨事发、上午发声、当天封号,已属反应最快的一类。中国新闻网上游新闻
三种场景,三套动作
场景一:刷到“明星推荐”的带货视频。 真人明星接代言走的是正式授权,“是我主动找他们”“联合厂家给老粉丝送福利”这类制造捡漏感的话术,本身就是仿冒号的标配。AI广告还爱用完美得不真实的画面:剪裁完美的连衣裙紧贴模特没有一丝褶皱,锋利的菜刀轻轻一刮生肉就丝滑坠落——效果越神奇,越要多一分怀疑,拿不准就去明星或品牌的认证账号核对是否存在该合作。北京日报
已经下了单,维权路径已经打通。2026年9月最高法发布的典型案例中,带货主播使用家庭教育学者的公开演讲视频配上音色高度近似的AI合成音卖书,北京互联网法院判决其侵害肖像权和声音权益、赔礼道歉并赔偿12万元,未尽审核义务的委托方电商公司构成共同侵权、依法承担连带责任。 律师李振武解读,虚构“名人推荐”让消费者基于背书信任下单,侵犯知情权并构成欺诈,消费者可依据《消费者权益保护法》第55条主张惩罚性赔偿,退一赔三。中国新闻网大河报
场景二:接到“亲友”“领导”的视频通话或语音。 公安部网安局给出的口诀是“四不一核实”:不轻信、不转账、不泄露、不传播,加上及时核实——遇到涉及转账、借款、验证码、个人信息的语音、视频、图片,不因“看起来像”“听起来像”就轻信,务必通过电话回拨、当面确认、官方渠道查询核实身份。公安部网安局
也别再靠“让对方摇摇头、眨眨眼”验真。 南京市玄武区法院审理的一起案件里,被告人符某利用非法获取的195万多条公民个人信息和AI换脸软件,用AI生成的摇头、张嘴动态视频突破了某金融支付平台的人脸识别防线,最终因侵犯公民个人信息罪、信用卡诈骗罪获刑4年6个月。画面“会动”早已不等于“是真”,涉钱必回拨;如遭遇电信网络诈骗,第一时间拨打110报警。中国新闻网公安部网安局
场景三:自己被换脸。 AI换脸不只冲着名人去。 山东济南陈先生只因一场网购纠纷,就被商家顺着购物记录找到社交账号,其妻形象遭AI换脸发布不雅视频报复;他保留通话录音,向平台投诉并报警,侵权账号最终被封。法律边界清晰:《民法典》第1019条明确禁止利用信息技术手段“伪造”他人肖像,声音保护参照适用肖像权规则,标准是“可识别性”——只要能认出是特定的人,就受保护。中国新闻网大河报
别让“已标注”变成“盗脸”的挡箭牌
制度的关口正在前移:国家网信办等多部门要求AI生成的肖像视频标注AI生成,否则最高面临10万元罚款。 北京日报评论也点明,平台不得借已标注“AI生成”等内容标签规避网络生态治理要求。中国新闻网北京日报
而对普通用户,把制度红利变成自己的安全垫只需三条底线:看到“名人+福利”先核对官方认证账号;凡是涉及转账的语音、视频,挂断后回拨核实;发现本人或家人形象被盗用,证据先行,平台举报和报警两条线一起走。 眼见不再一定为实,核实才是新的常识。