10月18日凌晨3时许,演员吴越发文,质疑视频号账号“花姐美肤日记”利用AI换脸和声音克隆冒充她推销护肤品,并直接喊话骗子把骗款如数奉还。当天,微信团队回应澎湃新闻,该视频号账号因仿冒吴越带货已被永久封禁、内容清空。封号处理很快,但这不是终点:涉事账号在同批视频里还“请”来了邓亚萍,而温峥嵘、张文宏、靳东等人都曾被AI克隆带货。真正值得追问的是——封掉一个号之后,围剿整条AI黑产的链条补上了没有?微博抖音
从流出的视频看,这次仿冒并不“隐蔽”。伪造的“吴越”举着精华液口齿清楚,称“这个产品不是他们找我的,是我找他们的”,画面打上“明星同款、吴越推荐”,只有角落一行小字提示“作者提示:含AI生成内容”。每经热评进一步指出,该账号还开启了“评论精选”来筛选留言、收割粉丝信任,同类带货视频的文案和画面高度雷同,碰瓷的不止吴越一位。邓亚萍方18日也公开回应,从未对外授权任何AI形象。哔哩哔哩每日经济新闻微博
这门生意的门槛,比多数人想象的低。蓝鲸新闻记者18日调查发现,一张明星照片即可生成其“带货推荐”视频,有商家明码标价:定制AI带货视频1分钟1000元。红星新闻采访的明星团队直言行业现状:谁有流量就AI谁,且维权成本高、难取证。知乎红星新闻
平台的处置并非没有数字。抖音4月公告披露,累计下架AI侵权视频超过53.8万条、处罚违规账号4000余个,并将换脸仿冒、仿冒蹭热、AI侵权带货列为重点治理对象。抖音生活服务板块一季度另处置超80万条AIGC违规带货内容,涉及肖像侵权与虚假宣传。短视频平台的“AI魔改”内容也在同一轮被清理——9月,微信、抖音、快手合计清理违规视频超7400条。澎湃新闻抖音观察者网
监管的专项同样在滚动收网。针对AI仿冒公众人物直播营销,网信部门2025年11月的集中清理就处置仿冒账号1.1万余个。中央网信办“清朗·整治AI应用乱象”第二阶段行动累计清理违法违规信息561万余条、查处账号4.9万余个。规则的硬约束来自标识义务:2025年9月起施行的《人工智能生成合成内容标识办法》要求对AI内容添加显式标识、在文件元数据中添加隐式标识,平台承担核验责任。人民网微博中国新闻网
司法层面,2026年9月7日最高法发布《关于依法审理涉人工智能纠纷案件的意见》,首次系统明确AI纠纷裁判规则,AI只是工具,不能替操控者免责。同批网络法治典型案例中,主播用AI合成声音仿冒名人带货,委托企业因未尽审核义务构成共同侵权、判赔12万元。中国新闻网微博
执法也在跟进:上海市第一中级人民法院审结上海首例AI合成语音侵犯自然人声音权益案,平台运营方判赔5万元。山西大同网警此前对未经授权用奥运冠军形象AI数字人带货的邢某依法行政拘留。微博央视网
围剿真正的分水岭,是把治理从“事后封号”推向“事前断链”。 涉案视频打了小字AI标识,恰恰暴露了标识制度被“半戴面具”式利用:律师李振武指出,这类视频虽然标注“含AI生成”,但商家实质是在铤而走险,标了AI不等于免责。《民法典》明确禁止利用信息技术手段伪造侵害他人肖像权,声音参照保护;律师分析,仿冒带货情节严重的可构成诈骗罪,无标注的AI广告则涉嫌消费欺诈。平台侧同样绕不开:每经热评点出的“算法推荐了假’吴越’”之所以刺痛,是因为账号挂购物车、被推送进信息流,都不只是“技术中立”四个字能解释的。知乎每日经济新闻
对普通用户来说,眼下能落地的观察信号其实很具体:刷到“明星推荐”先查是否挂有正规广告标识与授权,警惕评论区只剩夸赞的“评论精选”账号,越是“本人从不露面的代言”越要多一分怀疑。而衡量平台治理是否动了真格,也不只看封号速度:要看是否对带货组件核验肖像授权、是否把处罚名单与账号信用跨平台打通、是否让“花姐”换马甲重来的成本高于收益。北京日报的评论说得更直白:打击AI假冒,不能只靠“吴越们”喊打。凌晨发现、上午发声、当天封号——这一次,名人的声量换来了处置效率;而下一个被AI抓去“替人作恶”的,未必再有这样的声量。微博