10月18日凌晨3时许,演员吴越一觉醒来,发现"自己"正在深夜替陌生人卖货:微信视频号"花姐美肤日记"用AI换脸和声音克隆伪造她的形象与声音带货护肤品,她发文怒斥有人利用AI"抓人替自己作恶",点名要求"花姐"把骗来的钱如数奉还。到当天下午,微信团队确认,涉事账号已被永久封禁,内容清空不可见。封一个号不算难,难的是这条链路上真正买单的人:用假脸带货的单品30天卖出7000多单,而伪造一张"明星脸"的成本最低只要几十元。比起吴越的愤怒,更值得普通用户搞清楚的是,这样的"数字分身"你分辨得出吗,被坑了能要回什么。微博澎湃新闻
涉事视频的造假相当完整:开头是"吴越"换脸出镜带货,中段剪辑她公开活动的真实画面,全程用克隆的吴越声线解说,律师梳理涉事视频后指出,制作者高度克隆其音色与语调,用"这个产品不是他们找我,是我找他们""孕妇妈妈都能用,闭着眼睛囤"这类话术诱导下单。视频末尾,还出现了疑似"邓亚萍"的带货片段。大河报澎湃新闻
顺着视频往下查,记者点进账号客服,被直接引流到一家"IRY护肤"店铺,视频中推销的是一款标价70元的重组胶原蛋白精华液。商品页面显示,这一款单品近30天已售出超过7000单、累计好评超过2000条,按标价与销量估算近30天销售额约50万元。被同一条流水线盯上的也不止一位名人:涉事账号用相似手法冒用邓亚萍带货,而邓亚萍方面回应称从未对外授权AI形象。封面新闻财经网
吴越也不是第一个被"抓去替人作恶"的明星:公开报道中,“演员靳东”“演员温峥嵘”"导演饺子"都出现过被AI仿冒带货或诈骗的情况,媒体为此直言何止吴越一人受此困扰。仿冒之所以泛滥,是因为供给端早已明码标价。记者咨询发现,电商平台上多家承接AI视频制作的店铺支持"明星换脸"定制,普通还原度一分钟150元、半分钟75元;要求面部表情和动作更自然的"真人感"高仿,价格涨到一分钟700元至1000元。一条带货视频的制造成本,可能远低于它一天的流水——做号换马甲重来的速度,也快过明星发现和辟谣的速度。封面新闻北京日报封面新闻
这次事件里最讽刺的细节是:涉事视频下方其实标注了"作者提示:含AI生成内容",却照常挂载着商品链接。但标注不等于免责。根据国家网信办等四部门2025年发布的《人工智能生成合成内容标识办法》,AI生成内容必须强制添加显式和隐式标识;北京日报援引律师观点指出,商业用途的AI图文、视频,仅靠话题标签和角落小字并不足以合规。换句话说,小字提示只是完成了底线义务,拿别人的脸和声音替商品背书,虚假宣传的责任一样跑不掉。澎湃新闻北京日报
被"数字分身"坑了的消费者,能要回什么?《民法典》第1019条明确禁止利用信息技术手段伪造他人肖像,第1023条规定对自然人声音的保护参照适用肖像权规则,司法实践的判断标准是可识别性——一般人能认出是谁,就受保护。虚构"明星推荐"让消费者基于信任下单,则直接落入欺诈:律师解读称,今年9月最高法发布的涉AI司法裁判规则已明确,AI仿冒名人带货构成欺诈的,消费者可依《消费者权益保护法》第55条主张惩罚性赔偿,法院依法支持、退一赔三。落到操作上,凡是"明星现身推荐"却在品牌官方旗舰店查无授权、被引流到客服私聊、又用"比大促还便宜"催促下单的视频,都值得先按下怀疑;已经下单的,保留商品页面和订单记录,向商家索赔或要求平台介入都有据可依。大河报
平台这次一天之内封号清内容的反应称得上快,目前微信中已经搜索不到该视频号。但封号的终点不该是事件的终点:当伪造一张脸只要几十元、骗走的流水以月计,治理就不能依赖"哪个明星先醒过来"。识别机制、商品链路审核和商家资质追溯跑在仿冒前面,普通用户才不用在每次下单前自问一遍:屏幕里这个推销的,到底是真人,还是数字分身?红星新闻