10月18日凌晨3时许,演员吴越在微博发文,点名短视频账号“花姐美肤日记”利用AI换脸和声音克隆伪造她的形象与声音推销护肤品,喊话对方“骗了多少人的钱?请如数奉还”。涉事视频中,AI生成的“吴越”面容和声线高度仿真,以“明星同款、吴越推荐”为名带货,口播里还配着“拍一发30,比618、双11还便宜”的限时话术。当天,多家媒体注意到,账号“花姐美肤日记”已被永久封禁。北京丰泰律所主任律师董世连给出的定性更为直接:AI广告无标注、虚构效果、人物、场景,触及多重法律法规红线,构成误导、虚假宣传甚至消费欺诈,涉事商家可能承担民事赔偿和行政处罚双重责任。蓝鲸新闻观察者网北京日报
这条热搜超出“明星维权”的地方在于,它把一个人人每天都在经历的处境推到了法律聚光灯下:刷短视频和电商时,屏幕里的连衣裙、菜刀和“试用体验”都可能是AI批量制造的,消费者对自己依据什么做购买决定,几乎一无所知。
给AI内容“亮身份证”,已经是法律义务
规则给出的回答是:给AI内容打标识不是自觉问题。国家网信办、工信部、公安部、广电总局四部门联合发布的《人工智能生成合成内容标识办法》已于2025年9月1日正式施行,AI生成的文字、图片、视频等内容必须亮明身份。按北京日报的归纳,用AI生成的每一段文字、每一张图片、每一条音频、视频,都必须强制亮明“数字身份证”——用户可感知的显式标识,加写入文件元数据的隐式标识。而董世连的解读点出了关键一笔:商业用途的AI图文、视频,仅靠话题标签、角落小字不足以合规。央视网北京日报
值得玩味的是,“花姐”的视频并非完全裸奔——画面下方其实有一行“作者提示:含AI生成内容”的小字,走的是平台提供的AI内容自声明功能。但账号照样被封禁,产品照样被消费者投诉,因为这行小字既挡不住对明星人格权的侵犯,也挡不住对购买决策的误导。今年4月,网信部门还依法查处了“剪映”App、“猫箱”App及“即梦AI”网站未有效落实AI生成合成内容标识要求的问题,标识义务正在从纸面走进执法。蓝鲸新闻央视网
“欺诈”定性如何成立:规则网一层层收紧
《中华人民共和国广告法》第四条规定广告不得含有虚假、引人误解的内容,不得欺骗、误导消费者;第二十八条则明确,虚构使用效果、虚构人物体验、虚构经营场景属于虚假广告。在“人”的层面,《民法典》第1019条明确禁止利用信息技术手段伪造他人肖像,第1023条规定对自然人声音的保护参照适用肖像权保护规则——司法实践确立的标准是可识别性,只要能认出是谁,侵权就成立。北京日报知乎
真正改变消费者处境的是今年9月:最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件,共5个部分24条,其中明确——经营者利用AI“仿冒名人带货”且构成欺诈的,消费者主张惩罚性赔偿的,人民法院依法支持。落到具体金额上,就是“退一赔三”,即三倍赔偿,赔偿金额不足五百元的按五百元计算。最高法研究室主任周加海在发布会上直言,法律必须及时亮剑,“不能让消费者都长出火眼金睛”。此前北京互联网法院已审结涉AI“深度伪造”名人声音带货案,商家因合成与知名教育专家高度近似的声音推销图书,被判赔偿12万元并赔礼道歉。网经社
造假有多便宜:一张照片,审核拦的是“姓名”
蓝鲸记者实测多款国内AI视频生成工具:上传演员公开照片、在提示词里写明身份,系统以版权限制为由拒绝;删掉姓名和身份描述、只保留画面要求和带货口播,视频却顺利生成。平台审核拦截的是“姓名”这一文字关键词,而非照片中的人脸本身。黑产定制更直接:普通还原度的AI换脸视频,多数商家报价一分钟150元、半分钟75元;要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”的,涨到一分钟700元至1000元。蓝鲸新闻红星新闻
生产线的另一端是更真实的账本:涉事“吴越推荐”精华液页面标价70元,账号被处理前,近30天这一单品已售出超过7000单,按标价估算销售额约50万元。被这套生意盯上的也不只吴越:同一条视频末尾,“邓亚萍”也在为同一款护肤品“带货”。演员温峥嵘曾撞见三个“自己”同时在不同直播间带货,本尊进直播间质问,反倒被秒拉黑。治理数据同样在膨胀:据网经社不完全统计,2026年以来抖音已下架AI仿冒蹭热、侵权带货等AI侵权视频超53.8万条,4000余个违规账号被处罚。蓝鲸新闻知乎半岛都市报网经社
消费者:记住三个信号,走完五步维权
识别的成本不必很高,记住三个信号即可:明星“突然”不告而卖,只推不知名品牌的低价商品,账号与本人无关联;话术充满“不是他们找我,是我找他们”“孕妇妈妈都能用,闭着眼睛囤”这类高强度背书;画面光影和边缘融合违和,或只在角落留着一行几乎看不清的小字标识。蓝鲸新闻
如果已经下了单,五步照走:第一,固定证据——对被仿冒的视频录屏,保留订单、支付凭证和客服沟通记录;第二,先与商家交涉退货退款,明确指出其以AI仿冒形象诱导购买;第三,向平台举报该视频和账号,要求披露经营者真实信息;第四,拨打12315或向市场监管部门投诉,举报虚假广告;第五,协商不成即可起诉,依据《消费者权益保护法》第五十五条和最高法《意见》主张“退一赔三”,不足500元按500元计。
赔偿的前提也要说清:最高法《意见》并未确立“凡有AI仿冒外观即构成欺诈”的推定,仍需结合商家的主观欺诈故意、误导结果和交易因果关系综合认定。这正是录屏和订单时间线的价值——你得能证明“就是看了这条视频才下的单”。网经社
商家侧:用AI做广告,三条线不能碰
对广告主和MCN机构来说,第一条线:使用AI素材,显式标识必须清晰可感、隐式标识必须写入元数据;前后对比效果若是AI合成、无法在真实使用中复现,又未明示“模拟效果”,即构成对商品功效的虚假陈述。第二条线:用AI生成“消费者现身说法”,本质是捏造用户评价或用户形象,属于典型误导性宣传。第三条线:名人形象和声音没有任何默认借用空间,必须取得本人对商业推广的授权——蓝鲸报道中受访的律师提醒,换脸仿声带货若骗取钱财数额较大,还可能构成诈骗罪,接单的制作者也脱不了干系。北京日报蓝鲸新闻
吴越凌晨的那条微博,把“眼见不为实”从一句感慨变成了可以被追责的商业行为。判断标准其实已经很清晰:广告里凡是并非真实发生的——形象、声音、效果、体验——商家就有义务让你看得出来;看不出来的,可以索赔。