吴越凌晨被“换脸”卖精华:AI审核为何拦得住名字、拦不住脸?

源自40位全网作者

04:34

“AI审核只拦姓名、不拦人脸照片”不是猜出来的,是记者实测验出来的:上传一张明星公开照片、提示词里写明姓名,会被“版权限制”拦下;删掉姓名和身份描述、只保留画面和口播要求,同一款工具就顺利生成了口型同步、动作连贯的“本人”带货视频。 词条的导火索发生在10月18日凌晨:演员吴越发文打假,一个微信视频号账号用AI伪造她的形象和声音,以“明星同款、吴越推荐”的名义推销护肤品。 她发声当天,涉事账号被永久封禁。蓝鲸新闻中新经纬看看新闻

视频里的“真人”,全是合成的

被伪造的“吴越”以第一人称替商品背书:“这个产品不是他们找我,是我找他们”,“闭着眼睛囤”“孕妇妈妈都能用”这类话术都被写进口播。 视频结尾,还出现了“邓亚萍”带货同款的画面。蓝鲸新闻中新经纬

视频下方有一行小字“作者提示:含AI生成内容”,它来自平台提供的AI内容自声明功能。 也就是说,提示只能告诉观众“画面是生成的”,证明不了“人是被授权出现的”——而对不熟悉AI的消费者来说,一张熟脸的说服力恰恰盖过了那行小字。蓝鲸新闻

这门仿冒生意并不小。记者追踪发现,“假吴越”带货的是一款标价70元的重组胶原蛋白精华,配合“拍一发30,比618、双11还便宜”的限时话术,近30天仅这一款单品就售出超过7000单,按标价与销量估算,销售额约50万元。蓝鲸新闻

事发当天,涉事账号就被清空下架,微信团队向媒体确认:永久封禁,内容清空不可见。每日经济新闻

为什么拦得住“名字”,拦不住“脸”

回看实测,被拦与被放行只差一个动作:删掉姓名。 换言之,这套审核把“身份”的输入框定在了文字提示上,人脸本身从头到尾没有进入验证环节。蓝鲸新闻

从机制和公开信息看,这是一笔成本账:文本关键词库便宜、成熟、几乎不误伤普通人;要在生成端拦“脸”,工具方得持续维护明星与公众人物图库、对每次任务做人脸检索比对。更关键的是,“用真人的脸”本身是一门有正当市场的生意,报道显示,目前采购形象授权的需求方主要包括AI影视内容制作方、品牌方或跨境电商从业人员、TVC广告方等。 合法用户和仿冒者共用同一个“人脸”入口,一刀切的图像拦截对工具方代价太高,于是审核重心滑向了事后环节:自声明标签、受害人发声、举报、封号。知乎

75元就能买一条“明星”口播

不想自己动手的人,有现成的代工。记者咨询多家承接AI视频制作的店铺,均支持“明星换脸”,普通还原度的报价是一分钟150元、半分钟75元。蓝鲸新闻

要求“真人感还原人物形象、肖像特征”,价格涨到一分钟700至1000元。追问具体哪些明星能做,得到的答复几乎一致——什么明星都可以。 对侵权提醒,有商家拒单,有商家标注“敏感”后照样开工,还有商家直言“只负责制作,不负责法律风险”。蓝鲸新闻

被“抓去带货”的,不止吴越

同一条视频里被“请”出山的邓亚萍,18日下午明确回应:从未对外授权过AI形象,所有商业合作都禁止AI相关使用。中新经纬

此类事件此前已反复发生:2025年11月,温峥嵘自曝被多个AI直播间盗播,质问时反被“AI温峥嵘”拉黑。第一帮帮团

据媒体援引央视新闻、新京报报道,AI甚至“抓”到了逝者:音乐家刘欢离世不久,就有AI生成视频冒充其妻子卢璐,打家属牌讲“临终故事”,转头推销保健粉。第一帮帮团

再往前,央视记者曾发现账号“我是小助理吖”的17件作品全部是用AI仿冒全红婵声音带货土鸡蛋。 该商品链接显示已售出4.7万件,孙颖莎、王楚钦也曾遭同样仿冒,张文宏同样中招过。第一帮帮团看看新闻

给“盗脸”算一笔法律账

仿冒者要付的不只是封号。律师解读认为,这一行为侵犯了被仿冒者的姓名权、声音权、肖像权。法治日报

如果仿冒带货中言论失当、销售假货,造成被仿冒者社会评价降低,还可能再踩中名誉权。法治日报

刑事风险同样具体:虚假宣传情节严重、涉案金额较大或以非法占有为目的的,可能涉嫌虚假广告罪、诈骗罪。法治日报

平台也躲不出去:接到权利人通知后不及时删除侵权内容的,要对损失扩大部分承担连带责任。蓝鲸新闻

普通用户该盯住三个信号

把这起事件拆开看,AI仿冒带货账号有几个可复用的识别点:其一,“含AI生成内容”的小字提示与高度仿真的真人观感同框出现,标签挡不住脸;其二,明星以第一人称“自证”式口播,比如“不是他们找我,是我找他们”;其三,同一账号批量“代言”多位明星——“花姐”账号里既有吴越,也有多条“乒乓球冠军邓亚萍推荐”。看看新闻

三条里中两条,就把这条视频当广告而非证言,先查品牌官方账号有没有授权再决定是否下单;已付款发现仿冒的,可主张虚假宣传下的“退一赔三”,金额较大的直接报案。对名人来说,吴越的路径已经验证了速度:凌晨点名,当天封号。

封号解决的是这条视频,解决不了这门生意——账号改名躲审查、报价表照旧挂在店里、同类仿冒账号仍在活跃。 只要审核的锚点继续停在“姓名”两个字上,删掉一个词、换一张公开照片,就还会有下一个“花姐”。蓝鲸新闻

精选参考来源

1
【#一张照片就能假冒明星带货#】#定制明星AI带货视频1分钟1000元# 在AI盛行的今天,换脸技术已经十分成熟,一张图片喂给AI就能让明星带货,近年来不少明星都曾公开表示过遭遇换脸带货。AI换脸的门槛究竟有多低?记者近日实测了多款国内AI视频生成软件。#吴越质问花姐骗了多少钱# 在一款主流AI视频工具中,记者上传一张外国男演员的公开照片,在提示词中写明其身份,要求生成一段“带货羽绒服” 的视频。点击生成后,系统弹出提示:“抱歉,由于版权限制,暂时无法创作对应的内容,请尝试修改。”随后,记者删掉提示词中的明星姓名和身份描述,只保留画面要求和带货口播的内容,这一次,系统顺利生成视频。这意味着,平台审核拦截的是“姓名”这一文字关键词,而非照片中的人脸本身。只要不写明对方身份,一张公开照片就足以让AI生成以该人物为主角的带货视频。记者以消费者身份咨询发现,多家承接AI视频制作的店铺均表示支持 “明星换脸”。记者咨询多家店铺后发现,不同精度的视频给出的报价也不同。普通还原度的 AI 换脸视频,多数商家报价一分钟150元、半分钟75元。若要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”,价格则涨到一分钟700元至1000元。(蓝鲸新闻、红星新闻)红星新闻的微博视频
2
【#AI冒用吴越带货单品月销7000单#】#AI明星换脸视频1分钟最高千元#10月18日,演员吴越在微博发文,点名短视频账号“花姐美肤日记” 利用AI换脸和声音克隆技术,伪造她的形象与声音推销护肤品。吴越称:“这位花姐你骗了多少人的钱?请如数奉还!太恶劣!”#吴越质问花姐骗了多少钱#涉事视频中,AI生成的“吴越”面容和声线高度仿真,以“明星同款、吴越推荐” 为名推销一款护肤品,配合“拍一发30,比618、双11还便宜”等限时低价话术诱导下单。视频中假“吴越”甚至以第一人称“背书”:“这个产品不是他们找我,是我找他们。闭着眼睛用闭着眼睛囤,孕妇妈妈都能用。”记者点击该账号的客服后,直接引流至一家名为“IRY护肤”的店铺。随后记者找到了视频中明星被“代言” 的商品:一款名为IRY的重组胶原蛋白精华液,页面标价70元。截至记者发稿,该商品页面显示,仅这一款单品近30天已售出超过7000单,累计好评超过2000条。按标价与销量估算,该单品近30天销售额50万元。除了使用AI工具自行生成外,更直接的方式是在电商平台找商家定制。记者以消费者身份咨询发现,多家承接AI视频制作的店铺均表示支持 “明星换脸”。记者咨询多家店铺后发现,不同精度的视频给出的报价也不同。普通还原度的 AI 换脸视频,多数商家报价一分钟150元、半分钟75元。若要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”,价格则涨到一分钟700元至1000元。(蓝鲸新闻)吴越 封面新闻的微博视频
全部
来源
内容由AI生成

精选参考来源

1. 【#一张照片就能假冒明星带货#】#定制明星AI带货视频1分钟1000元# 在AI盛行的今天,换脸技术已经十分成熟,一张图片喂给AI就能让明星带货,近年来不少明星都曾公开表示过遭遇换脸带货。AI换脸的门槛究竟有多低?记者近日实测了多款国内AI视频生成软件。#吴越质问花姐骗了多少钱# 在一款主流AI视频工具中,记者上传一张外国男演员的公开照片,在提示词中写明其身份,要求生成一段“带货羽绒服” 的视频。点击生成后,系统弹出提示:“抱歉,由于版权限制,暂时无法创作对应的内容,请尝试修改。”随后,记者删掉提示词中的明星姓名和身份描述,只保留画面要求和带货口播的内容,这一次,系统顺利生成视频。这意味着,平台审核拦截的是“姓名”这一文字关键词,而非照片中的人脸本身。只要不写明对方身份,一张公开照片就足以让AI生成以该人物为主角的带货视频。记者以消费者身份咨询发现,多家承接AI视频制作的店铺均表示支持 “明星换脸”。记者咨询多家店铺后发现,不同精度的视频给出的报价也不同。普通还原度的 AI 换脸视频,多数商家报价一分钟150元、半分钟75元。若要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”,价格则涨到一分钟700元至1000元。(蓝鲸新闻、红星新闻)红星新闻的微博视频

2. 【#AI冒用吴越带货单品月销7000单#】#AI明星换脸视频1分钟最高千元#10月18日,演员吴越在微博发文,点名短视频账号“花姐美肤日记” 利用AI换脸和声音克隆技术,伪造她的形象与声音推销护肤品。吴越称:“这位花姐你骗了多少人的钱?请如数奉还!太恶劣!”#吴越质问花姐骗了多少钱#涉事视频中,AI生成的“吴越”面容和声线高度仿真,以“明星同款、吴越推荐” 为名推销一款护肤品,配合“拍一发30,比618、双11还便宜”等限时低价话术诱导下单。视频中假“吴越”甚至以第一人称“背书”:“这个产品不是他们找我,是我找他们。闭着眼睛用闭着眼睛囤,孕妇妈妈都能用。”记者点击该账号的客服后,直接引流至一家名为“IRY护肤”的店铺。随后记者找到了视频中明星被“代言” 的商品:一款名为IRY的重组胶原蛋白精华液,页面标价70元。截至记者发稿,该商品页面显示,仅这一款单品近30天已售出超过7000单,累计好评超过2000条。按标价与销量估算,该单品近30天销售额50万元。除了使用AI工具自行生成外,更直接的方式是在电商平台找商家定制。记者以消费者身份咨询发现,多家承接AI视频制作的店铺均表示支持 “明星换脸”。记者咨询多家店铺后发现,不同精度的视频给出的报价也不同。普通还原度的 AI 换脸视频,多数商家报价一分钟150元、半分钟75元。若要求“真人感还原人物形象、肖像特征,面部表情和动作更自然真实”,价格则涨到一分钟700元至1000元。(蓝鲸新闻)吴越 封面新闻的微博视频

3. #AI仿冒吴越带货账号已永久封禁#【演员吴越怒斥AI仿冒带货,微信视频号回应:账号已永久封禁,内容清空】10月18日凌晨,演员吴越在微博发文称,“一觉醒来,谁在利用Ai肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!”根据吴越贴出的视频,账号为“花姐美肤日记”发布了一段“吴越”的AI视频,开头为“吴越”换脸直播带货,随后配上吴越公开活动时的视频画面,用“吴越”的声音称“这个产品不是他们找我,是我找他们的……效果是真的非常直观”,视频末尾还有疑似“邓亚萍”的带货片段。发布的这段视频中标注有“作者提示:含AI生成内容”。记者从微信团队了解到,目前账号已被永久封禁,内容清空不可见。#打击AI假冒不能只靠吴越们喊打##律师称AI广告无标注涉嫌消费欺诈# via.澎湃新闻

4. #邓亚萍从未对外授权AI形象#【#邓亚萍方回应被AI带货#】18日,话题“吴越质问花姐骗了多少钱”登上微博热搜。#AI仿冒吴越带货账号已永久封禁# 此前,演员吴越怒斥视频号“花姐美肤日记”利用AI技术伪造其形象直播带货。而在涉事AI带货视频中,被“碰瓷”的还有前中国女子乒乓球运动员、世界冠军和奥运冠军邓亚萍。18日下午,邓亚萍团队的一名工作人员对@中新经纬 回应称:“我们从未对外授权过邓亚萍的AI形象及AI换背景。”针对有人利用邓亚萍肖像抠图伪造背景的情况,该工作人员表示,邓亚萍的所有商业合作均明确禁止AI相关使用,既不提供AI形象,也不允许以真人形象进行背景替换。中新经纬的微博视频

5. 【众声|吴越怒斥AI换脸带货,#平台治理不能坐等受害者站出来#】#AI换脸带货已成灰色产业链# 一觉醒来,一张“自己”的脸在屏幕里替陌生人敛财,不可谓不惊心动魄。10月18日凌晨3时许,演员吴越在社交平台发文:“一觉醒来,谁在利用AI肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!”从她贴出的截图可以发现,微信视频号“花姐美肤日记”以“明星同款、吴越推荐”为由头,用AI生成自己的形象与声音推销一款护肤品。同一账号中,还有“乒乓球冠军邓亚萍推荐”等广告带货相关视频。截至发稿,该账号在微信视频号上已不可查。吴越不是第一个被AI“抓”去做推销的名人。演员温峥嵘曾同时“现身”多个不同直播间,她进入仿冒直播间质问“你是温峥嵘,那我是谁”反被拉黑禁言。音乐家刘欢离世不久,AI生成的“妻子”和“儿子”便打着家属身份讲述“临终故事”,转头推销保健品——可是,刘欢并没有儿子。时至今日,AI换脸带货已变成一条分工明确、门槛很低的灰色产业链。吴越凌晨的这一问,戳中的也不只是一个主播带货骗钱的问题——一个“花姐”隐身了,但换个账号、换张脸、换款产品,恶行仍会复现。此外,针对老年群体的“AI霸总”账号等,用合成形象和情感话术建立信任,再引流、带货、诱导转账等,是网络空间更沉默的“重灾区”。首先需要明确,AI换脸带货触碰了人格权侵权、虚假宣传、消费欺诈等多条法律红线。未经权利人同意,擅自使用其形象进行商业推广,违反《中华人民共和国民法典》第一千零一十九条关于肖像权保护的规定。2026年9月最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》也进一步明确,未经同意利用人工智能处理自然人的姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开的,构成对姓名权、肖像权等人格权益的侵害。但法律写在纸上,骗局却仍在算法里跑。吴越控诉的账号,视频下方有标注 “含AI生成内容”,这行字本该是道防线,如今却更像被拿来做商家的挡箭牌。可以看到,平台并非无所作为。比如,某头部电商平台今年6月公布的数据显示,平台已累计处置侵权仿冒达人账号超1.2万个、仿冒带货内容超26.1万条,其“肖像保护功能”已累计保护180余位头部达人。这些数字虽说明治理在行动,但也恰恰说明问题的规模有多大。真正的要害不在于处置了多少,而在于为什么吴越的脸在被合成、被用来骗钱之后,仍需她本人在凌晨三点发一条微博才能被大众看见。平台对前置识别这一项,是否应加深重视、加快速度?虽然“花姐美肤日记”在微信视频号上已不可查,但平台若继续坐等举报、坐等受害者举证,治理就永远追不上造假的速度。《中华人民共和国电子商务法》明确规定,平台知道或者应当知道平台内经营者侵害消费者合法权益、未采取必要措施的,依法承担连带责任——谁有识别和拦截的能力,谁就不该把维权的成本全推给被偷脸的人。AI换脸是一面镜子,它既照出骗子的贪婪,也照出平台的责任。今天被偷走脸的是明星,明天可能就是普通人。普通人没有热搜可用,更难证明“我是我”。法律已亮明红线,接下来要让红线跑在AI造假之前,跑在消费者下单之前,跑在下一个“花姐”出现之前。AI技术会造假,社会的回应必须是真:真拦截、真追责、真赔偿。澎湃新闻的微博视频

6. #已有多位名人被AI换脸换声带货# 【演员吴越凌晨发文斥责!被AI假冒“带货”】 近些年,AI深度合成名人、换脸换声的视频层出不穷,一些人只需要简单动动手指,将名人过往音视频内容“喂”给AI制作软件,就能够自动生成AI形象,让名人为自己带货、背书。10月18日凌晨,演员@吴越 发文:“一觉醒来,谁在利用Ai肆意抓人替自己做恶?这位“花姐”你骗了多少人的钱?请如数奉还!太恶劣!!! ”,视频内容显示,“吴越”正在带货一款美容产品,视频提示含AI生成内容。#吴越发声AI诈骗太恶劣# #吴越质问花姐骗了多少钱#据此前报道,音乐家刘欢离世不久,网络上就出现AI生成视频,冒充其妻子卢璐,打着家属身份讲述“临终故事”博取共情,转头推销黄精五黑粉。更有账号假扮刘欢儿子带货同款产品,逝者肖像、公众情感被打包成流量商品。去年,央视记者曾在平台发现,在网名为“我是小助理吖”的博主账号中,已发布的17件作品,内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视频,其中一个视频点赞量高达1.1万。评论区显示,大量粉丝误以为这就是全红婵本人,纷纷下单购买链接中的鸡蛋,该商品链接显示已售出4.7万件。全红婵家人曾向媒体证实,全红婵并未给相关农产品代言或授权。除全红婵外,奥运冠军孙颖莎和王楚钦也遭遇了同样的仿冒。从法律角度看,冒名他人带货兼具名誉侵权与消费欺诈双重属性,达到一定金额还可能触及刑事诈骗。(文字:央视新闻、新京报) 第一帮帮团的微博视频

7. #警惕自拍发社交平台或遭AI抓取商用# 【发自拍到社交平台或被Ai抓取商用?记者实测多个人脸授权平台,平台宣称可创收也有人一单未接到】#人脸授权平台宣称创收却有人零订单# 你的脸,可能正在替别人赚钱?北京市市场监督管理局发文提醒:部分不法分子会违规抓取大家日常在社交平台分享的自拍、生活视频、语音内容,通过AI工具生成虚拟形象、复刻个人声音,擅自用于商业广告、直播带货等营利场景。有一类打着“让你的脸从‘被AI盗取’变成‘被AI赋能’”旗号的人脸授权平台开始涌现。记者实测“新爪AIGC”“Mirafans镜界”“元相新生”等多个平台发现,人脸授权费用按用途划分在500至10000元不等。有平台在提示中指出了人脸使用限制范围,包括“反派角色形象”“死亡戏”“激情戏”等,用户可选择是否授权此类场景。尽管多个平台宣称“可持续创收”“每用一次结算一次片酬”,但平台用户群中仍有不少人反映“自上传人脸后,未接一单”。元相新生创始人刘啸接受南都记者采访时表示,“平台更像是给用户提供一个被看见、被选择的入口,而不是一纸能保证变现的合同。平台能做的是把授权记录、素材边界和追责依据留下来。”针对“一次授权、长期复用”等质疑,“新爪AIGC”近日也发布说明回应称,“一个项目的授权不会自动延伸到续作、番外或衍生作品;平台现有授权也不包含模型训练。”“Mirafans镜界”创始人Eula此前公开表示,目前来采购形象授权的需求方主要包括AI影视内容制作方、品牌方或跨境电商从业人员、TVC广告方等。via@第一帮帮团 第一帮帮团的微博视频

8. 【#AI假装吴越带货触犯哪些法律#?律师:#吴越可起诉AI诈骗者赔偿# 】吴越发声称AI诈骗太恶劣!10月18日凌晨,演员吴越发文怒斥,名为“花姐美肤日记”的账号利用AI换脸和声音克隆技术,伪造其直播带货,并且视频中的AI“吴越”声称“这个产品不是他们找我,是我找他们”。随后点名“花姐”要求如数奉还骗款。对于此事中店家涉嫌侵犯了哪些法律权利,荔枝新闻记者咨询了律师。江苏英特东华律师事务所王勐律师表示,民事侵权,擅自使用他人肖像声音,侵犯肖像权,吴越有权起诉,要求删除视频赔礼道歉赔偿损失。刑事风险,如果通过伪造明星形象,虚构产品功效,骗取消费者财产,金额达标,就构成诈骗罪。同时平台也有审核下架的义务。#吴越质问花姐骗了多少钱# #吴越发声AI诈骗太恶劣# 荔枝新闻的微博视频

9. 部分AI工具审核仅拦截姓名却放行真人肖像,背后原因是什么?

10. AI盗脸带货进入深水区,直播电商如何把“肖像保护”推到前台?

11. 怎么验证网友发的照片是不是本人?AI换脸时代的照片验真方法

12. #戚薇数字分身为有限授权#【每经热评|#戚薇数字人已接戏#、原生AI“方桃子”接广告:IP价值取决于人心人性,永远需要人来握住方向盘】演员戚薇宣布自己的数字人分身将主演末世题材AI漫剧《末日盛夏》,成为第一批规范化开放自己AI形象授权的艺人之一。与此同时,原生AI演员方桃子在主演AI短剧《被裁...全文

13. #天猫双11打造首个AI明星主播阵容#如果你喜欢的艺人有了一个AI分身,你会愿意看它直播吗?最近刷到一个挺有意思的东西。天猫双11搞了个「AI-dol」主播天团,直接请了6位明星达人,用本人授权的AI数字人身份去直播。宁泽涛、刘润铭、陈土豆、垫底辣孩、七颗猩猩、晓观队长,风格完全不一样。我第一反...全文

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章