AI仿冒吴越带货被封!网购直播如何一眼识破数字人替身?

源自90位全网作者

09:32

AI仿冒演员吴越带货的账号被封了。涉事的视频号账号"花姐美肤日记"用AI换脸、克隆声音制作"吴越"带货视频,据澎湃新闻从微信团队获得的信息,该账号已被永久封禁,内容清空不可见。 但对刷到这类视频的普通人来说,更要紧的是下一件事:屏幕里那个"亲口推荐"的明星,怎么一眼看出是替身?梨视频

答案里最讽刺的一条是:仿冒吴越的那条视频,本身就打着"作者提示:含AI生成内容"的官方标注——画面里的"吴越"面容逼真,推销护肤品的话术熟练,标签却等于当面承认这不是吴越。 对普通用户,最短的识别路径恰恰就是这个标注:刷到"明星出镜"的视频,先找画面角落有没有"AI生成"字样——有,就直接排除本人代言。羊城晚报

事件全链条:一条打了标签的仿冒广告

10月18日凌晨,吴越在微博发文:"一觉醒来,谁在利用AI肆意抓人替自己作恶?这位’花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!"她贴出的视频里,“吴越"开头换脸直播带货,随后配上吴越本人公开活动的画面,用合成的"吴越"声音说"这个产品不是他们找我,是我找他们的……效果是真的非常直观”。 受害者不止她一个:记者查看该账号发现,乒乓球名将邓亚萍的AI带货视频也挂在同一个账号下。梨视频羊城晚报

吴越后来在央视《法治在线》采访中还原了发现经过:大约一周前,有朋友发来这款产品的广告图问她是否在代言,她回答没有;事件前夜,朋友又把这段视频发给她,问"做了这个广告了吗",她"很惊讶"。她没有先等团队走投诉流程,而是选择凌晨发微博——“作为公众人物在微博上发一下,大家一分钟以后就能看见,我想首先得告诉人家这个东西不是我卖的”。据她讲述,第二天这个账号就被封了。话题下还有一个扎心的细节:#吴越朋友说妈妈买了AI吴越卖的货#。

"AI生成"标注:挡不住侵权,但可以点破替身

这张标签并非造假者自愿加的。2025年9月起施行的《人工智能生成合成内容标识办法》要求,对生成合成内容添加显式标识,并在文件元数据中添加隐式标识;平台还必须为用户提供"含有AI生成内容"“含有虚构演绎内容”"含有营销信息"等6类标签。中国新闻网中国新闻网

但打了标签不等于可以拿这张脸卖钱。北京日报评论点名:平台不得借"已标注虚构演绎、AI生成、营销"等内容标签规避网络生态治理相关要求。 北京航空航天大学法学院副教授王琦在央视报道中把话说得更直接:发布者负有标识内容和取得肖像、声音授权两部分义务,没有获得当事人授权,擅自使用他人形象、声音,哪怕标注足够醒目,侵权性质依然不会改变。北京日报中国新闻网

从消费者一侧看,问题在于这张标签太容易"看不见"。中国新闻网对同类骗局的追问是:不少涉事账号确实在视频角落打上了"AI生成"水印,但老人照样受骗——水印太小,受骗的人根本没注意。 所以第一动作不是指望别人看标签,而是自己养成习惯:明星+带货+"AI生成"标注同时出现,判定替身,不用犹豫。中国新闻网

标签被裁掉之后,看账号、话术和实时互动

AI标注可以被二次搬运时裁掉,识别不能只靠它,剩下的破绽按可靠程度有三处。

看账号身份。"花姐美肤日记"这个名字与吴越毫无关系,却挂着"吴越"卖护肤品,是典型的"李鬼"账号。北京日报列举过一批同类高仿号:“演员靳东”“导演饺子”“全红婵哥哥”“刘欢妻子”,视频下方都挂着卖货链接。 明星本人的商务代言有官方账号可查、可交叉验证;仿冒号永远寄生在第三方人设下。北京日报

听话术套路。“这个产品不是他们找我,是我找他们的”“为回馈粉丝联合厂家送福利”,这类制造"亲密感"和"内部价"的台词是仿冒带货的标准脚本:正规代言从不需要用假传圣旨的方式索取信任。

试实时互动。这是AI替身最难伪装的一环。此前演员温峥嵘深夜刷到AI伪造的自己正在直播间带货,进入直播间质问"你是温峥嵘,那我是谁?“话音刚落就遭到对方拉黑。 面对"直播”,问一句只有真本人答得出的具体问题,比盯着画面找穿帮更有效。至于画面本身,这类合成形象普遍"似像非像",口型、脸部边缘容易有机械感,但这项判断依赖观看经验,不如前三条稳定。中国新闻网

封号为什么管不住这门灰产

吴越这条封得快,同类视频却还在批量出现,根子是经济账。北京日报评论分析,如今换脸换声工具随处可见,使用门槛、成本投入极低,造假者可迅速批量炮制、规模推广,“各平台虽在治理,但往往跟不上账号繁殖速度,等到下架禁言,这些人已赚得盆满钵满”。北京日报

王琦指出,此类侵权被查处后赔付额度往往不高,违法收益远大于违法成本,侵权行为因此反复滋生。监管端正在加压:中央网信办"清朗·整治AI应用乱象"专项行动第二阶段通报显示,累计清理违法违规信息561万余条,查处账号4.9万余个,处置违规网站、应用程序等2400余个。微博

法律后果对消费者同样重要。据北京日报援引民法典,未经同意擅自使用他人形象进行商业推广可能构成侵犯肖像权;通过AI仿冒公众人物直播带货,在商品与明星之间制造虚假关联诱导交易,侵害消费者知情权,情节严重的还可能触犯虚假广告罪、诈骗罪。北京日报

已经买过了,钱怎么办

央视《法治在线》给出的路径是:发现被仿冒,第一时间录屏、截屏,完整固定侵权视频和账号主页等证据,既可以向平台投诉要求下架,也可以提起诉讼。 权利人不必纠结合成形象像不像到"百分之百"——按现行司法标准,只要相关公众能够识别出模仿的是本人,就构成人格权侵权。落到买过货的消费者身上:如果下单就是冲着"某某明星推荐",先固定视频和订单记录,向商家主张退货退款;商家拒赔的,走平台投诉并保留向市场监管部门举报的渠道。明星的愤怒会上热搜,你手里那条录屏和订单,才是能变成退款的证据。中国新闻网

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章