拆解AI仿冒吴越带货技术链:声音克隆与面部替换如何运作?

源自174位全网作者

10-18 20:45

10月18日凌晨,演员吴越被一个没有她本人出镜的视频"吵醒"了。账号"花姐美肤日记"利用AI换脸和声音克隆技术,伪造她的形象与声音,以"明星同款、吴越推荐"的话术推销护肤品。吴越凌晨在微博发文,质问是谁"利用Ai肆意抓人替自己作恶",追问这位"花姐"骗了多少人的钱,要求如数奉还,直言"太恶劣"。把这条视频拆开看,没有任何一帧需要吴越本人到场:公开音频喂出声音模型,一张照片或一段旧画面喂出人脸,再用克隆声驱动口型,最后真假素材混剪成片——整条流水线在白天就有了明码标价。蓝鲸新闻梨视频

链条第一环是声音。克隆的原理并不神秘:模型从目标人物的几秒音频里提取音色、节奏和气息特征,再把任何话术文案用这把"嗓子"念出来,公开流传的开源工具就把门槛标在了秒级录音上。对明星而言,作品、采访、直播切片越是海量公开,他人的"素材库"就越完整。于是视频里出现了吴越从未说过、却几乎听不出破绽的第一人称——“这个产品不是他们找我,是我找他们。闭着眼睛用闭着眼睛囤,孕妇妈妈都能用”,一次从未发生的"代言"被包装成了亲身体验。知乎蓝鲸新闻

第二环是把"人"重新造出来:传统换脸路线把目标人物的脸贴进现有直播画面,生成路线则直接让一张照片在视频模型里"活"过来开口说话,再让克隆音频驱动口型对齐。蓝鲸记者实测过这条路:上传一张公开照片、在提示词里写明本人身份,生成会被拦截;删掉姓名描述、只留画面和口播要求后,系统顺利出片,口型与配音同步、表情动作连贯。实测划出的边界很刺眼:拦住生成的是提示词里的"姓名"关键词,而不是照片里的那张脸。混剪则补上最后一层迷惑性——涉事视频开头是AI生成的"吴越"直播带货,随后配上吴越公开活动时的真实画面,克隆声音贯穿全程。蓝鲸新闻梨视频

生成端一旦跑通,定制服务立刻接上。电商平台多家店铺公开承接"明星换脸",普通还原度一分钟150元、半分钟75元,要求表情动作接近真人的高精度成品,报价一分钟700元至1000元。蓝鲸新闻

售卖端的成绩更直接。引流店铺里那款被假"吴越"背书的重组胶原蛋白精华,标价70元,近30天售出超过7000单,记者按标价与销量估算,单品近30天销售额约50万元。同一账号还用"邓亚萍"带货同款产品,邓亚萍团队回应:同样没有授权AI带货。10月18日白天,平台作出处理,涉事账号被永久封禁、内容清空。蓝鲸新闻红星新闻澎湃新闻

耐人寻味的是,这条骗钱视频本身是"合规标注"过的:下方有一行小字"作者提示:含AI生成内容",这是平台提供的AI内容自声明功能。标注只说明视频由AI合成,不说明"代言"经过本人同意——一行小字,挡不住"明星同款"的说服力。娱乐法律师李振武在点评此事时坦言,明星对这类视频目前相当无力:打官司打不过来,赔偿也不高,造假却因此更加肆无忌惮。蓝鲸新闻知乎

吴越不是孤例。演员温峥嵘刷到“自己在直播”,质问对方反而被拉黑,直言“我现在很难证明我是我”。当仿冒对象从演员一路扩展到运动员,冒名带货已经长成一条灰产,媒体评论点出了治理的尴尬:打击AI假冒,不能只靠"吴越们"喊打。看看新闻北京日报

好在责任链条正在收紧。北京云亭律师事务所律师王琼把这类行为的违法结构拆成三重:未经同意使用肖像和声音,构成人格权侵权;伪造明星代言属于虚假广告,消费者受欺诈购买可要求退一赔三;骗取钱财数额较大,还可能构成诈骗罪。而最高人民法院此前发布的网络法治典型案例已经给出判例:AI仿冒名人带货判赔12万元,商家连带担责。蓝鲸新闻知乎

对普通消费者,识别信号其实就写在内容里:画面是"明星同款",下方跟着"含AI生成"小字提示——这基本等于宣告"代言"未经理性核实;真在这类链接里买了货,记得留证,退一赔三是法律给受欺诈消费者的选项。下一个"吴越"和今天之间,缺的只是那条不写名字的提示词。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章