吴越发声背后:普通人如何识破AI假冒换脸视频?

源自73位全网作者

10-18 18:38

10月18日凌晨,演员吴越发文质问仿冒者,一句“一觉醒来,谁在利用AI肆意抓人替自己作恶”把AI假冒明星带货的灰色链条再次摊到公众面前。到当日上午,微信团队确认发布假冒视频的“花姐美肤日记”账号已被永久封禁、内容清空。账号封得快,但问题留给了每一个刷视频的人:普通人到底怎么识破这类AI换脸视频?可行的路径是三步——先找标识,再看破绽,最后核对动机和钱。南方都市报财经网科技

这条视频里,“吴越”声称“这个产品不是他们找我,是我找他们”,以“拍一发30”“孕妇妈妈都能用”推销护肤品,片尾还拼接了“邓亚萍”的带货画面,而视频下方标注着“作者提示:含AI生成内容”。南方都市报

造假门槛比想象中低

蓝鲸记者10月18日实测了多款国内AI视频生成工具:在提示词里写明明星身份会被以版权为由拒绝,删掉姓名、只保留照片和带货口播文案,系统就顺利生成——审核“拦截的是‘姓名’这一文字关键词,而非照片中的人脸本身”。红星新闻

定制生意已经明码标价:普通还原度的换脸视频一分钟150元,要求真人感还原面部表情和动作的,报价涨到一分钟700元至1000元;南都记者此前实测,上传3秒原声、几分钟就能克隆音色,二手平台的声音克隆服务每50字收费不到1元。一张公开照片、几百块钱,就足以让“任何明星”出现在带货视频里——“眼见为实”在这个价位上已经失效。红星新闻

第一道线索:找“AI生成”标识

自2025年9月1日起施行的《人工智能生成合成内容标识办法》,要求服务提供者对文本、音频、图片、视频等生成合成内容添加显式标识,并在文件元数据中写入隐式标识。所以刷到“名人带货”,先检查画面角标、文案区和片尾有没有“AI生成”“合成内容”类提示。人民网

但反推不成立:没标不等于真人。同一部办法明令,任何组织和个人不得恶意删除、篡改、伪造、隐匿AI内容的生成合成标识,而违规者恰恰最清楚标识会挡掉生意。人民网

第二道线索:看脸、听声、盯动作

AI合成视频常见面部表情僵硬、眨眼不自然、口型与声音对不上、画面模糊卡顿等问题。克隆声音则缺乏自然的情感起伏和呼吸停顿。看脸也有窍门:AI数字人的面部往往高度对称,而自然人会因为生活习惯留下生理性的微差。此外,人物说话时反复出现完全一致的固定动作、肢体摆动幅度分毫不差,大概率也是AI生成的。光明网人民网法治日报

直播场景里还有一招被专业人士称为目前最有效的物理鉴定方法——“遮挡测试”:AI换脸最惧怕遮挡,算法需要持续锁定面部特征点,要求对方在脸前挥挥手或拿杯子喝口水,手指、杯子扫过面部的一瞬间,脸往往会出现扭曲、闪烁,手指边缘变得模糊或与面部发生融合。法治日报

第三道线索:核对钱和动机

破绽会随模型迭代越来越少,最不容易过时的判断反而是动机。明星亲自“找上门”推一个不知名产品、“拍一发30”的低价噱头、“孕妇都能用”的绝对化话术,都不符合正常代言的合作模式。内蒙古检察机关办案人员提醒,只要对方提出转账、提供银行卡信息等涉及钱财的要求,必须立刻提高警惕;遇到陌生视频,先通过明星官方账号、品牌官方渠道等权威平台交叉验证,别急着买、更别急着转。法治日报

怀疑内容造假时,可以把截图或视频上传国家反诈中心App,其5月上线的AI内容鉴定功能支持对图像、视频进行AI识别检测。已经造成损失的,留存原视频、链接和支付记录等证据,及时向平台投诉举报,情节严重的向公安机关求助。中国之声

封号之后

这不是明星第一次为AI换脸发声。2025年11月,演员温峥嵘刷到假冒自己的直播间,上前质问反被拉黑;抖音电商随后启动专项治理,处置涉及侵权仿冒违规的达人账号1.1万个。今年4月底,中央网信办又部署开展“清朗·整治AI应用乱象”专项行动,生成合成内容的治理正在常态化。南方都市报新华网

对平台而言,封一个账号是最容易的一步,拦住“只认姓名、不认人脸”的审核逻辑才是补齐短板的真正考题。对用户来说,结论可以压缩成一句话:见标先疑,无标也疑,涉及钱就换渠道核实。而那些批量生产“假吴越”的人要明白,直接实施诈骗会被以诈骗罪严厉惩处,明知他人利用信息网络犯罪仍提供AI换脸、声音合成等技术帮助的,同样可能涉嫌帮信罪等罪名。人民网

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章