10月18日凌晨，演员吴越发文揭露"花姐美肤日记"账号以"明星同款、吴越推荐"为话术，用AI换脸加声音克隆仿冒她推销护肤品。 真正扎眼的是另一行小字：涉事视频下方标注着"作者提示：含AI生成内容"，却依然正常发布、正常带货。 事发当天下午，微信团队回应媒体，账号已被永久封禁、内容清空不可见。 但话题下的追问没有停在封号上：有用吗，钱能追回来吗。第一财经蓝鲸新闻财经网科技
换脸直播不是新事物，平台也不是没有审核。把流程拆开看，"慢半拍"不是某个环节失职，而是三道防线各自留着结构性的空档：造假已经产业化、实时化，拦截却还建立在关键词过滤、发布者自声明和事后抽查这些可以被绕开的支点上。
一张照片、几十块钱：假脸的成本塌到了底
蓝鲸新闻记者做了一个很能说明问题的实测：在主流AI视频工具里把提示词中的明星姓名和身份描述删掉，只留画面要求和带货口播，系统就顺利生成了带货视频。 拦截的是"姓名"这个文字关键词，不是人脸本身——守住这条线并不需要多高的技术，只需要一次复制粘贴。蓝鲸新闻
第一财经此前调查发现，电商平台上提供人脸替换、声音克隆和视频制作服务的商家已经摆上了货架，部分换脸视频报价仅数十元到数百元。 到具体档位，价格同样透明：普通还原度一分钟150元、半分钟75元，要求面部表情和动作"更自然真实"的涨到700至1000元。 而记者问"哪些明星能做"，多家商家的答复几乎一致：“什么明星都可以。”第一财经蓝鲸新闻
实时直播这一侧的门槛也在塌。有技术博主实测了云端实时换脸链路：摄像头供帧、云端GPU生成新帧、WebRTC传回浏览器，公开规格已经到25帧、1280×704。知乎
延迟才是直播的生死线。同一实测里，端到端延迟在200毫秒上下，主观上已经够直播使用。 目前公认的主要短板不在"像不像"，而在剧烈姿态下的画面稳定性——这恰恰是直播场景里最容易回避的问题：固定机位、半身出镜，一次调通，之后的每场直播都是近乎零成本的复制。知乎
三道防线，各留一个缺口
第一道在生成端，工具自己的关口就守不住。中新经纬记者实测，在可灵平台提交两组"医生荐药"需求，约2分钟内全部生成视频，全程没有任何拦截。 素材从源头上就以"干净"的形态流出，下游审核面对的永远是新面孔。36氪
第二道在发布端，它的悖论在吴越案里暴露得最彻底：那条带货视频脚下的AI标注，来自平台提供的"作者提示：含AI生成内容"自声明功能。 自声明意味着标注者和被标注者是同一个人，风险提示就这样退化成了免责摆设。规则不是没有牙齿——《人工智能生成合成内容标识办法》施行后，AI生成的肖像视频未标注可面临最高10万元罚款；2026年4月，“剪映”"猫箱"App及"即梦AI"网站就因未有效落实标识规定被网信部门依法约谈、责令改正、警告。 执法在收紧，但存量内容的甄别仍卡在技术这一头：信通院工程师把治理路径概括为"证真"与"鉴伪"两类，后者要从纹理异常、光影偏差、生理特征失真入手——识别的难度天然高于生成的难度。蓝鲸新闻中国新闻网36氪
第三道在直播端，流程本身是"机器先筛查一遍、人工二次确认"，重点查处未授权换脸引流和AI伪造人脸带货。 但抽查正在被"教程化"。给无人直播商家支招的自媒体教程，把平台的随机真人核验写成明码的规则：抖音是120秒活体检测、真人到场即可通过，视频号是180秒真人出镜报时验证。 同一篇教程紧接着给出对策：声纹、音频、画面三重去重躲开历史比对，弹幕自动触发三种真人预录回复制造互动假象，再安排真人"轻值守"在校验环节到场兜底。这些细节没有平台背书，但它的存在本身说明：绕检已经成了可分发的方法论，核验在升级，对抗也在升级。知乎知乎
机器管不到的缝隙留给了时间。温峥嵘团队曾在一天内集中举报50个假冒账号，部分账号刚被下架就"换壳重生"。 而造假者专挑监管人力最薄的时段下手，喜欢在凌晨3点、4点大家都在休息时开播，打的就是时间差。光明网中国新闻网
把几组数字放在一起，空档为什么补不上就直观了：冒用公众人物带货按现行标识规章最高罚10万元。 而吴越案里这一条带货视频，近30天已售出超过7000单，按标价与销量估算销售额约50万元。 一次下架损失一场直播，一次放行换来整个月的流水，赌的就是审核追不上。中国新闻网蓝鲸新闻
规则的重心：从"标注"转向"定责"
2026年9月7日，最高人民法院发布关于依法审理涉人工智能纠纷案件的意见。新华网
裁判标尺就此立清：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害。 这一条打掉的正是灰产最常用的挡箭牌——“我没用他名字”。新华网
消费者手里的抓手也更实了：受欺诈购买的可要求退一赔三，骗取钱财数额较大的可能构成诈骗罪，连提供换脸技术服务的商家也可能担责。 刑事一侧已有刻度：南京符某利用AI换脸软件登录被害人支付账户盗刷，被以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚判处有期徒刑4年6个月。 "清朗·整治AI技术滥用"专项行动第一阶段则累计处置违规AI产品3500余款、清理违法违规信息96万余条。蓝鲸新闻中国新闻网中国新闻网
对平台，新规把"装睡"写进了责任：接到权利人通知后不及时删除侵权内容的，对损失扩大部分要承担连带责任。 这直接回应了"封号有用吗"的追问——封号只是止损的起点，平台在知晓之后的反应速度本身开始有法律价格。生成端也在收口：字节旗下即梦App和豆包App推出本人活体认证，录音录像校验通过后，用户只能生成自己的数字分身。蓝鲸新闻知乎
对普通用户，什么信号真的有用
警方科普给出的肉眼线索很具体：AI换脸的直播画面，转脸时侧脸会发虚，上下左右晃动会冒出虚影。 不想自己判断的话，国家反诈中心App已上线AI内容鉴定功能，支持对图像、视频做AI识别检测。光明网中国新闻网
而"这张脸有没有授权"正在变成可对照的市场事实：游本昌把肖像和声音授权给AI微短剧，戚薇推出了官方数字分身，2026年9月何晟铭成为内娱首位把面部形象授权给AI剧的男演员。 合法授权与盗用的差别不在画面像不像，而在账号背后有没有那份合同。消费者查不到合同，但可以查另一组信号：挂着"AI生成内容"提示却以第一人称"背书"产品效果的直播间、话术与商品信息对不上的"明星同款"，都值得默认存疑；下单后发现问题，保留录屏和订单凭证，退一赔三是有明确法律依据的诉求。知乎
边界也要说清：吴越案的销售额是记者按公开页面估算的数字，尚无执法机关的涉案金额通报；直播核验的秒数与绕检对策出自给商家支招的自媒体教程，未获平台证实；"机审在前"的漏检率没有公开口径。这些数字宜按量级理解，但它们不影响结论：审核慢半拍，不是因为平台没装防线，而是三条防线建在拦词、自报、抽查这些可绕开的支点上。把支点换成标识执法、定责连带和生成端实名认证，审核才有追上的可能——吴越们的追问，和已经写进司法文件的每一句话，都在把这个方向往前推。
