10月18日凌晨三点,演员吴越发文质问:“一觉醒来,谁在利用AI肆意抓人替自己作恶?”一个叫“花姐美肤日记”的账号,用AI换脸加声音克隆,把她做成了护肤品带货主播。央视后来披露,这个直播间近30天卖出6732件,同款商品累计销量16492件,估算销售额超过130万元。更值得琢磨的是,那条假视频带着“含AI生成内容”的提示。标识有了,还是有人下单。央视网
如果说吴越案是“假得很清楚”,那韩国男团TXT成员崔秀彬的遭遇,就是“真假都有人喊”。10月19日起,网传一组疑似他美巡期间的私人照片。粉丝对照公开行程列出疑点:2025年美巡时他是金发,图中人物是黑发;他左臂有痣,图中没有;背景插座不是美国制式。粉丝整理的证据里还提到,图片疑似AI合成。10月22日,经纪公司BIGHIT MUSIC发公告,称网传内容为谣言,将对恶意传播者采取强硬法律手段,不接受和解。但公告说得很笼统。围观者只靠一方说法,很难下结论。微博新浪微博
爱豆的照片和视频本来就有精修、滤镜、舞台妆造,AI的破绽很容易被当成“修图修出来的”;再加上粉丝的情感投入,“信什么”往往先于“看到什么”。这就是为什么,普通人需要的不是“一眼鉴AI”的本事,而是一套不容易被牵着走的核验顺序。
第一层,先看“谁在说、想让你干什么”。是本人、工作室、认证媒体,还是刚注册的小号?是要你相信一件私事,还是要你下单、转发、加群?吴越那条假视频,最后落在“下单”;崔秀彬照片的争议,最后落在“信不信、转不转”。目的不同,核验重点也不同:涉及钱,先查授权;涉及私密内容,先别转。
第二层,查证据链,而不是只查画面。先去翻原始发布和完整上下文,看看首发账号还在不在,再找其他可信媒体有没有独立报道。2025年9月起,《人工智能生成合成内容标识办法》施行,AI生成内容要加标识、亮明身份。但标识可能被裁剪、遮挡,也可能被人当成“免检章”——吴越那条假视频就是例子。截图会丢元数据,检测工具给的也是“含AI生成痕迹”这类概率判断,不是判决书。国家反诈中心App今年上线了“AI内容鉴定”,支持图片、视频等内容的AI识别检测,可以作为第一道筛子,但别把它当成最终结论。央视网微博
第三层,才看画面和声音的硬伤。先看手指、牙齿、耳朵和发际线:手指数量不对、关节扭曲,牙齿糊成一片,脖子和脸的交界处有抖动或色差。再看整体:光影方向和背景对不上,背景文字糊成乱码,眨眼要么太频要么太僵,口型对不上,声音断句机械。照片还可以看发色、痣、插座制式这类“跨图一致性”——崔秀彬粉丝用的就是这套办法。但这些都只是线索,不是铁证。技术迭代很快,单点破绽会越来越少。知乎
最后一条,也是最有用的一条:对私密内容,不转发;对低价带货,不付款;对“独家爆料”,先等官方。辨真的终点,不是把自己练成鉴定师,而是不让自己成为传播链和收款链上的一环。
看见的不一定是真的。但“先不信”,是你现在就能做到的事。