近期在社交平台大范围传播的一组"粉红豹"人偶破坏监控、直面防暴警察、手持步枪并配以示威冲突视频转发的图片,收获数百万浏览量,一度被当成法国骚乱现场实拍。10月21日,总台环球资讯公布了核查结果:这些图像均被确认为AI生成或篡改,并非真实事件记录。这组骗过数百万人的图片,没有任何一张经得起"它从哪来"这个问题——日常冲浪里最实用的鉴别机制,恰恰也藏在这个问题里。新浪热点
骗过多数人的两类假图,都不靠"逼真"取胜
这批假图分两类。一类是纯生成:核查人员借助谷歌旗下AI生成内容检测工具SynthID检出图片内嵌的AI水印,再以图搜图溯源,确认图片出自Instagram账号@aliframez,该账号专门创作流行卡通人物身处虚构骚乱场景的AI画作。新浪热点
另一类更迷惑:篡改。"粉红豹被警察拖拽过街道"那张流传最广的图,原图是2025年一场足球比赛前警方抬走一名男子的实拍照片,AI只替换了人物主体,背景、光线、围观人群全部是真的。新浪热点
同一轮法国抗议浪潮里,另一种假法甚至不需要AI:一段"示威者闯入巴黎证券交易所"的视频被冠以"突发新闻"当作2026年事件传播,经路透社核查实为2023年4月反对养老金改革抗议的旧影像,巴黎警察局发言人也证实本轮抗议期间交易所未发生此类活动。新浪热点
更难的是,离谱的不一定是假的。BBC Verify同时提到,法国近期抗议现场的真实影像里,确实有示威者装扮成美国队长、超人等虚构角色参与游行,容易与AI虚构画面混淆。这意味着"一眼假所以是AI"和"看起来真所以是真"两条捷径同时失效,凭观感下判断的时代已经结束。新浪热点
核查团队用过的三步,恰好都是普通人做得到的
第一步是溯源,问"最早是谁发的"。 专业核查靠以图搜图找到@aliframez,普通用户同样可以:任何声称"现场实拍"的图,搜不到首发、只有转发没有原始出处,本身就是最强的存疑信号。刷屏速度反而是线索——同一事件当天全网冒出多张"独家现场",多半有假。
第二步是找同场景的独立记录比对。 路透社识破旧视频的方法,是拿2023年4月当天的现场影像逐一比对建筑环境和出镜人物;巴黎警察局发言人的表态,则相当于当地官方视角。普通用户的等价动作是:重大冲突、事故类画面,先看权威媒体和当事机构(警方、政府部门、场地管理方)有没有对应记录,只存在于单一账号叙事里的"现场",先按未证实处理。
第三步才是技术辅助,而且它有明确边界。 国内监管层面,《人工智能生成合成内容标识办法》已于2025年9月施行,要求对生成合成内容添加显式标识,并在文件元数据中添加隐式标识。但两条边界必须清楚:截图、裁剪、压缩会带走角落里的"AI生成"字样和文件元数据;即便标识完好,也不等于内容可信——中新网调查AI卖惨账号时发现,不少涉事账号确实在视频角落打上了"AI生成"水印,老人照样受骗。所以"有没有标"只能当提醒信号,既不能因为有标就绕过硬货,也不能因为没标就当真。中国新闻网中国新闻网
机制的核心不是"会看穿",是管住转发的手
假图为什么总能借到势?辟谣报告的提示说得很直接:AI图片依附真实社会事件快速扩散,卡通形象与冲突场景的强烈反差极易吸引转发;即便原始帖子标注AI生成,图片在二次转发、脱离原始上下文后,相关标注信息往往丢失。换句话说,你刷到的每张热图,其"真实性"主要由配文赋予,而不是画面本身。用户侧对此早有感知,"一打开全是这种AI假脸"的抱怨在社交平台并不少见。新浪热点小红书
鉴别不可能、也不值得每张都做,省力的办法是按用途分级:只是刷着玩,看个热闹无妨;一旦你准备把这张图当作"证据"形成观点、发帖或转进家庭群,才值得花一分钟做三个自问——搜过最早出处吗?当事机构和主流媒体有对应记录吗?这条内容脱离原始语境了吗?至于影响行动决策的素材(商品实物、房源、灾情、冲突现场),核验等级要再升一档:以官方渠道和原始发布方为准。而对单纯挑动愤怒、猎奇、恐慌情绪的热图,直接调低权重就是回报率最高的动作——假图几乎都走情绪路线,情绪越强、出处越模糊,越是同一枚硬币的两面。
这轮"粉红豹"算是幸运样本:几天内就被专业团队点名辟谣。更常见的处境是,假图传开后永远等不到更正送达同一批人。所以内容鉴别机制的价值从来不是识破每一张假图,而是让你自己的转发不再成为它的放大器。