9月12日,知乎热榜上多了一个问题:『布朗尼盯』视频系AI生成。更扎心的是平台自己的勘误——“勘误小编也被AI骗了!”。也就是说,连专门负责"别让大家被骗"的人,都被一条生成视频骗到了动笔写热度的程度。知乎
把时间往前拨一周,9月4日,“特朗普怎么了"挂了一下午热搜。直接导火索是一段"特朗普摔倒"的5秒视频:双腿发软、瘫倒在车旁、被特勤局保镖紧急扶起,还贴上了类似新闻直播的"BREAKING NOW"字幕,发布后迅速获得数百万次的播放。原素材其实是他正常抬腿上车离开白宫的一个多月前的旧画面,一路发酵成"重病送医"甚至"已去世”。微博微博
第三件事更贴近你我的钱包:江苏常州一个自媒体博主发了条"千里送娃上名校",戳中多少家长的神经,转发刷屏之后,被官方确认系AI生成。微博
这一批"被AI视频骗了"的案例里,我把9月份公开可查的翻了个底朝天,一共6条。结论先放这:骗成你的,没有一条靠画面,全部靠情境。
一、9月"翻车清单":6条,一条条对
视频 | 骗的是什么 | 怎么翻车的 |
|---|---|---|
『布朗尼盯』球星名场面 | 玩梗心理,“他真敢盯” | 9/12知乎热榜:系AI生成,原型为drake,连平台小编都中招 |
“AI网红Ivy Vale采访布朗尼” | 美人脸+名人同框 | 9/12体育博主晒图:“真的很难看出来是虚拟的” |
"特朗普摔倒"5秒视频 | 突发新闻的直播质感 | 9/4多位科技博主扒出:旧素材AI篡改+假字幕,原版根本没摔 |
丽江"豹子出现在村民家" | 安全恐慌 | 9/5玉龙警方:2人用AI编造视频博流量,已被行政处罚 |
常州"千里送娃上名校" | 教育焦虑 | 9/11法治日报:确认系AI生成 |
"网飞日剧"质感切片 | 对"高清剧"的审美惯性 | 9/9知乎用户自己发帖:“以为刷到网飞日剧,没想到是AI” |
6条里,4条吃的是"情境红利":新闻字幕、恐慌、焦虑、梗。靠特效和颜值硬骗的,0条。其中两条的后续很实际:丽江"豹子进村"的两名制作者,已经被行政处罚。这才是今年和往年最不一样的地方——2024年你刷到AI视频,第一反应是找穿帮;今年你刷到AI视频,第一反应是"哦,那又怎样"。微博
二、老办法为什么集体失灵
数手指、看文字,已经基本报废。 今年模型迭代的主线就是把老穿帮点逐个填平,Seedance 2.5这类模型被创作者玩成了随手出片的水平。小红书9月11日有用户发帖,说朋友发来的AI图片"真的有点看不出来啊"。更微妙的是,B站"分辨AI小猫"挑战播放152万,蛋仔派对的"只有一个视频不是AI"找不同帖评论区273条吵成一团——当"猜哪个是AI"本身成了流量玩法,说明肉眼正确率已经接近抛硬币。知乎小红书

看水印,是跨平台时代最大的幻觉。 有一个传播很广的案例:B站有人翻译搬运"巴西名宿联合声明反阿根廷"视频(含卡卡),传得有鼻子有眼;辟谣博主挖出原视频来自油管某AI账号,油管界面上明明有AI提示,翻译二压、换个平台之后,提示没了。AI标注和水印都是平台层承诺,不是视频文件的一部分,每转发一次就丢一次。微博
有标签,也不等于不骗人。 九派新闻那条更绝:张雪机车门店的"女员工手劈6块砖"视频,画面上其实标注了AI生成,结果照样被当真实宣传物料传播,逼得门店专门出来辟谣。标签的存活率和水印一样——它赌的是你会在原生平台、完整界面里看完这条视频,而你的传播链条里,没人有这个义务。哔哩哔哩
骗得最狠的都是抢时效的号。 特朗普那段的辟谣帖点赞破千,但吃瓜群众早已看过假版并形成了印象;编辑勘误永远在首发之后。虚假视频天然踩着"快"传播,你看到它的时间点,几乎永远在辟谣之前。
三、把刷到的内容分成三个盒子,最后一种才需要上脑
娱乐盒子:照单全收,不需要反诈心智。 B站AI短片区,《槐灯》播放506万、收藏21.3万。《永生世界》正片直接声明所有视频与音频内容均由AI生成,系列已经做到第四集、单集380万播放。AI番已经有了固定追更的观众,"AI感"不再是观看门槛。刷到好玩的AI短片、AI漫剧,甚至那位网友亲眼数出来、872集连更的AI短剧《假千金带崽发家致富》。享受就行,愤怒不改变任何事。但代价在后面:看AI看习惯了,你对"真实画面"的直觉也被悄悄重置了。哔哩哔哩哔哩哔哩微博
公共新闻盒子:这里才是AI假视频的重灾区。 涉及"人摔倒、猛兽出没、灾难现场、执法行动、名人健康"的视频,眼睛只配投票,出处才配盖章。判断成本其实很低,按下面四步走:
找原版:以图搜视频、搜完整长版。AI假视频最怕"前后文"——特朗普那条,原版一帧"正常上车"就废掉了整段谣言;
对官方:动物找林草和应急通报,人物找本人账号,事件找属地发布。丽江豹子案里,警方核查是事后,但当地林草部门有没有通报"豹子进村",你当下就能搜;
查标注:画面角标、平台声明行、文案说明,三处全无还让你"震惊"的,直接按存疑处理;
翻辟谣源:央视网、微博辟谣官方账号、公安部网安局的月度案例。今年6月15日,公安部网安局公布了10起打击整治网络谣言违法犯罪典型案例,AI编造已经是标准配置项。央视网

钱的盒子:警惕一切"逼你立刻掏钱"的AI视频。 涉企这条,已经被写进损失清单:一段声称"东鹏特饮创始人不喝自家饮料"的虚假视频流传网络,让该公司A股和港股持续下跌,一周市值合计蒸发超70亿元。比亚迪则把黑公关线索的悬赏从5万一路推到500万、长期有效。你如果是持股人:任何让你想"现在就跑"的高管塌房视频,先等上市公司公告,别等情绪。买课党同理,"AI人设网红"卖货、焦虑向"送娃视频"引流,卖的都不是货,是你来不及查证的那三秒钟。微博
四、这个赛道接下来看什么
供给侧没降温:广电总局的"AI魔改"视频专项治理从1月开展后转入常态化,重点清理基于四大名著等经典影视剧的改编,7月清理违规视频13300余条、处置违规账号30余个,8月又清理了14000余条,环比不降反升。平台在追着删,模型在加速生。微博央视网
标签执行的最大缺口在跨平台:《人工智能生成合成内容标识办法》自2025年9月1日起施行,到现在快满一年,原生平台内的标注基本铺开了,但二创、翻译、搬运链路里的标注丢失,是今年几乎所有翻车案例的共同环节。知乎
模型侧要盯"新闻感":MiniMax H3这类开源全模态模型把产能往个人显卡上搬,Astra式"先设计,再生成"的产线在把镜头语言工程化。下一波骗人的素材,会专门模仿手持、抖动、低码率——越糊越像真的,这六个字请记住。微博微博

一句话收尾:眼见为实这套系统用了四十年,今年是集中过期的。在一个什么都能生成的时代,最后一条免费防线就五个字——先溯源,再转发。
最近一个月,你被哪条AI视频骗过(或者差点骗过)?来评论区对一下清单,我看看今年"中招率"最高的是哪个盒子。