热榜上这条“AI视频真假难辨了”，并不对应某一个被曝光的视频，而是十月第一周两件事撞在了一起。海外，美国公司 Tavus 在10月1日发布的说明中称，其实时视频模型 Griffin 是首个通过“实时视频图灵测试”的模型：官方口径下，54名受试者在一分钟一对一视频通话盲测中有48%认为对面是真人，而上一代 Phoenix-4.5 系统这一比例只有2.4%（n=41）。国内，10月8日，官方辟谣平台确认疯传的“喀纳斯棕熊索食险酿大祸”图文、视频均为发布者利用AI技术生成、内容系虚假杜撰。两件事指向同一个变化：AI生成视频的逼真度，已经越过“正常刷手机时一眼带过也能骗过去”的门槛；还能不能分清真假，取决于你还愿不愿意做验证动作，而不取决于眼睛。Tavus官网中国互联网联合辟谣平台
48%是真的，但只能读到这里
把数字拆开看，它的适用条件相当苛刻：一分钟通话、54人样本，一家公司发布自己的模型、自己的测试、自己的结论。Tavus 自己也写明了，安全发布还需要进一步的对齐与安全流程，目前对外提供的只是名为 Griffin-Lite 的研究预览版。中文互联网上“近一半人没认出它是AI”的各种说法，源头都是这一组企业自我声明的数据，并非学术同行的验证结果。Tavus官网
所以这个数字的正确读法是：在不带防备、快速浏览的一分钟窗口里，近半数人被骗了——这已经足够惊人；它不等于“AI 现在能在任何时间、任何场合骗过任何人”。反过来，“公司自测”也推不出“风险没那么真”，下面这些已经立案的事会给出另一半答案。
这回为什么是视频通话：“看起来真”升级成了“行为真”
过去几年，普通人识别AI视频靠的是找穿帮：手指、光影、物体的物理一致性；验证手段则是让对方转头挥手，或者直接发起视频通话。这次引发热议的关键变化是，模型开始生成“行为”本身。Tavus 称其架构实时生成720p视频、持续接收并回应对话者的画面与声音，若“动图”破绽被补上，“通话验证”这道防线就失效了。警方早已提示过这种场景：一通“亲友”视频电话、一条“紧急转账”语音消息、一段看似真实的图片视频，都可能被AI技术伪造。央视网
国内的生成模型也在往同一个方向推进。字节的 Seedance 2.0 展现出了极为稳定的运镜效果以及可靠的多模态创作方式，官方放出的一段15秒双人花滑片段里，同步起跳、空中旋转、精准落冰一路完成，未犯此前AI影像常见的物理谬误。面对随之而来的“原创”与“真实”之争，Seedance 团队紧急回应，并暂时叫停了真人素材参考。快手可灵的2.5Turbo版本则在 ArtificialAnalysis 榜单登顶，同时建立了“显隐双重标识体系”。这轮词条走热，不是又出现了一条逼真视频，而是“看起来真”“动起来真”“便宜到能批量造假”三个条件，第一次在同一个时期凑齐了。界面新闻央视网
“真假难辨”早已不是演示，是案子、成本与罚单
逼真度之外，成本也在坍塌。行业测算显示，一部精品真人AI剧的制作成本已被压缩至约1000元/分钟，而这是在 Seedance 2.0 发布之前的数字。更早的媒体调查揭开过一条“人脸定级”链：提供几张照片、签一份授权协议，100元现结；用AI仿真人拍，原本需要一两百万投资的剧，现在只需要十分之一的成本。界面新闻央视网
这些能力早已变成真实的案子和罚单。为吸引流量，有人利用AI工具生成“上海地铁站内顶部大面积坠落”的虚假视频，并发布在其个人微信视频号上，当事人随后被依法行政拘留。央视网
辟谣与通报也在成为常态。开头提到的西安网安通报案例中，乔某为博取关注、吸粉引流，使用AI工具制作多条某品牌新能源汽车存在质量问题的虚假内容，并搭配恶搞音频在抖音平台发布，恶意诋毁相关企业。更早的判决里，湖南耒阳一男子利用AI编造谣言获刑6个月。中国互联网联合辟谣平台央视网
诈骗的账本更大：公安部数据显示，近两年来全国共发生“AI换脸”类诈骗案近百起，累计造成的经济损失高达2亿元。治理端同步加码，广电总局“AI魔改”视频专项治理8月单月就清理视频14000余条，并保持月度公布。央视网央视网
标识已是法定义务，真正的问题出在“洗标搬运”
技术上难辨之后，制度给出的答案是让AI内容“亮明身份”。国家网信办、工信部、公安部、广电总局四部门联合发布的《人工智能生成合成内容标识办法》，已于2025年9月1日起施行。与之配套的是强制性国家标准 GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》，它于2025年2月28日发布，与《办法》在同一天实施。具体到视频，合规生成工具要在视频起始画面和视频播放周边的适当位置添加显著的提示标识，制作端还要把内容属性、服务提供者名称或编码、内容编号写进文件元数据。央视网国家标准全文公开系统中国网信网
平台一侧，核验文件元数据、对检测到生成痕迹却未被声明的内容标注“疑似生成合成内容”，已是明文义务；任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，同样写在条文里。监管堵的重点正是洗掉标识的搬运链条：今年3月，中央网信办提出对短视频内容标注的全面规范，将内容标注设为发布的必经环节，并对存量内容分批回溯、补充标注，推动应标尽标。中国网信网央视网
本月启动的“清朗·整治短视频虚假人设乱象”专项行动进一步收紧：对未按要求进行内容标注的虚假人设类短视频，依法从严处置。行动通知同时明确，不得借已标注虚构演绎、AI生成、营销、转载、个人观点等内容标签，规避治理要求。换句话说，治理逻辑已经从“是不是AI生成”，进到“发布的人有没有说清楚”。中国互联网联合辟谣平台
普通人剩下的三道防线
第一道是看标，但要用反直觉的方式用：有标不能直接当假——摆拍、真人素材被AI二次加工都会挂标；没标更不能再当真人——标识可以被录屏、二剪、跨平台搬运洗掉，而洗标正是监管点名处置的行为。
第二道是“带外验证”：凡是不请自来的“熟人视频来电”催你转账、配合操作，挂断后用通讯录里原有的号码回拨一次；热点事件视频，先查同源通报和官方辟谣平台，再决定转不转发——别用对方递来的渠道验证对方，这也是网警提醒里“四不一核实”的核验逻辑。央视网
第三道是用工具。国家反诈中心App已上线AI内容鉴定功能，支持图像、视频等内容的AI识别检测，相关报道里，平台安全团队的鉴伪思路也被概括为“以AI治AI”。央视网
“AI视频真假难辨了”这七个字是准确的，但需要补上后半句：它骗过的是随手刷，不是认真查。眼见不再为实，不代表真假无法分辨，而是分辨的成本从“眼睛”永久转移到了“动作”上——查标、带外回拨、鉴定工具，三道动作的成本都不高，它们决定你在下一波以假乱真的视频里，能不能站到那48%之外。
