2025年AI深度伪造视频激增900%，全球金融诈骗损失超2亿美元_理财

1. 你的声音怎么被克隆的？谨防AI诈骗

2. 腾讯、抖音、快手、B站、DeepSeek等平台官宣

3. 不让科技“偷走”隐私！快来查看AI伪造、智能设备风险防范指南！

4. 【#AI 新规让虚假内容无处可藏# 】#AI生成内容必须亮明身份# AI技术滥用的乱象频繁发生，谣言、假新闻、仿冒名人等欺诈事件更是让人防不胜防，普通人很难分辨真假。今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》，从9月1日起正式施行，所有AI生成的文字、图片、视频等内容都要“亮明身份”！那么，新规的出台，将对当前AI技术滥用所引发的乱象起到什么治理效果呢？CCTV法治在线的微博视频

5. 【#平台将核验AI生成内容为其打标##多平台为AI图文视频打标#】从9月1日起，国家网信办等4部门联合发布的《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等内容必须“亮明身份”，防止虚假信息传播。在一家AI通用人工智能公司，研发工程师曹舰航向记者现场演示了平台的AI内容标识全流程。打开创作者后台，当用AI工具生成一段短视频后，视频右下角立即自动出现“AI生成”字样。此外，平台还会在文件代码中嵌入专属“数字水印”，也就是隐示标识，为跨平台监管与溯源提供技术支撑。不仅是AI生成工具平台，内容发布平台也构建了“主动声明+平台检测”的双重标识机制。目前，腾讯、抖音、快手、B站、微博、DeepSeek、昆仑万维等平台均已通过官方渠道发声，明确已对AI生成内容同步添加显式与隐式标识。行业也在探索推进AI标识技术标准化。抖音工作人员介绍，如果创作者未主动标识，平台也将通过元数据核验隐式标识或者模型技术检测站内未主动标识的内容是否由AIGC（生成式人工智能）技术生成，对元数据中已包含AI内容标识或疑似AI生成的作品补充添加显示标识。专家表示，“标识办法”出台将促进AI内容生成行业良性发展，弥补了过去内容生成容易，但追究责任困难的短板，把辨别的责任从普通的用户转回到了更加专业的系统，显著地降低了谣言、诈骗等社会风险。央视财经的微博视频

6. #微博声浪计划##听见微博# 网警查处一起AI生成虚假低俗视频案，36岁男子李某为炫技伪造视频被行拘10日。案件暴露AI造谣治理难点，需强化标识标注与技术反制。公众应警惕逼真画面，企业可借鉴小鹏高效维权经验，共同防范技术滥用风险。科技晓鑫的微博音频

7. 【张捷杂谈】AI深伪视频让视听公信力巨降#张捷杂谈##热点观点##马来西亚议员遭AI深伪视频勒索# 据报道，马来西亚 10 余名议员近期遭 AI 合成不雅视频敲诈，勒索方索 10 万美元，议员拒付并报案；今年初该国多名官员也曾被用 AI 换脸视频诱骗民众投资。深伪视频可冒充政要行骗，且因公众人物信息易获取更易伪造。其还引发鉴定难、真假视频难辨、传统证据效力下降等问题，技术发展超法律制度更新，冲击社会公信力体系，如何建立该体系需广泛评估研究。张捷观察-谁是谁非任评说的微博视频

8. 原告向法庭出示带豆包生成伪证被训诫，这一处罚合理吗?若未来 AI 造假无破绽，司法与公众该如何应对？

9. 【3人使用AI捏造网络谣言10万余条】央视曝AI引用谣言传播链条今年6月，上海静安警方查处了一起编造“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”的谣言案件。涉案的3名人员每天在网络上查找各种热点事件和消息，通过向AI工具输入关键词，自动生成文章，拼凑出了一条包含“知名三甲医院”“前院长”“客死他乡”等吸引眼球的谣言信息，仅24小时之内，相关谣言的不同版本就在网上被大量传播，造成了恶劣的社会影响。法姐讲法 #法治微课堂# 央视网的微博视频

10. 【#AI明星拜年可能存在法律风险#】据中央广播电视总台中国之声今日报道，临近春节，短视频平台上掀起一种别样的“拜年方式”。熟悉的影视巨星、体坛健将、商界名人，甚至历史人物在屏幕里“拱手作揖”并说着吉祥话。数字经济学者刘兴亮表示，这些视频的核心是当前人工智能最前沿的深度合成技术，包括两个关键部分：视觉合成、语音合成。其中，视觉合成即“AI 换脸”或 DeepFake（注：深度伪造，简称“深伪”）等技术，其利用深度学习和计算机视觉算法，通过大模型学习真实人物的面部特征、表情、嘴型等信息，然后将这些特征合成到新的素材中，从而让画面看起来像是真人在说话。而语音合成则是模仿名人的声音、语调甚至语气，使 AI 生成的声音更逼真。将两者结合起来即可生成“AI 拜年”短视频。中国政法大学人工智能法研究院院长张凌寒表示，未经他人授权直接使用相关权利人的肖像和声音，侵害了当事人的人格权，其中包括肖像权、声音权。声音的权利也参照肖像权保护的相关规定。若合成的声音可能涉及造成他人侮辱、诽谤，损害他人声誉，可能构成名誉权侵权。如果使用的声音来自受著作权保护的录音制品和作品，或者说他人声音已经被注册为商标了，可能还涉及侵害著作权和商标权等。如果使用他人声音，又没有经过他人同意，也违反了行政法规的相关规定。此外，《互联网信息服务深度合成管理规定》也明确，提供人脸、人声等生物识别信息编辑功能的，应当提示使用者依法告知被编辑个人，并取得其单独同意。刘兴亮表示，正规的大型 AI 服务平台和一些专业的视频合成工具，已经开始尝试加入一些防止滥用的机制。比如强制添加 AI 生成标识或者水印，让观众一眼就能分辨出这是合成内容。还有在用户协议中明确禁止未授权使用他人的形象和声音。部分平台还在后台建立了内容检测和过滤机制，利用 AI 自身来识别疑似深度合成的视频。但真实情况是，现在仍然有很多工具没有足够的防护机制，特别是一些开源模型或者小型应用，可能根本没有添加标识或者监管的限制，给滥用留下了空间。中国政法大学知识产权中心特约研究员赵占领表示，必须履行好主体责任，建立全链条管理机制。AI 的经营者、平台企业应当尽到主体责任，应当严格落实相关的管理办法所规定的标识义务；要提供便捷的工具，也应建立事前提示、事中审核和事后追溯的完整机制；在接到权利人发出的侵权通知之后，应当及时采取删除等措施；如果没有采取相应措施，应当就损害扩大部分承担连带责任；公众也应当增强法律意识。（IT之家）#一年一度新知大会#

11. 「小白」全军覆没？五大旗舰AI防诈横评！

12. AI“深度伪造”名人声音带货被判侵权，商家赔礼道歉并赔偿 12 万元近日，北京互联网法院审结一起涉 AI“深度伪造”名人声音带货的人格权侵权纠纷案件，法院最终判决商家赔礼道歉并赔偿损失。法院判决认定 AI 合成声音具备可识别性即可落入权利人声音权益的保护范围，未经权利人许可的使用构成侵权，商家委托平台“达人”共同以推介商品为目的发布带货视频、获取相应收益，未尽到合理的审查注意义务，应对受托人制作、发布侵权视频的行为承担连带责任。#胡先煦拉黑cpf#

13. 【#对于AI深度伪造有了红线#】本月开始，所有备受原创内容的AI侵权之扰、深受AI造假资讯困扰之苦的群体，迎来了福音。9月1日起，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行。这一新规的关键变化在于：从国家层面明确要求，所有AI生成的文字、图片、视频等内容都要“亮明身份”。此次的“标识办法”界定，所谓“人工智能生成合成内容”，是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。而所要求的“标识”则包括显式标识和隐式标识。办法要求，平台在服务提供者的内容上架或上线时，有责任进行审核，核验生成合成内容标识。一旦发现未标识或疑似生成内容，则须添加风险提示，从而在传播端阻断虚假信息扩散。这一“标识办法”的出台，实现了同《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规的充分衔接与补充，将为“AI创作”（特别是某些所谓“二次创作”）画出一条明规亮矩、定分止争的红线。#洞见计划# 对于AI深度伪造，有了红线

14. 【不让科技“偷走”隐私！网警发布AI伪造、智能设备风险防范指南】刷脸支付、AI视频、智能管家……科技让生活更便利，但也带来了新的隐私“陷阱”。AI伪造身份诈骗、智能设备“偷听”事件，个人信息安全正面临前所未有的挑战！别担心，这份通俗易懂的防范指南教你筑牢个人信息防护墙。#网警发布防范指南不让科技偷走隐私# 不让科技“偷走”隐私！网警发布AI伪造、智能设备风险防范指南

15. AI存在伪造信息、滥用数据等风险。国家人工智能安全治理框架2.0版正填补空白。#大咖观察 #红衣聊AI #网络安全

16. #AI生活指南# AI 语音深度伪造已实现实时突破当电话那头传来亲友焦急的求助声，你敢相信这可能是 AI 伪造的吗？网络安全公司 NCC Group 的研究敲响警钟：AI 语音深度伪造已实现实时突破，普通笔记本电脑就能以低于 0.5 秒的延迟复刻逼真声音，诈骗成功率近乎满分。这种技术并非魔法，核心是三步偷声术：首先通过社交平台录音、直播片段等渠道收集目标声音样本，如今仅需 3-5 分钟音频就能完成基础克隆；接着 AI 提取音色、语调等音指纹转化为数字向量；最后结合文本实时合成带情绪的语音，连呼吸停顿都能模拟。更令人警惕的是门槛骤降。开源模型与中等算力的结合，让攻击者无需专业设备就能实施诈骗，冒充亲友借钱、模仿领导指令转账等场景频发。传统靠听声辨人的习惯，在技术面前已不堪一击。在日常生活中，我们一定要保持一定的警惕性，遇到问题千万不要装涨，仔细分辨语音中的自然度，AI 伪造声音常缺乏真实情绪起伏，或带有轻微机械感与异常背景音。多渠道验证。但凡涉及转账等敏感要求，立即挂断电话，拨打对方常用号码或通过共同好友二次确认，这是阻断诈骗的最有效手段。#AI创造营##微博兴趣创作计划# 种斌Marco的微博视频

17. 家人们，警惕！AI换脸诈骗新套路来了！骗子盗用亲友、领导人脸视频，以“借钱救急”“代付缴费”等借口索要钱财。凡是涉及转账，务必通过电话、当面等多种方式核实身份，不轻信、不转账，守护好自己的“钱袋子”，转发提醒身边人！！笔默君的微博视频

18. 《Scaling Laws for Deepfake Detection》深度伪造检测的缩放律：ScaleDF数据集与关键洞见深度伪造技术迅猛发展，正威胁社会安全，从误传信息到侵犯隐私，亟需可靠检测方法。在生成与检测的“军备竞赛”中，如何让检测模型适应层出不穷的新伪造形式？本文基于最新研究，系统探讨了数据规模与模型性能的预测关系，揭示了类似大语言模型的“规模定律”。通过构建史上最大数据集ScaleDF，本文证明：增加真实图像领域和伪造方法的多样性，能显著提升检测鲁棒性。这不仅仅是数据堆积，更是数据驱动的工程范式转变，帮助我们预估所需资源，主动应对AI伪造浪潮。#ScaleDF：前所未有的深度伪造检测数据集现有数据集规模小、多样性不足（如DF40仅6个真实领域、40种伪造方法），难以支撑规模研究。为此，我们 curation 出ScaleDF——领域内最大数据集，涵盖51个真实图像数据集（领域，约580万张图像）和102种深度伪造生成方法（约880万张假图像），总计超1400万张面部图像/视频帧。- 真实数据收集原则：包容性。我们整合所有公开可用真实面部数据集，覆盖面部检测、识别、年龄估计、表情分析、语音识别、遮挡鲁棒、多光谱生物识别等10大任务。排除多数专为深度伪造设计的集（如FaceForensics++例外，因其广泛使用），避免过拟合。每个数据集仅随机采样部分图像（如VGGFace2从331万中取20万），确保多样性和平衡。测试时采用“跨领域”评估，选择鲜见于近期大面部集的领域。 - 伪造数据生成：五类102种方法。参考最新综述，将伪造方法分为面部交换（FS，21种）、面部重演（FR，20种）、全脸合成（FF，24种）、面部属性编辑（FE，18种）和说话面部生成（TF，19种）。覆盖主要架构：仿射映射、3D建模、VAE、GAN、扩散模型、流匹配和自回归模型。生成时，使用训练真实数据产生训练伪造样本，测试数据产生测试样本，实现“跨方法”评估。视频采样3帧/秒，转为图像训练（未来可扩展时序伪造）。与现有数据集比较（表1），ScaleDF在真实领域（51 vs. DF40的6）、伪造方法（102 vs. 40）、视频数（90万+ vs. 10万+）和图像总量上领先8-5倍。这不仅支持规模定律研究，还为未来检测系统奠基。#规模定律观察：性能可预测的幂律衰减我们将深度伪造检测视为二元分类，使用Vision Transformer (ViT-Base)作为骨干，在ScaleDF上训练，评估7个基准（DeepFakeDetection、Celeb-DF V2等），指标为平均AUC和EER。关键发现：模型性能随数据规模呈幂律关系，无饱和迹象，类似于LLM和图像分类的规模定律。- 随真实领域数（N）扩展：采样5-46个领域训练，检测误差（1-AUC）呈幂律衰减：1-\overline{AUC} = A \cdot N^{-\alpha} (A=0.729, \alpha=0.476, R^2=0.982)。例如，从5个领域到46个，平均AUC从0.62升至0.89。预测：达AUC 0.95需约300个领域。这强调多样性而非单纯数量——更多领域捕捉真实面部变异（如光照、姿势、人口统计），提升泛化。- 随伪造方法数（N）扩展：采样11-88种方法，类似幂律：1-\overline{AUC} = A \cdot N^{-\alpha} (A=0.618, \alpha=0.375, R^2=0.990)。AUC从0.76升至0.89。预测：达AUC 0.95需约700种方法。EER分析一致（幂律，R^2>0.98）。这证明，覆盖新兴方法（如GPT-Image-1扩散模型）是反制伪造的关键。- 随训练图像数（N）扩展：固定46领域+88方法，采样比例1/4至1/1000，总图像从1400万降至1.4万，双饱和幂律：1-\overline{AUC} = c + K(N + N_0)^{-\gamma} (c=0.112, K=2.1\times10^4, N_0=1.34\times10^5, \gamma=0.915, R^2=0.999)。性能在10^7图像后渐饱和，表明同源数据增量有限。但若扩展领域/方法，饱和阈值将推移——数据多样性是上限。- 模型规模扩展：ViT从小（21.7M参数）到大（630M），性能至303M饱和（AUC 0.90）。ScaleDF当前支持300M模型；未来更多多样数据可解锁更大模型。这些定律非图像数量驱动（采样1/10图像仅微降性能0.01 AUC），而是多样性所致。思考：这将检测从试错艺术转为数据工程——预估资源，优先采集新领域/方法，应对伪造演化。#规模下的附加观察：实用洞见与局限规模化实验揭示更多：- 预训练作用：在大规模ScaleDF上，ImageNet、CLIP、SigLIP预训练性能相似（AUC差<1%），但无预训练收敛慢。规模缓解小数据集的预训练依赖，但基础预训练仍必要。- 数据增强重要：即使1400万图像，随机质量压缩（40-100%）和扰动（AnyPattern的30种，如模糊、噪声）显著提升鲁棒（AUC从0.818升至0.886；EER降至0.184）。这暗示检测依赖低级特征（如伪造 artifact），增强模拟真实扰动（如压缩、视角变化）不可或缺。- 跨基准泛化：ScaleDF训练模型在6基准上平均AUC 0.886，优于ForgeryNet（0.813）和DF40（0.587），因其领域/方法覆盖广。思考：规模提升泛化，但非万能——移除FaceForensics++导致旧基准性能降（AUC从0.886至0.869），新基准不变，表明需算法创新学习伪造本质，而非简单分类。局限：规模定律依实验设置（ViT、增强协议），未来架构/数据变异可能调整参数；数据集继承偏差（年龄20-39岁主导，男>女），需采样缓解公平性；未涉时序伪造或水印（如SynthID）。#结语：数据中心范式与未来方向ScaleDF与规模定律证明：通过预测关系，我们可构建更鲁棒检测系统，聚焦多样性而非海量同质数据。这激发数据中心方法，反制伪造“军备竞赛”。然而，规模非灵丹妙药——对全新伪造仍需算法突破，如从多方法中提炼通用伪造表示。我们呼吁社区利用ScaleDF探索这些前沿，推动生成AI安全。原论文链接：arxiv.org/abs/2510.16320

19. #小红书将限制推荐未主动标识AI内容#2月12日，小红书薯管家发布公告，呼吁站内用户对AI生成合成内容进行主动标识。小红书公告称，“近期，平台收到多例利用AI生成合成技术仿冒公众人物形象、制作虚假视频的用户举报。此类未经本人授权制造的内容，即侵害了公众人物的合法权益，也因部分内容未主动做AI生成/合成标识，有损社区用户的信任。

20. 网络热门AI鉴定19——AI诈骗【Git源宝】

21. #网警破获AI换脸非法侵入案##网警破获AI换脸非法侵入计算机信息系统案#据悉，破获的这个诈骗团伙非法获利40余万元，阿成单次“人脸代过”服务收费高达1000元。各家科技平台应该尽快上线AI风险排查的功能，特别是手机厂商，应该替消费者把好信息安全第一关。华为手机鸿蒙5的全维防诈能力，早已支持检测AI合成视频、照片，AI防窥保护，AI通话防诈、隐私数据安全访问等为用户搭起层层守护措施。郭局的微博视频

22. 新型AI诈骗！多名师生已上当（附防骗指南）

23. #国产大模型在多个领域大显身手##视频大模型让拍摄不再依赖摄像镜头# 镜头或将下岗！可灵用AI直接“脑补”画面，拍短剧效率提升3倍，成本骤降。技术出海也赢麻：Freepik全球用户最爱中国模型。但别让深度伪造先一步占领热搜，治理得跟生成速度一样快！

24. #小鲁说事# 【#AI伪造名主持人带货半月收益数万元#】#央视起底AI仿冒名人营销乱象#近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？央视网的微博视频

25. #小齐说法# 【#温峥嵘被AI温峥嵘拉黑AI盗播谁来管#？#AI伪造温峥嵘直播带货涉嫌侵权#】#央视曝光假冒艺人直播#“你是温峥嵘，那我是谁？”近日，演员温峥嵘刷到AI假冒自己直播，被对方拉黑一事，引发关注。此前，有网友举报称，演员温峥嵘同时“现身”多个不同直播间，且还穿着不一样的服装，用同一套话术，推广不一样的产品，俨然一支“赛博温峥嵘”大军。这类广告并没有任何标注，很难分辨出是盗播直播切片，还是AI合成。温峥嵘曾发视频打假，明确表示自己只有一个账号直播，支持粉丝进行举报。《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程律师表示，商家未经温峥嵘授权，通过录播抠图、AI合成等技术伪造其直播形象，直接侵犯其肖像权；若使用其姓名或艺名进行宣传，还可能构成姓名权侵权；若伪造的直播内容包含虚假宣传或低质商品，则可能损害温峥嵘的公众形象，构成名誉权侵权，例如，若商品质量引发消费者投诉，消费者可能误将责任归咎于明星本人。此外，通过AI合成虚假直播内容诱导消费，还涉嫌违反广告法第四条“广告不得含有虚假或误导性内容”的规定，若商品与宣传不符，商家需承担消费者权益保护法中规定的民事赔偿责任。消费者若因此类虚假直播视频误导而购买到劣质商品，可要求商家退还货款并主张三倍赔偿。《人工智能生成合成内容标识办法》要求，所有AI生成的文字、图片、视频等内容都要“亮明身份”，即添加标识以明确其来源和真实性。但在实践过程中，平台审核疏漏、商家刻意规避标识等问题，使得新规落地效果大打折扣。从平台的责任与义务来讲，一是要加强事前审核，利用AI检测技术（如数字水印、行为分析等）识别伪造内容，避免误导消费者。二是落实事后处置责任，根据电子商务法第四十二条，收到侵权举报后，平台应在24小时内删除相关内容。同时，将多次侵权商家纳入黑名单，限制其账号功能。若平台未尽到审核义务导致消费者受损，可能与商家共同担责。AI伪造明星直播带货行为，本质是技术滥用与商业逐利的结合，需通过法律严惩、技术防控、平台担责三管齐下治理。消费者可优先选择标注“真人出镜”或“官方认证”的直播间，降低受骗风险。（作者刘丹视频李唯祎）法治日报的微博视频

26. 【#买家用AI假商品损毁图骗退款# 专家：#AI伪造图片恶意退款涉嫌违法#】最近，一些电商从业者反映，有些买家发来的“包装破损”“食品发霉”的照片，乍一看挺像那么回事，实际上根本不是真实拍摄图片，而是用AI技术伪造出来的。伪造图片目的也非常简单，就是想靠假图片骗取退款。记者调查发现，这类“AI售后图”的制作并不复杂，买家通常先对快递实物拍照，再通过生成式AI工具对照片进行“局部改造”——将原本完好的商品，添加上破损、腐烂或变形的视觉效果，以此向商家申请退款。中国法学会消费者权益保护法研究会副秘书长陈音江表示，通过AI来伪造一些图片证据去退款，是一种民事上的欺诈行为，会面临比较严重的法律风险。针对这类行为，专家建议商家也应主动防范，在对照片真实性有疑虑的情况下可以要求买家从不同角度多拍几张照片。通过对比不同照片中的关键信息，往往能发现AI造假的破绽，还可以要求买家提供视频。用AI伪造商品毁损图恶意退款涉嫌违法！

27. 【#从严整治AI仿冒公众人物乱象#】#1万余个仿冒公众人物账号被处置# 近期，有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。网信部门严厉处置“百货超市小店”“娜娜好物联盟”“环球护肤美妆甄选”等一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。下一步，网信部门将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批，维护良好网络生态。

28. 2026AI骗术升级！眼见为实也是骗局。 #大咖观察 #红衣聊AI #人工智能

29. #央视曝光AI换脸诈骗黑产链#假表哥用AI换脸骗走30万元电商平台上，换脸软件和服务链接随处可见，成交量居高不下；视频网站里，从操作教程到效果演示一应俱全。上游非法收集人脸信息，中游培训制作换脸视频和话术，下游直接用合成“人脸”突破支付平台验证，盗刷、改密码。央视财经的微博视频

30. #余承东为反诈发声##余承东用AI换脸视频喊话防诈骗# 华为手机支持识别AI换脸的功能，是一项积极且必要的安全探索。它直面了AI技术滥用带来的新威胁，尝试在终端侧为用户提供一层实时的防护。一切为了消费者的安全，华为一直都是先行者。郭局的微博视频

31. 【美媒：#AI发展或对核安全构成威胁#】近日，据美国《外交事务》杂志报道，“人工智能（AI）技术的发展可能对世界核安全构成威胁：AI生成的深度伪造视频可能诱使核国家领导人发动核打击。此外，若赋予AI是否使用核武器的决定权，亦存在误判的风险”。报道表示，“AI的迅速普及正在加剧对核稳定的威胁。AI技术降低了深度伪造视频的制作门槛，这类视频通过精心篡改的内容、图像或者音频录音，传播关于人物或事件的虚假信息。这对世界核安全构成隐患”。报道指出，“深度伪造视频或被用于诱使核国家领导人率先发动核打击。此外，深度伪造视频还可能用于制造战争借口、煽动公众对冲突的支持或挑拨国家之间的关系”。今日俄罗斯RT的微博视频

32. #小鲁提醒# 【#如何防范AI换脸换声诈骗#？】犯罪分子利用AI技术实施诈骗，而这类骗局往往隐蔽性强、欺骗性高，该怎么防范？更多法律解读>>CCTV1《今日说法》守护“银发族”特别策划《“孙子”来电》。#老年人关心的法律问题# CCTV今日说法的微博视频

33. #央视曝光新型AI换脸盗号产业链# 闲置电商店铺在不知情的情况下完成扫脸过户2024年6月，浙江杭州的网警在工作中看到一条可疑广告。只需一张用户人脸照片，就可突破平台认证，利用AI换脸技术强制登录用户账号，获得聊天记录等隐私信息。经查，广告发布的目标对象是电商账号的持有人，警方通过平台筛选识别出150个异常电商账号。张某等三名被告人共涉及150余起AI换脸盗号事件，截至被抓获前，三人获利10余万元。央视一套的微博视频

34. 香港2亿AI诈骗案细节曝光，视频会议里只有你是真人

35. #男子制作小鹏车模低俗视频被拘10日#使用AI制作小鹏汽车低俗视频的被抓住了，大快人心。李某（男，36岁）为炫耀个人技术，利用AI技术生成虚假视频，并在社交平台发布，造成不良社会影响。目前，警方已依法对李某作出行政拘留10日的处罚。

36. #如何识别AI造假#？【有一套完整通用的逻辑吗？】识别AI造假需要结合技术特征、内容分析和工具辅助，以下是一些核心方法：1. 观察细节异常图像/视频：检查光影是否自然（如头发、眼镜反光是否一致）。观察手部、文字等复杂细节（AI易生成畸形手指或乱码文字）。注意背景是否扭曲、重复纹理或边缘模糊。文本：检查逻辑是否连贯，AI生成内容可能前后矛盾。注意语言是否过于机械、缺乏个性化表达或情感细节。2. 利用技术工具使用AI检测平台（如Hugging Face的检测工具、AI Content Detector等）。查看文件元数据（如生成时间、修改记录、设备信息），但需注意元数据可篡改。借助专业软件分析图像噪点模式（真实照片噪点均匀，AI生成图像可能有异常噪点分布）。3. 溯源验证反向搜索图片/视频来源（如Google反向搜图、TinEye）。核对信息是否被权威媒体或官方渠道证实。警惕过于“完美”或迎合情绪的内容（如极端言论、夸张标题）。4. 关注常见造假类型深度伪造（Deepfake）：视频中人物眨眼频率异常、口型与声音不同步。虚拟人物：社交媒体账号无历史记录、头像为生成式AI常见风格。伪造证据：声称来自“官方”的截图或文件，可通过官方渠道核对格式、签名等细节。5. 提升自身防范意识对耸动内容保持警惕，优先验证再传播。学习AI技术更新趋势（如新版模型已改善“六指”问题，但可能暴露新特征）。重要提示：没有单一方法绝对可靠，需多角度交叉验证。技术发展使造假越来越难识别，培养批判性思维和信息溯源习惯是关键。涉及重大决策时，务必通过官方渠道核实。#微博AI#

37. 当心AI“换脸”假冒医生！国家卫生健康委提醒：警惕健康科普新骗局 | 谣言终结站

38. #如何识别AI造假# 不得不承认，如今AI发展速度越来越快，从当初的一眼就能判断，到如今肉眼难以分辨那我们该如何分辨是否是AI生成的呢，大概有以下几点。首先可以从细节入手：AI 生成的图片常存在逻辑漏洞，比如人物手指数量异常、五官比例不协调、背景元素杂乱无章且缺乏合理关联；然后，AI生成的文字内容，可能出现语句不通顺、逻辑混乱，或者观点重复、缺乏深度的情况。当然也可以借助AI工具辅助识别，目前有不少专门检测 AI 生成内容的平台，能通过技术算法分析内容的特征，判断其是否为 AI 造假；最后，对于图片，还能查看 EXIF 信息，若存在异常的生成记录，大概率是 AI 产物。科技醒醒的微博视频

39. 深度伪造技术将在 2026 年更上一层楼，人类将面临更严重的欺诈

40. 人类社会要有麻烦了？深度伪造在2025年爆发，2026将更上一层楼

41. AI造谣频发，为深度伪造治理再敲警钟！

42. 数字克隆人诈骗技术及其应对措施

43. CIO如何应对日益严重的深度伪造威胁

44. “AI换脸”被用于诈骗，法律如何追责？

45. 航程律师事务所|“AI换脸”的诈骗套路多，我们该如何防范？

46. “AI换脸”诈骗案频发亟待防范治理

47. AI换脸诈骗暴增！普通人如何自救？

48. 从Ai“换脸诈骗”看技术双刃剑

49. 「深度伪造」是什么？应当如何应对？

50. 幻觉蔓延

51. 深度伪造红线

52. 法治讲堂｜AI驱动类新型诈骗防范指南

53. AI诈骗新形态

54. 如何防范AI诈骗——守护你的“脸面”与财产安全

55. 《守护青春》山西省青少年法治广播第20240702期（总242期）《AI诈骗》

56. 怎样防范AI诈骗？

57. 警惕技术伪装，守住财产安全

58. 网警发布AI伪造、智能设备风险防范指南

59. 【论文阅读】Anti-Forgery: Towards a Stealthy and Robust DeepFake Disruption Attack via Adversarial Percept

60. Deepfake Detector

61. 对AI技术滥用风险要提高警惕

62. 谨防“邪典视频”携AI重来

63. 如果全民都玩AI视频,可是太可怕了

64. Advancements and Challenges in Deepfake Video Detection: A Comprehensive Review

65. Mechanism Characteristics, Functional Alienation, and Optimization Strategies

66. 有什么方法可以检测视频里是否用了 AI 视频换脸算法？

67. AI视频内容审核怎么进行_AI视频内容安全审核机制与操作方法

68. Docs

69. Deepfake日益商业化将给亚太地区的信息空间带来新的挑战

70. 从0到1,国内首个金融领域“Deepfake”检测标准来了

71. AI诈骗成功率100%?度小满防深伪模型“用魔法打败魔法”

72. Docs

73. VOA Standard | Whether artificial intelligence should learn from human moral and ethical framework

74. Deepfake恶搞政客遭加州立法禁止，首份全球调查结果出炉

75. Tech Policy Expert Calls for Law Overhaul to Combat Deepfakes

76. Why we need a better definition of ‘deepfake’

77. Deepfake

78. AI造假越来越真，2026年我们还能相信眼睛吗？

79. AI诈骗盯上老年人，换脸换声低至1元

80. 2026，AI视频造假更猖獗？

81. 你的脸，正成为骗子的“通行证”｜AI换脸诈骗深度防范指南

82. 警惕！身份证照片被AI生成动态视频实施诈骗

83. 专利技术】破解“眼见不为实”困局：高维数据多模态伪造检测专利落地，筑牢数字内容安全防线（第3期）

84. 【专利技术】破解“眼见不为实”困局：高维数据多模态伪造检测专利落地，筑牢数字内容安全防线（第3期）

85. 【阳光安全】AI技术高骗局要提防｜昆阳镇阳光新型公办幼儿园防范电信诈骗知识宣传

86. AI“深度伪造”刑法规制的路径选择

87. 生物识别信息深度伪造第二课：深度伪造技术的技术原理和发展历程

88. 国安部：某境外势力通过深度伪造技术生成虚假视频，企图向境内传播制造恐慌

89. 中国安全部警告：外国势力利用AI深度伪造技术制造恐慌并窃取数据

90. 网络安全宣传周|如何应对AI新骗局

91. 网警破获：AI换脸侵入计算机案优化版全国首例，AI换脸

92. 深度伪造的代价：当AI视频触犯法律的十个日夜

93. 被AI换脸有哪些风险？如何防范？警方教您分辨

94. 警惕！高校师生遭遇AI换脸诈骗

95. 新加坡金管局（MAS）披露深度伪造网络风险，诈骗分子利用深度伪造技术注册账户，从而开展洗钱等非法活动。

96. 一文了解：深伪技术的种类与应用场景、益处与危害、各国监管要点

97. 抖音“AI抖音求真”功能上线！谣言识别率提升67%，以后刷视频再也不怕被骗了

98. AI伪造证据的法律挑战：从美国律师提交深度伪造视频谈起

99. FBI警告：黑客用AI伪造绑架视频以索要赎金

100. AI深度伪造技术对证据审查的影响及应对

101. 【秦都检察124期】警惕“AI换脸”新型犯罪

102. AI换脸诈骗：技术阴影下的信任危机

103. 东方通通过中国信通院“可信AI（安全治理）”人工智能生成/合成内容检测服务能力评估

104. 技术迭代+标准升级！中国信通院2026年首批深度合成检测能力评测来袭，助力企业应对新型伪造威胁

105. 2025网络安全宣传周 | AI诈骗要警惕，守护安全靠自己

106. 美国拟确立首套AI生成犯罪量刑标准 | DSP人工智能安全周报（12.19-12.24）

107. 眼见为实？人工智能之深度伪造技术运用于认知作战

108. 深度伪造技术泛滥，我们该如何辨别视频和声音的真假

109. 面试素材 | 态度观点题（AI换脸诈骗）

110. AI换脸诈骗频发敲响防治警钟

2025年AI深度伪造视频激增900%，全球金融诈骗损失超2亿美元

精选参考来源