10月18日凌晨3时许,演员吴越在社交平台发文质问:一个名为"花姐美妆日记"的账号用AI生成了她"出镜"带货护肤品的视频,片尾还"请"来了邓亚萍,她要求这名"花姐"把骗来的钱如数奉还。明星被"盗脸"带货尚且维权不易,吴越发声明后,涉事账号连夜更名。当脸和声音都能被廉价批量合成,普通人判断真假已经不能只靠眼睛。好消息是,国家反诈中心App的"AI内容鉴定"、"国家反诈AI"App、96110专线等一批免费反诈工具已经上线,能识别相当一部分AI伪造内容;但它们都不能单独兜底——工具之外,还得靠一道独立验证的习惯。南方都市报第一财经
真假难辨的不只是带货视频,案件早就落到了普通人的钱袋上。2024年,内蒙古鄂尔多斯一名消费者被AI换脸成"朋友"的人视频要求转账,险些损失40万元;山东宁阳法院审结的网恋骗局里,被告人用AI换脸加语音合成虚构"白富美"人设,骗走近13万元;南京玄武区法院的一起案件中,被告人把195万余条公民个人信息与AI换脸结合,通过人脸验证后登录23名被害人的支付账户盗刷。造假也在产业化:2025年11月,抖音电商披露针对仿冒名人带货的专项治理已处置侵权违规达人账号1.1万个,其中就包括被AI假冒直播的演员温峥嵘。门槛同样在塌落——媒体调查实测,上传3秒原声几分钟即可克隆音色,二手平台上AI声音克隆服务每50字收费不到1元。与此同时,电诈大盘在回落:新华社从公安部获悉,2026年上半年全国电诈案件立案数同比下降15.6%,按发案数口径自2025年10月以来已连续11个月同比下降。总量下降与AI手法抬头并存,换脸、拟声类案件在裁判文书和反诈宣传中被反复点名,正是这条热榜让普通人不安的地方。南方都市报
这四样免费的,今天就能用上
国家反诈中心App——“AI内容鉴定”。针对AI伪造图骗"仅退款"、虚假"种草"图频发的乱象,App内上线了这一功能,支持对文字、图片、视频做AI生成痕迹检测。央视网记者曾下载多张民宿虚假宣传用的"种草笔记"图片实测,检测后结果均提示这些照片含AI生成痕迹。央视网
"国家反诈AI"App。2026年9月上旬,公安部刑侦局指导、上海市公安局自主研发的这款App正式上线,融合大语言与多模态模型,用户输入可疑场景即可完成风险研判、识别诈骗套路、推送典型案例,各大手机应用市场均可下载。公安部刑侦局给它的定位很直白:遇到拿不准的骗局就问它,它会从风险分析、诈骗类型、防范步骤多维回答。央视网微博
96110预警劝阻专线与12381涉诈预警短信。来电96110务必接听,说明你或家人可能正被盯上;收到12381提醒要立刻警觉。它们与国家反诈中心App同属公安部会同工信部、中国人民银行推出的反诈工具矩阵,仅国家反诈中心App到2023年6月就已累计预警3.1亿次。央视网
腾讯朱雀AI检测助手。技术媒体的横评实测显示,它与反诈中心App的"AI内容鉴定"一样支持文字、图片、视频检测,每天有固定次数的免费额度。雷科技
检测工具不是免死金牌
别指望"跑一遍没问题"就万事大吉。以英伟达新推出的AI视频检测服务为例,官方宣称未压缩视频识别准确率最高可达92%,但其说明文档同时注明:这个成绩取自偏严格的阈值,真实环境可能造成大量误判,任何转码、压缩都会让准确率再往下掉——而社交平台上的诈骗视频,几乎必然已被反复压缩。从业者的判断更根本:鉴伪是一场猫鼠游戏,此消彼长,没有终点。换句话说:检测报"有AI痕迹"要高度警惕,报"正常"也不能免除核实。雷科技知乎
转账之前,多留一道独立验证
警方和大量受害案例沉淀下来的,是一套不花钱的验证习惯。视频通话涉及钱时,让对方用手指在脸前挥动、按按鼻子、大幅转头——换脸素材最常在脸部边缘出现闪烁、变形、错位,嘴型与声音对不上就是危险信号。北京公交警方分享过一个真实案例:“表哥"视频里急借3000块,表弟反手一问"小时候翻墙去网吧被逮,罚站了几节课”,假表哥瞬间卡壳。更稳妥的做法是:挂断后回拨对方的常用号码确认;只问只有你们俩才知道的细节,或提前和家人约定一句"暗号";凡要求屏幕共享、远程控制的,一律挂断——这是公安反诈宣传反复强调的判据。拿不准钱的事,直接拨96110。公检法不会电话要求转账"自证清白",也从来没有什么"安全账户",AI时代这句话同样成立。微博
换脸与鉴伪的对抗不会很快分出胜负。普通人这一侧,可以输掉"眼见为实",但不能输掉"转账前多一道核实"。上面这几样工具和专线都不收费,花十分钟配齐,再给每一笔涉及钱的视频通话加一次回拨验证——这已经是在当前技术条件下,普通人能做到的最优防线。