10月18日凌晨，演员吴越发文怒斥自己的脸被AI换成了"花姐"在直播间里带货，奥运冠军邓亚萍也遭到过同样的AI仿冒。几天前，中央广播电视总台的调查揭开了一条更庞大的灰色地带：一批叫"小海"的AI合成苦情男孩在短视频里批量上演"懂事、窘迫、心疼长辈"的剧本，一位不识字、说不清目的地的79岁老人，为此独自登上远列火车，要去山西运城看一个现实中不存在的"亲戚"。微博中国新闻网
普通人会被AI诈骗吗？答案是已经发生：这类骗局完成了工业化和量产，正在被批量执行；而更麻烦的是，多数人手里用来"防AI"的招数，本身已经过时。
盯上的不是"不懂的人"，是有急事、有感情缺口的人
"小海"式骗局的流水线很清楚：先用"躲在教室吃馒头"这类虚假身世筛选出最具同情心、最缺乏防备的中老年群体，再把他们精准推向下一步——带货。直接对钱包下手的骗局也在真实判例里：一伙人用AI仿声冒充"在学校伤了人要私了"的孙子，从三名老年被害人处收走6万元资金，法院近日据此对上门收款的被告人吴某以诈骗罪作出判决。中国新闻网人民网
缺钱的人同样在名单上。今年7月，浙江乐清王先生为给孩子筹暑期补课费想借一笔钱，被"平台业务员"引导着从正规借贷平台贷出的15500元被骗得分文不剩。中国新闻网
警方起底的这个团伙以公司化方式运转，短短2个月诈骗了上千人，受害群体分布在不同地区、不同年龄段，被骗手法高度一致。中国新闻网
最该警惕的反而是自认有警惕性的人。50岁的企业高管吴女士为了验证网恋对象"李军官"的身份，专门上网搜索"如何鉴别AI生成视频"，并按网上流传的挥手、挡脸方法反复核验过。人民网
但钱还是被骗走近80万元——她陆续往对方提供的虚假投资平台里投钱，直到无法提现才确认被骗。人民网
为什么"挥手鉴别""AI标识"都不管用了
网传的"捏鼻子""挥挥手"鉴别法，正在被技术迭代抵消。上海警方反诈团队解释：过去的人脸被手遮挡时，大模型无法快速匹配画面、容易变形露馅；但随着AI生成技术进步，部分大模型在应对小范围遮挡时已经能生成较为流畅自然的画面，足以让观看者误以为屏幕里的是真人。人民网
平台侧的治理也在同步升级，有短视频平台的反诈模型过去一年已能主动拦截阻断98.1%的诈骗行为。人民网财经
声音比画面更难设防。警方披露，骗子通过短视频平台、社交动态、评论区、通话录音等渠道，就能搜集到受害人亲友的日常语音片段，将几十秒的短句素材通过AI技术克隆出亲友的声音。换句话说，只要你的亲友在网上留过几十秒声音，他们的"声音"就可能替他们给你打电话。人民网
而本该兜底的标识制度，实际效果有限。2025年9月施行的《人工智能生成合成内容标识办法》要求对生成合成内容添加显式标识并在文件元数据中添加隐式标识，涉事"小海"账号确实在视频角落打了"AI生成"水印。但法学专家点破了堵点：水印字小、老年用户不会留意，有的老人甚至把"AI生成"理解成"因为无法直接拍摄真实事件，所以只能以AI视频替代描述"——标识存在，不等于骗局被看懂。中国新闻网中国新闻网
骗子为什么突然"多"了：成本塌了，产量上来了
AI带给诈骗的不是新罪名，而是新的产能。互联网平台中，几块钱就能买到全套AI数字人生成教程，同样的文案，换一张脸、换一个声音，就能批量生成出成百上千个"小海"。拨打端同理：据乐清警方介绍，依靠AI通话账号，诈骗团伙当日可呼出电话的数量超20万次，效率远高于传统的人工群呼。中国新闻网中国新闻网
与此同时，法律与平台侧的对抗也已展开。前述AI仿声案被告人吴某因诈骗罪被判处有期徒刑二年一个月，并处罚金1.5万元。人民网
还有用的不是"鉴别"，是"手续"
要钱环节是唯一的硬闸门。上海警方给出的做法是：凡是涉及资金往来的求助，务必二次身份核实，先挂断电话，再通过其他方式主动联系对方，或直接线下见面——真有急事，本人一定会接电话；家人之间还可以提前约定只有彼此知道的暗语或问题。
若必须视频核验，主动权要在你手里：不要等对方主动演示，而是随机连续下指令，让对方快速转身、左右摇摆身体，因为"大幅度"和"速度快"非常重要，普通生成式模型很难实时跟上；也可要求其眨眼、挑眉毛、伸舌头，观察面部是否有不自然之处。
语音通话里，可以随机抛出只有彼此知道的私密问题、专属过往记忆来打乱对话节奏，AI克隆语音虽然声线相似，却难以灵活应答随机问题，容易露出破绽。
对家里的老人，除了协助设置银行卡大额转账限额、开通运营商的防骚扰拦截服务，更根本的是真实陪伴——有研究者直言，老年人相信并买单于"小海"，表面是数字素养差距，深层是不少老人线下生活孤独、缺少有效陪伴，情感需求被AI精准收割。中国新闻网
警方还特别提醒：接到96110反诈预警或民警上门劝阻时，务必如实告知自身情况，切勿隐瞒——"吴女士们"的教训里，恰恰是她对上门劝阻的民警刻意隐瞒、藏起聊天手机，损失才一路扩大。
警方已经把这类案件的性质讲得很清楚：利用新技术进行的诈骗，与传统诈骗没有本质区别。AI改变的只是工具，让假脸更像脸、假声更像声；诈骗的内核仍是那套古老的"紧急+信任"。真正管用的防线从来不是鉴别算法，而是转账前的那一步手续：先挂断、再核实、要提现就停手。新华网
