视频通话里的那张脸、那个声音，如今用一张清晰正脸照、几秒随手语音、几十块钱就能伪造，而且这项能力已经被诈骗产业规模化地用了起来。2026年10月18日凌晨，演员吴越发文怒斥一个账号用AI换脸和声音克隆冒用她的形象推销化妆品，两天后，带货账号被永久封禁。连明星的脸和声音都守不住，普通人随手留在网上的照片与语音正在变成批量造假的原料，这就是这场风险演变最直白的注脚。央视网央视网
另一头的变化同样值得注意：AI已经开始替人接听诈骗电话、假装上当陪骗子唠嗑，还能反过来套出几十万条诈骗情报。诈骗与反诈的AI攻防战已经开打，普通人的处境，正处在两股力量的拉扯之间。机器之心
造假门槛降到了“几秒、几十元”的量级
人民法院报刊于人民网的做法分析说得直接：部分开源代码与“一键生成”工具在暗网与社交群组中低价流通，无需专业技术背景即可完成操作，犯罪成本与犯罪门槛远低于传统诈骗。价格被压到了奶茶钱以下：央视网记者2026年9月实测发现，在部分平台“声音克隆”仍可检索、下单，克隆一个人的声音只要20元。据反诈机构披露的黑灰产报价，一段“换脸加换声”的视频约463元，只换声音约228元，教程最低1元到9.9元。人民网央视网知乎
门槛还低在“原料”上。换脸是把一张脸拆成“谁的脸”和“脸在做什么”两层，把目标人物的五官贴进另一段视频的运动轨迹；拟声则是把说话拆成“说什么”和“谁在说”，模型学会音色后，能让任何人“说出”任何话。央视网早在2025年8月的调查中就提到，AI合成声音已经可以实现“一键式”操作，教程和软件资源在网络上大量可得。一张社交平台照片、几条语音消息，就是全部素材。实时换脸工具甚至能在视频通话中边说边动，比录好的假视频更难识破。央视网
门槛坍塌真正改变的是诈骗的“产能”。2026年浙江乐清警方打掉的一个网贷诈骗团伙，用付费AI通话账号加上非法购买的手机号库，靠一台普通电脑实现批量拨号。系统按通话中出现的关键词，把接电话的人自动分成A到F六个等级，判定有贷款意向的目标再无缝转给人工话务员步步诱导。狭小场地、不到两个月，上千名受害者转账，案发后30名嫌疑人落网，团伙涉案流水超千万元。当“打电话筛选”这个最费人力的环节交给AI，诈骗正式进入批量化生产。中国新闻网
被冒用的对象：从明星扩展到每个人留在网上的信息
把近三年的标志性案件摆在一起，能看到攻击面的扩张。2023年5月，内蒙古警方通报福州一家科技公司法人郭先生被AI换脸加拟声冒充好友，10分钟被骗走430万元。当时公安部通报专项会战侦破的“AI换脸”相关案件为79起、抓获嫌疑人515名。三年后，据经济观察网援引公安部2026年9月通报，全国已侦破AI换脸类诈骗案件逾300起，涉案金额突破5亿元，单案最高达2000万元。几组数字的统计口径并不相同，无法直接对比增速，但量级变化足够直观。央视新闻新华社36氪
冒用的对象也在从“名人”走向普通人公开留存的任何信息。点名的“花姐”账号同样做过奥运冠军邓亚萍出镜的AI带货视频。更早一些时候，演员王劲松公开控诉自己的脸和声音被AI“扒走”，连家人都差点被骗。中国新闻网中国新闻网
而AIX财经记录的五个真实遭遇里，受害者全是普通人：长居澳洲的律师，社交平台照片被骗子拿去做成“海外高管”人设，骗子甚至顶着她的脸和受害女生视频通话；泉州商人打游戏时，被语音频道里的“高仿号”用克隆声开口借5000元；一名北京职员的家属收到寄到单位的恐吓信，信里的“监控截图”是把当事人多年前的证件照用AI批量换脸后，生成虚假照片拼出来的。2026年9月，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，给出的裁判边界正是为这类场景划的：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害。36氪蓝鲸新闻
连“帮个小忙”都可能被武器化：中新网拆解过一种新型AI骗贷——骗子以看不清卡号为由，诱请路人对着正在视频的手机念一串数字，随后利用AI实时分离环境噪声，提取声纹、截取高清人脸画面，在网贷平台冒用受害人身份贷款，让好心人莫名背上债务。中国新闻网
攻防同场进行：新规、新工具，和一帖“三秒焦虑”的退烧药
规则在收紧，但执行有缺口——前文那次记者实测已经说明问题：“脸”基本下架，“声”还在叫卖。律师对吴越事件的解读同样点破了“合规外衣”：带货视频角标里“含AI生成内容”的标注只能证明履行了标识义务，不能改变行为本身未经授权使用他人人格权益的侵权性质。吴越本人则道出了维权方的疲惫：投诉对方账号造假的时候容易失败，但是造假的人有时间和精力。央视《8点见》的评论直指这个落差：当AI深度合成愈发逼真，治理的速度和力度，必须跑在造假者前边。央视网央视网央视网
诈骗一侧的自动化，正在倒逼反诈一侧也走向自动化。悉尼一家公司派出的AI人设会假装成潜在受害者，接听诈骗电话、回复可疑消息、潜入投资群组按计划套取线索，据公司披露，其AI智能体已经与诈骗分子进行了250万次对话，累计消耗骗子约17年的时间；接入了这套系统的澳大利亚联邦银行报告诈骗损失下降了76%。这些是公司自报口径、尚需核验的样本，但它勾勒的行业现实并不乐观：诈骗已经被AI做成产业，防守方不得不以同样的规模接招。机器之心
对刷屏的“三秒沉默法”，则要先降一降火。网传接到陌生电话先别出声，否则几秒钟就会被采集声纹、克隆声音。2026年9月，有记者向上海市公安局反电信网络诈骗中心求证，得到的答复是：目前还没接报此类案例，AI仿声虽有可能，整条作案链条并不易实现。换句话说，需要盯紧的从来不是“开口”，而是对方开口提钱的那一刻。公安部门推广的识假口诀可以记住：转头不连贯，八成有问题；声音有异常，多半是机器。落到具体动作上：涉及转账的视频通话，先挂断、回拨你原有通讯录里的号码核实，或请对方做转头、按压鼻子等大幅度动作；陌生号码要求对着手机念卡号、验证码，一律拒绝；不装来路不明的App、不开屏幕共享；真被骗了，立即拨打110或反诈专线96110。看看新闻广西政法
技术在持续降门槛，规则和执行在追赶，普通人的风险敞口会长期存在。在攻防抵达平衡之前，能立刻用上的结论只有一条：脸可以伪造，声音可以伪造，唯独“挂断后自己回拨核实”这个动作伪造不了——把转账前多花的那一分钟留给自己，就是眼下最稳的防线。
