今天早上八点五十五分,微博上又有人把央视那条 AI 诈骗电话的报道转了一遍。九点三十三分,又转了一遍。
那是 9 月 29 日央视法治在线的报道,到今天第九天,还在转。
而在你我的家族群里,另一条内容转得更久——「接到陌生来电,请先沉默三秒」。
这已经是它的第二轮生命了。第一轮在 6 月 4 日到 5 日,话术是「接到陌生电话千万别先出声」;第二轮从 9 月 14 日开始,挂上了官方名头「三秒沉默法」。到 10 月 6 日还有律师号在发,10 月 8 日早上八点还打着标签往外推。
问题是:这两条讲的根本不是同一件事。
它们是 AI 语音诈骗的两个不同方向。而其中一个方向,上海警方在三周前就已经明确表过态了。
今天把这件事拆开算三本账。因为这直接决定你还要不要往家族群转那条、要不要自己照着做、以及你爸妈手机上到底该打开哪个开关。
第一本账:传闻账——「三秒沉默法」是谁说的,警方怎么回应,那个「430 万」到底证明了什么
源头和传播量
先把出处摆清楚。
「三秒沉默法」出自北京市公安局办公室新闻中心民警郭涛,原话大意是:接到陌生来电时,如果对方一直不说话,你也先不要主动说话,然后心里默数一二三。微博
配套传播的那句话更响:接到陌生电话千万不要先出声,只需要 5 秒,AI 就能复制你的声音,再去诈骗你的亲朋好友,连父母都很难分辨。微博
这套内容的传播量是真的大。我拉了一遍数据:小红书 6 月 5 日那条「只需要5秒,AI就能复制你的声音……已有人10分钟被骗430万」拿到 9847 赞、698 评论、4419 收藏;9 月 14 日到 16 日三天里,2992 赞、3269 赞、8147 赞的三条接连冒出来,收藏分别是 1501、496、1267。微博侧,6 月 4 日中国蓝新闻那条 3560 赞,9 月中旬挂着 #遇到陌生来电先沉默3秒# 的几条也都在百赞量级。
数字放这儿不是为了嘲笑谁,是想说明一件事:这条内容的触达量已经是「全民级」的了。
9 月 18 日那条只有 180 赞的回应
转折点出现在 9 月 18 日。
看看新闻 Knews 的记者去问了上海市公安局反电信网络诈骗中心,得到的答复冷静得几乎扫兴:目前还没接报此类案例,但 AI 仿声确有可能。
上海市公安局刑侦总队政治处民警颜晨超给了两个更具体的判断。第一句是承认技术门槛确实降了:现在 AI 克隆人声的技术门槛大幅下降,像大家熟知的一些剪辑软件,可能仅需要 10 秒的素材就能实现声音复刻。请注意这个数字——10 秒,不是刷屏帖里那个「5 秒」。看看新闻Knews
第二句才是关键:拿到模拟出来的声音只是完成了其中一步,想要实施冒充家人亲友这类精准诈骗,还需要获取大量个人信息、完成后续定向联系,整套作案链条并不容易实现。翻译成大白话:偷到你的声音不难,难的是偷到之后怎么用。而「怎么用」这一步,恰恰不是靠你闭嘴三秒能挡住的。看看新闻Knews
警方同时给了真正该做的动作:遇到亲友通过语音、电话要求转账汇款时,不能仅凭声音就轻信,要通过线下见面、视频通话等多种渠道交叉核实,确认后再操作。
这条回应帖的数据是:180 赞、22 评论、41 转发。
对比前面那些几千赞的爆款——辟谣的传播效率,大约是谣言的百分之一。所以三周过去了,家族群里那条还在,而这条几乎没人见过。
新华社把账算得更细:技术是真的,便宜也是真的
这里必须补一个更权威的口径,因为它比「5 秒还是 10 秒」的口水战有用得多。
8 月 17 日新华社发过一篇时评,题目就叫《莫让人工智能「偷声」击穿社会信任》,作者姚湜。它承认了技术门槛:只需十几秒的语音素材,就能精准复刻一个人的声线、模拟其情绪语气,生成任意话术。新华网
它更狠的一句是揭示了灰产的价格:记者在部分网络购物及二手交易平台上,搜到大批 AI 克隆软件安装包以及声音替换、定制音色服务,价格从十几元到几百元不等,部分店铺交易记录多达上千次。这就把「三秒沉默法」的逻辑彻底架空了。你的声音在灰产那儿是个明码标价的商品,十几块钱就能买到成品,骗子犯不着在电话里等你那一声「喂」。新华网
时评还点出了真正的受害者画像:不法分子复刻、模仿子女和晚辈音色,编造车祸、急需医药费等紧急说辞,一些老人听见熟悉的声音便慌了神,来不及核实就转出养老积蓄。注意,这是「熟人来电」场景,不是「陌生来电」场景。沉默三秒,管不到这一类。新华网
而技术侧的门槛还在往下掉。B 站 10 月 3 日有个 up 主直接用开源项目做了一期节目,标题就是「这条视频的声音,其实不是我录的」——用的是小红书团队 2026 年 6 月开源的 dots.tts,Apache-2.0 协议、可商用、模型已训练好不用自己训练,苹果芯片移植版模型文件约 2.4G,本地就能跑。哔哩哔哩
小红书 1 月还有一期 CosyVoice 3.0 实测,说法更直接:只需要提供 3 秒钟的录音素材,就能克隆出一个能演「恐惧」情绪、还能飙流利外语和方言的数字替身。小红书
技术是真的。但技术是真的,不等于「接电话说喂」就是主要泄露路径。这两件事被捆在一起卖了三年半。
评论区早就有人想到了
质疑声其实一直存在,只是没被顶上去。
微博那条警方回应下面,点赞最高的评论是:「你用 AI 生成自己声音的回答时,早都采集完了。输入法的语音输入,也可以采集声音。」
还有一条更实在:「看到有中介发出来招过,有专门采集人声录音的兼职,两个人录一些对话,或一个人录一些说话,两三个小时,一个人 40-60 不等。」这条几乎没什么赞,但它和新华社时评里「十几元到几百元」的灰产价格表严丝合缝地对上了。
小红书 9 月 16 日有一条提问,7 条评论,问得挺可爱也挺扎心:「多家官媒发文说请大家接到陌生来电先沉默三秒(防范 ai 复制声音)。我想问说本地方言可以吗?」
这个问题在 B 站一个 29.9 万播放量的视频评论区被人认真回答了:「我和家人电话交流都是用的方言,不管说什么都绝对是真人,不可能是 AI。由于我们说的方言属于吴语分支的分支,南通话下面的金沙话,网上资料近乎没有,没有任何语料信息可供学习,所以未来有 AI 模仿的可能性也为 0。」
这大概是整场讨论里最有信息量的一句话:真正有效的防御不是闭嘴,是让语料不存在。
另一条被顶上去的思路更实用。9 月 20 日一条笔记写道:「接到陌生电话别挂,让 AI 替你接。警方推荐的三秒沉默法把防御责任压给个人意志力——骗子只需要成功一次,而你得每次都成功。」
这话说到根子上了。已经有人真这么干了:

这是一位华为用户 9 月 24 日的真实记录——看到陌生电话,随手用了「小艺帮接」,AI 替他接起来跟对面聊完,全程文字实时展示,事后回看,他的评价是「有点 AI 对 AI 的意思」。这个思路后面还会回来,因为它有副作用。先说真正的账。小红书
那个被引用了三年的「430 万」,其实和「沉默三秒」没关系
支撑「三秒沉默法」的核心证据,几乎所有版本都指向同一句话:「已有人 10 分钟被骗 430 万」。
我把这个案子溯源了一遍。
2023 年 4 月 20 日中午,福建福州某科技公司法人代表郭先生,「好友」突然通过微信视频联系他,声称自己的朋友在外地投标,需要 430 万元保证金,且需公对公账户过账,希望借郭先生的公司账号走账。郭先生转了账,他事后回忆,当时打视频确认了面孔和声音,就放松了戒备。微博微博
内蒙古包头市公安局电信网络犯罪侦查局在 2023 年 5 月 8 日通报了这起案件。同年 5 月 22 日,#AI诈骗正在全国爆发#、#AI诈骗成功率接近100%# 冲上微博热搜,那条置顶微博拿了 15418 赞。
然后这个案子开始了它漫长的第二、第三、第四生命周期:2024 年 11 月上海网络辟谣又提过一次;2026 年 6 月 4 日被重新包装成「福建已有人 10 分钟被骗 430 万」,3560 赞;2026 年 8 月 25 日、10 月 5 日微博还在转;小红书上从 6 月到 9 月,「10 分钟被骗 430 万」至少出现在五条不同的爆款笔记里。
三年半,同一个案子,同一句话。
现在请注意这里的逻辑断点:
郭先生是被「微信视频 + 冒充熟人」骗的,不是被「接了个陌生电话说了一声喂」骗的。
他的声音不是从陌生来电里被偷走的——骗子本来就有他的联系方式,本来就是冒充他好友,本来就是主动发起微信视频。这个案子能证明的是「视频确认也可能被骗」,恰恰不能证明「接陌生电话先别出声」。
用一个错的证据,去支撑一个可能没那么必要的动作,这才是这轮刷屏真正的问题。
第二本账:案件账——真正在发生的 AI 语音诈骗,杀伤力根本不在声音
现在看央视 9 月 29 日曝光的那个案子。这才是有报案、有侦查、有落网、有完整链条的那一类。
今年 7 月,浙江乐清的王先生急需用钱,接到一通自称可以「二次加贷」的电话。在「业务员」引导下,他从正规平台贷出 15500 元。对方随后告诉他:其中 5500 元是「资方垫资」,需要返还。王先生信了,他事后跟警方说的理由非常关键——因为对方对自己的借款情况了如指掌。微博
15500 元被骗得分文不剩。
警方顺着这条线查下去,查出一个藏在长沙写字楼里的团伙,分工严密,30 名嫌疑人全部抓获。央视把整个链条拆得很清楚:
犯罪嫌疑人在 AI 平台付费获取动态账号密码
导入从非法渠道获取的手机号码库
系统自动批量拨号,当日可呼出电话超 20 万次
从这 20 万通里筛出「有意向」的,转接人工
真人话务员接手,准确说出受害人的历史借贷信息
话术是「二次加贷需返还垫资」或「代为还款可提升额度」
对犹豫或拒绝的,转为施压恐吓:「影响个人征信」「由法务部门起诉」
两个月,上千人受害,涉案流水超千万元。受害人的普遍反馈是:AI 来电语气逼真,很难分辨是机器人还是真人。微博
这不是孤例。今年 3·15 期间,潇湘晨报记者赴上海暗访了 AI 外呼灰产。在上海俏聘网络信息科技有限公司,负责人坦言不仅提供 AI 外呼服务,还能免费提供筛选后的公民电话号码资源。小红书
后台数据更直观:仅一家贷款公司就启用 300 个 AI 机器人,5 天呼出 34 万通电话,接通超 69000 个。3 月是 300 个机器人 5 天 34 万通,7 月是日呼 20 万通。半年时间,产能翻了不止一倍,而号码资源是白送的。小红书
后果已经写在了每个人的通话记录里。有统计说,如今「拒接陌生电话」成了很多人的共识,陌生来电接听率不足 11%,中青年拒接比例很高,移动通话总量也明显下滑。十个陌生来电里,愿意接的不足一个。这已经是一种全民自发的行为改变了。微博
现在把两个方向并排放,错配就很清楚了:
你在防的是「我的声音被偷走,去骗我爸妈」——上海反诈中心说,这类案例目前还没接报到;新华社说,这类声音在黑市上十几块钱就有成品。
真正在发生的是「我的数据已经被掌握了,AI 打电话来骗我」——一天 20 万通,300 个机器人 5 天 34 万通,号码库免费送,两个月上千人,千万流水。
一个是防输出,一个是防输入。你在这边练闭嘴,骗子在那边练读心。
王先生上当不是因为听出了谁的声音,是因为对方报得出他的借贷记录。这种情况下,他沉不沉默三秒,一点区别都没有。
第三本账:设置账——那到底该做什么
说完了什么不该信,说该做什么。我按「零成本 → 手机自带 → 装个工具」三层排,每层都写清楚具体路径。
第一层:把「练闭嘴」换成「练回拨」,零成本,今晚就能跟爸妈说
上海反诈中心给的官方口径其实很朴素:涉及转账汇款,不能仅凭声音轻信,要交叉核实。
但这里必须打一个 2026 年的补丁——视频核实本身也不再是终点。微博智搜在回答「视频确认会不会生成人脸」时给的判断是:仅需一张正面照片和几秒语音,程序就能生成以假乱真的动态人脸视频,包括摇头、眨眼等动作。郭先生 2023 年就是打视频确认过的。
所以真正硬的是这三招:
① 回拨原号码。 不是回拨来电显示的那个号,是从你自己的通讯录里翻出这个人原本的号码打回去。骗子能改来电显示,改不了你通讯录里存的号。
② 设一个家庭暗号。 一个只有家里人知道的问题,任何涉及转账的通话先问这个,答不上就挂断。这一招对 AI 换脸、AI 变声完全免疫——因为它验的不是「像不像」,是「知不知道」。而「知不知道」这件事,目前没有任何模型能从公开语料里推断出来。这也是为什么前面那位用南通金沙话跟家人打电话的用户,判断是「AI 模仿的可能性为 0」。
③ 记住公安部刑侦局那四句。 9 月 30 日公安部刑侦局发过一版提醒,把当下的 AI 骗术压缩成了四个场景:免费 AI 培训是智商税、电话里儿女喊救命可能是 AI 拟声、网上帅哥美女说爱你可能是 AI 换脸、路边求你念串数字转头就把你银行卡搬空;对应的口诀是不贪心、不轻信、不露脸、不念数,拿不准就打 96110。「不露脸、不念数」这五个字值得单独说。上海发布 9 月 3 日提示过一种新套路:骗子以看不清为由,让热心路人对着正在视频通话的手机朗读银行卡号,只要对着镜头读出数字,就可能被同步抓取人脸和声音信息,在网贷平台冒用身份贷款。帮个忙念串数字,代价可能是一笔网贷。这比「喂」危险一百倍,但没人给你转这条。微博微博
顺带一个反常识的补充:96110 本身也有假版本。有博主提醒,除了一些固定区号,其他带前缀的 96110 都是诈骗电话。微博
更荒诞的是,反诈中心自己现在也用 AI 打电话了。8 月 26 日有用户发微博说,河北保定反诈中心给他来电话,不是真人是 AI 声音,说监测到有疑似诈骗电话打给他,他反倒觉得这个才像诈骗电话。当防诈的一方也开始用 AI 外呼,「听声音判断真假」这条路就彻底走不通了。这也是我为什么坚持:验身份靠回拨和暗号,不靠耳朵。微博
第二层:手机自带的 AI 防诈,2026 下半年才刚成为标配,绝大多数人不知道要开
这是我这次翻资料最意外的发现:「检测 AI 合成语音」已经成了国产手机系统的正面竞争项,而且大多藏在设置深处,默认状态五花八门。
华为 HarmonyOS 星盾防诈
华为终端官方号 9 月 24 日发过一条,标题就是「防诈骗,有鸿蒙」,主打六大 AI 防诈能力。小红书
用户实测整理出来的核心几项:
AI 变声检测:支持在通话时识别伪造音并进行提醒
风险二维码识别:自动拦截
诈骗网页检测:基于网页内容做涉诈检测并及时预警
其中「通信防护」这一项讲得最细:视频通话时会检测对方是否使用 AI 换脸,接打陌生电话时会检测通话内容是否存在诈骗风险;同时会拦截云端标记超过 10 次的骚扰和高风险电话、垃圾短信以及海外陌生号码的来电和信息。开启路径是「设置 → 隐私和安全 → 骚扰和诈骗拦截」,一键开启智能防诈:小红书


有用户的版本对比说得很到位:「我记得鸿蒙 6 是没有诈骗话术的,鸿蒙 7 除了能识别出骗子的话术,还能检测到 AI 变声,这样就不怕那种冒充亲人朋友的电话骗局了。」凰家评测 9 月 15 日做过完整实测,覆盖高风险号码拦截、剧本识别、网页风险检测、AI 变声换脸识别,标题就叫「诈骗全链路实测,看看它能防到哪一步」。
但华为这套里最值得你花时间的,其实不是给自己开,是给爸妈开——「亲情防诈」。
这是系统自带的远程守护,不用装任何 App:你和你爸妈的手机都升级到鸿蒙 6 及以上、登录不同的华为账号、全程联网,就能绑定。爸妈那台在「设置 → 隐私和安全 → 星盾防诈 → 亲情防诈」里选「我是被守护人」生成绑定码,你这台同样路径选「我是守护人 → 守护家人 → 扫码添加」,爸妈点同意、输华为账号密码验证,绑定完成后自动开启全家联防。小红书
能力是「远程监控风险通话、一键挂断」。换句话说,你爸妈正在被骗子拖进长时间通话时,你可以在异地直接把那通电话掐掉。
这个功能的价值,比任何口诀都高——因为口诀要靠当事人自己想起来,而亲情防诈不需要他想起来。
荣耀 MagicOS 11「AI 通话助理」
一个 Magic9 Pro Max 用户 10 月 1 日发的实测,细节很值得看:通知栏直接弹出「AI 通话助理已拦截疑似诈骗来电」,点进去能看到完整的电话录音 + 文字转写。他的原话是:「说实话,那一刻有点后怕:如果是长辈接到,可能真就信了。」小红书
拦截逻辑也不是简单的号码黑名单——设置里可以把来电按「广告推销」「房产中介」等类别自定义,让 AI 通话助理直接接听,同时做电话内容反诈检测。
OPPO ColorOS「防诈保护」
ColorOS 官方号 8 月 5 日发布过两块能力:通话防诈(检测通话中的 AI 合成语音和诈骗话术风险)和跨应用防诈(检测通话、浏览网页、安装应用等多场景联动风险)。顺便说一句,这不是 ColorOS 16 才有的新东西——早在 2025 年 3 月 ColorOS 15 就上线过「合成语音识别」。功能存在了很久,但绝大多数人不知道要去开。小红书
vivo OriginOS 6
X300 系列起提供 AI 诈骗电话拦截。
iPhone:设置 → App → 电话 → 过滤未知的来电 → 勾选「询问致电原因」
苹果这条路子和国产不太一样,它不做「检测 AI 声音」,而是直接让系统替你接:当有「未显示号码」或通讯录之外的陌生人打来时,手机会自动进入拦截模式。小红书

iPhone 会替你出面跟对方说:「你好,若你录下姓名和致电原因,我会查看此人是否可以接听。」骚扰电话一听这架势八成立马就挂,外卖小哥会说「您的外卖到了」,这时你再选择接听。
一句话总结这一层:如果你或者你爸妈用的是 2026 下半年更新过系统的手机,先花五分钟去「设置 → 隐私和安全 / 安全」里翻一遍,大概率有个防诈开关是关着的。
这比练沉默三秒有用得多。区别在于:沉默三秒靠的是你那一刻的意志力,系统防诈靠的是它每一次都在跑。
避坑:AI 代接和 AI 防诈都有代价,别踩这三个
前面把系统防诈说得很美,但真实使用有三个坑,我必须讲清楚。
坑一:AI 代接可能反向给你加标签。
小红书 4 月 3 日有一条标题很扎眼的笔记:《碰到网贷营销,千万别让小艺帮接!》作者说,近 24 个小时频繁接到网贷的营销电话,约摸有七八个,明显异常,往前翻了翻发现症结在前两天用了小艺帮接。他的推测是「两 AI 聊上了」,系统根据通话时长或关键词把他筛进了重点客户,名单转手又卖给了其他网贷营销、助贷机构。小红书
这是个人观察,只有一例样本,不是厂商公告,我不当成定论。但逻辑完全讲得通:AI 代接会让你的号码在对方系统里显得「接通率高、有互动、有停留时长」,而这正是营销名单最想打的标签。你以为你在挡骚扰,可能在给自己加权。
有意思的是也有相反的体验。前面那位 9 月 24 日的用户就说,骚扰电话直接交给 AI 对付很爽,不用自己跟推销拉扯,还不用直接粗暴挂断导致对方反复拨打。
两种体验都真实,差别在场景。我的建议是:
对「贷款、理财、退款、注销账户」这类关键词,别让 AI 代接聊下去,直接挂断或交给系统拦截。乐清案那套话术,AI 聊得越久,被判定为「有意向」的概率越高。
AI 代接更适合快递、外卖、纯推销这类你根本不想接、又不怕误伤的场景。

坑二:隐私代价。
B 站那个 29.9 万播放的《五大旗舰 AI 防诈横评》评论区,有一条把成本说透了:「从另一方面来说,打开这个功能就等于把语音、视频内容完整上传给厂商,用户毫无隐私可言。」
这是实话。AI 变声检测、通话内容反诈识别,本质上要求系统能听到你的通话。你要在「防诈强度」和「通话隐私」之间做一次明确的选择,而不是稀里糊涂地把开关全打开。
如果你的通话里经常涉及商业机密、医疗信息,或者单纯不想被云端处理,那就只开「高风险号码拦截」和「诈骗网页检测」这类不需要听内容的部分,把「通话内容检测」关掉。
坑三:误报,以及别指望它万能。
同一个评论区里有荣耀 Magic7 用户的实证:「有次外包单位给我来电话说工作的事,也给我报诈骗了,但实际对方微信也在同步给我发文件,确实是真人,不知道判断依据是什么。」
而那期横评的标题本身就是结论——《「小白」全军覆没?五大旗舰 AI 防诈横评!》,播放 29.9 万、点赞 8259。哔哩哔哩
所以正确的期待是:手机防诈是一道过滤网,不是一堵墙。它负责把 20 万通里的绝大多数挡在外面,剩下的判断还是得靠第一层的回拨和暗号。
还有两个补充方案:
运营商级拦截。有用户指出验证码轰炸「哪家都拦不住,因为都以为是自家人,除非运营商官方开拦截」,中国移动可以搜「中国移动拦截保护」。这一层的覆盖面比手机厂商广。
第三方远程守护。Truecaller 有个「家庭保护」,可以远程挂断家人的高危来电——思路和鸿蒙「亲情防诈」一样,都是把干预权交给子女。国内还有接听宝、铃智铃这类 AI 接听助手。
最后,开完一定自己打一通测试。小红书 8 月 22 日有一条吐槽帖底下堆了 19 条评论,都在问同一件事:「为什么鸿蒙 7 小艺帮接各种功能设置已经打开,但是来电就是不生效?」功能开了不等于在工作。
第三层:国家反诈 AI App——比转发口诀更适合发家族群
9 月 6 日上线,公安部刑侦局指导、上海市公安局自主研发。注意它和 2021 年那个「国家反诈中心」是两个东西,别搞混。微博
三大功能:
AI 大模型智能问答:你把可疑场景描述给它,它从诈骗风险分析、诈骗类型识别、防范建议几个维度回答,还会同步关联视频案例
反诈资讯:内嵌国家反诈中心和上海「803」反诈新媒体矩阵,更新高发诈骗类型预警和典型案例手法拆解
反诈辞典:内嵌《防范电信网络诈骗宣传手册》《全民防骗指南》电子版,支持分类浏览、关键词检索和语音朗读
各大手机应用市场可下载,微信、支付宝小程序同步开放。
为什么我说它比转发「沉默三秒」更适合家族群?因为沉默三秒是一条肌肉记忆,而这个 App 是一个当场能用的研判工具。
你爸妈遇到「对方说我名下有个贷款要注销」这种具体场景时,肌肉记忆帮不上任何忙。但把这句话原样丢进 App 里问,是能出结果的。这个差别很实在。
不过这里有个真实的传播障碍,评论区吐槽得很到位。一条 20 赞:「为什么不给保存,我想发家族群。」另一条 6 赞更狠:「作为官方号,这种科普视频为什么不允许下载保存?下载了发给老人看,转发链接会跳到下载 app,多一个 app 增加更多被诈骗风险,老人不需要。」
所以更现实的做法是:你自己先装好、跑一遍,然后直接把微信或支付宝小程序的入口发给爸妈。小程序这条路径对老人的友好度,比让他们多装一个 App 高一个量级。
顺便给一条判断 AI 外呼的土办法,来自一位被贷款电话骚扰到去研究的用户:真 AI 外呼接起来是预设语音播报,听到你说不感兴趣或按键后会立刻结束,不会反复追问、不会临时改变话术;真人工客服会主动报工号,你让他重述他会重述,你说等等他会等你说完。他的结论很清醒——用不着分辨是不是 AI 机器人,分辨是不是官方就够了,机器人不是问题。小红书
这句话应该是整篇文章的方法论:AI 只是载体,骗术还是那套骗术。你要验的从来不是「对面是不是机器」,是「对面是不是真的」。
把镜头拉远:为什么这件事会一直吵下去
最后拉远一层,因为这毕竟是 AI 行业动态,不只是一条反诈提醒。
10 月 4 日,奥特曼上了一档政治媒体的科技播客。他的表态是:他和一些更严格的 AI 安全派人士最大的区别在于,他们相信世界应该接受一些坏事发生,以换取这项技术带来的好处,以及人们拥有自主选择的权利。他点名的「坏事」里,就有 AI 诈骗。微博
10 月 7 日,辛顿给出了完全相反的方案:AI 企业应像制药行业一样,产品发布前向监管机构证明安全性。他拿药品审批做类比——新药上市前要说服 FDA,投入可能达十亿美元级;他还提到 OpenAI 因安全和权限担忧搁置了新模型,并警告递归式自我改进可能让局面在一两年内恶化。同一天知乎上就挂了个问题:《辛顿建议 AI 行业建立 FDA 式审批机制,这一方案在实操中具备可行性吗?》微博
这也不是孤立的嘴仗。往前推一周,9 月 28 日包括辛顿、Bengio 在内的 22 位 AI 学者联名发论文《如果自动化 AI 研发触发「智能爆炸」会怎样?》;往后看一天,10 月 6 日英国政府宣布全盘接受「医疗 AI 监管国家委员会」的 44 项建议,AI 医疗器械监管转向「全生命周期持续评估」。
监管这条线在收紧,能力那条线在加速。而夹在中间的,是普通人手机里那个还没打开的开关。
同一时间还有两条更具体的信号。
36 氪 10 月 3 日援引 Anthropic 的报告:一家位于中国的应用开发工作室运营了 20 多款交友应用,对外声称用户交流的对象都是真人,实际却在匹配列表中混入大量由 Claude 驱动的 AI 人设,真人兼职人员只负责视频通话这类 AI 难以完成的环节;在 2026 年 4 月的两周观察期内,超过 4700 个 AI 人设与至少 2.5 万名不同用户交谈过。看清楚这个结构:AI 负责海量铺量,真人只在 AI 搞不定的关键环节补位。乐清案那套「AI 引流 + 真人收割」,和这套「AI 人设 + 真人视频」,是同一个模子。36氪
10 月 6 日还有另一条:Android Authority 拆解谷歌安卓安装包发现,Pixel 的「代我通话」(Call for Me)正从「替你拨打商户电话、协助预约」拓展到代拨私人亲友电话,曝光的示例指令包括「给妈妈打电话说我晚到 15 分钟」,由 Gemini 负责转达,接听方可选择拒接 AI 来电。
知乎上一位上海锦坤律师事务所的主任律师夏燕峰,就这件事给了四条判断:
AI 替你订立的合同,有效,法律效果归你(《电子商务法》第四十八条)
AI 出错造成损失,平台不能用一句「免责条款」甩锅(《民法典》第四百九十七条)
AI 用「你的声音」打电话,必须取得单独授权——《民法典》第一千零二十三条第二款规定,对自然人声音的保护,参照适用肖像权保护的有关规定
AI 来电不加标识,既不合规,更是给诈骗递刀(《人工智能生成合成内容标识办法》2025 年 9 月 1 日施行,要求显式标识和隐式标识)
把这四条和前面三本账连起来,一个趋势就非常清楚了:
正规厂商在做的是「AI 来电必须亮明身份」,诈骗在做的是「AI 绝不亮明身份」。
这两条线一旦拉开,「能不能识别出对面是不是 AI」就从一项合规义务,变成了手机厂商的正面卖点。华为鸿蒙、荣耀 MagicOS 11、OPPO ColorOS、vivo OriginOS 6 在 2026 下半年集体把「检测 AI 合成语音」写进系统级能力,不是巧合——它们卖的其实就是那个「标识」,只不过是从接收端反向补上的。
接下来值得盯的三个信号:
各厂商系统更新日志里,「AI 合成语音检测」有没有从旗舰下放到中端机——这才是覆盖面真正拉开的地方
国家反诈 AI App 有没有上 iOS、有没有开放更多入口
运营商侧对 AI 批量外呼的治理。乐清案那一天 20 万通、3·15 暗访那 5 天 34 万通,走的都是运营商网络。这个源头不掐,前端拦截永远是被动挨打。
微博那条警方回应下面有句评论,说得比大多数分析都直接:「除了教百姓要这样那样外,没有办法掐源头吗?」
最后
回到最开始那个问题:家族群那条「沉默三秒」,还要不要转?
我的看法是——不用去纠正它,但也别指望它。
它不至于有害,最坏的结果是你接电话时多愣三秒,顺便显得比较有警惕性。但如果家里真有人以为「做到沉默三秒就安全了」,这个认知是有代价的:它会让人忽略掉真正在发生的那一类——对方报得出你的借贷记录、你的贷款额度、你的快递信息,然后用「影响征信」和「法务起诉」压你,一天 20 万通,专挑会接的人。
真正值得花时间的四件事,按性价比排序:
1. 今晚就把手机里那个防诈开关打开。 华为:设置 → 隐私和安全 → 骚扰和诈骗拦截(星盾防诈);荣耀:AI 通话助理;OPPO:ColorOS 防诈保护;vivo:OriginOS AI 诈骗拦截;iPhone:设置 → App → 电话 → 过滤未知的来电 → 询问致电原因。五分钟,系统级,不靠意志力。开完自己打一通测试。
2. 如果你和爸妈都用华为,把「亲情防诈」绑上。这是目前唯一能让你在异地直接掐断爸妈那通诈骗电话的系统级方案,不用装 App,不用教口诀。
3. 跟爸妈约一个家庭暗号,并且定一条铁律:涉及转账,一律回拨通讯录里的原号码。不看来电显示,也不只靠视频——2023 年那位被骗 430 万的郭先生,就是打视频确认过的。
4. 把国家反诈 AI App 的微信或支付宝小程序入口发给爸妈,让他们遇到具体场景时能当场问,而不是靠记住某条口诀。
至于「5 秒克隆声音」——技术是真的,十几秒也确实够,灰产报价从十几元到几百元、单店成交上千次也是真的。但上海警方那句话说得对,那只是链条的第一步。
真正让人上当的,从来不是声音像不像,是信息准不准。
你在这边练闭嘴,骗子在那边练读心。方向搞反了,再努力也白搭。
校验提示文案
校验提示文案