当AI换脸进入家人视频通话:暗号已经失守、"先别出声"只防一半,系统检测弹窗其实只有两家

源自245位全网作者

19:16

“国庆前还只敢语音装熟人的骗子,已经在视频里顶着你家人的脸要钱了。”

10月6日,一条小红书帖被顶上换脸话题的热区:博主接到朋友视频通话,声音感觉不对,刚聊几句,手机弹出提醒——检测到疑似AI换脸合成。她挂断后回拨原来的号码,朋友说根本没打过这通电话,号出了问题;博主说,是提前打开的系统检测救了她。小红书

评论区却吵成两半:有人问"老机型有没有这个功能",有人断言"故事是编的,这是接的广告",还有一派担心内置监控。小红书

这条帖子的价值不在站队,而在于它把三件事同时摆上了桌面:骗术已经"见面",检测真的能弹窗,而多数家庭既说不清检测保不保真,也不知道除了"别转账"还能做什么。这篇只解决一个问题:假期结束这几天,普通家庭(尤其父母那端)现在值得做的防换脸动作,哪些是真屏障,哪些是心理安慰。

当AI换脸进入家人视频通话:暗号已经失守、

一、这波预警不是例行宣传,是骗术改道的信号

把最近一周的公开动作连起来看,方向非常一致:10月5日、10月8日,中国电信连发反诈视频,主题是同一句:AI换脸太逼真,借钱视频别轻信。10月7日,中国移动跟进"眼见未必为实"的警示。同一天,一个"青春与法同行"话题下的法治科普账号讲了完整剧本:先一通"儿子"的声音来电,哭诉手机和银行卡尽数遗失,央求父亲添加"旁人"的微信视频,接通后屏幕里分明是儿子的脸。微博微博微博

10月5日,澎湃新闻转央视口径,中科大网络空间安全学院执行院长俞能海给的现场招是:让对方摁鼻子、摁脸,观察其面部变化。澎湃新闻

更早的锚点案例:2023年4月20日,福州一位科技公司法人接到"好友"微信视频称竞标需要保证金,10分钟被转走430万元——事后真好友毫不知情,这是包头警方当年通报的AI换脸电信诈骗典型案例。最高法机关报2024年把这组数字复盘过一次:"好友"突然打来视频通话,10分钟被骗430万;多人视频会议只有自己是真人,被骗2亿港元;和"大学同学"视频通话五秒,被骗转账3000元。微博人民法院报

也就是说,"声音克隆+实时换脸"早就完成了从实验室到剧本化的过程。今年6月,AI音频从业者告诉中国蓝新闻:接到陌生电话千万不要先出声,只需5秒,AI就能复制你的声音,再去诈骗你的亲朋好友。视频换脸则是最后一步——它恰好落在中国人最没有防备的场景:家里人打来的视频电话。中国蓝新闻

二、流传最广的三个招:一个要改设计,一个只对一半,一个别神化

招一:家庭验证暗号——能用,但"你家狗叫什么"大概率已经漏了。

小红书10月5日另一条热帖的剧本是:妈妈接到"我"打来的视频电话说要急用,多问了一句小时候养的狗叫什么,差点省下的这笔钱后来成了全网给父母的"暗号"范本。这个思路是对的,问题在题库。骗子既然能顶着换脸来,通常已经把你的社交主页、家庭群截图翻过一遍——宠物名字、母校、孩子大名这类答案,本身就是可挖掘信息。暗号要守"三不":不用在网上晒过答案的、不用熟人猜得到的、不用常识问答的。改用反事实题:一个没发生过的假设(“咱家要是开店,你会卖什么”),答案只存在于你们的共同记忆里,社交网络上不存在。小红书

招二:“接电话先别出声”——防的是声音,防不了视频。

5秒声纹克隆是真的风险,这条提醒适合直接给父母设成简单习惯。但它对已经打进来的换脸视频通话没有任何拦截作用,别把"不出声"误会成"已防护"。

招三:系统级"换脸检测弹窗"——真实存在,但要按机型分层信。

目前公开信息里,手机端做实时检测、且被多方验证过的主要是两家。

华为鸿蒙7:9月7日正式发布时把"星盾防诈"作为主打升级之一,支持AI变声与换脸检测,官方称拿到行业首个五星级防诈认证。9月中旬凰家评测的完整链路实测覆盖高风险号码拦截、诈骗剧本识别、网页风险检测、AI变声换脸识别。微博凤凰网

当AI换脸进入家人视频通话:暗号已经失守、

功能入口在设置>隐私和安全>星盾防诈,同意开启后全部能力生效。评论区对机型覆盖最高赞的答复很直接:“能更新到7就有”。小红书小红书

当AI换脸进入家人视频通话:暗号已经失守、

荣耀MagicOS:MagicOS11新增"亲情防诈",被守护端升级后,绑定守护人的家人遇到诈骗风险,守护人可以远程挂断诈骗电话、拦截风险支付。这等于把"防护"从手机端的弹窗,升级成了子女在另一端的"止损"动作。9月更新的超级反诈防护在通话场景由YOYO实时甄别,识别到风险直接弹窗提醒,荣耀体验店与用户实测口径都强调数据本地留存、不依赖额外APP。截至本文,两家都没有公布可验证的误报率、漏报率,所以弹窗的正确用法是"多一条线索",而不是"没弹窗就安全"。微博微博

当AI换脸进入家人视频通话:暗号已经失守、

三、按设备分层,今晚就能做的动作

  • 家里能升级鸿蒙7的华为机型:进设置>隐私和安全>星盾防诈确认开关在开;用家庭守护类功能把父母拉进守护关系,风险来电同步到子女端。

  • 荣耀MagicOS11及新Magic系列:开启超级反诈防护,绑定亲情防诈守护人——这是目前少数能让子女"远程止损"的系统能力。

  • iPhone与其他安卓、升不了系统的老机型:没有可核实的系统级实时换脸检测,也别为这一个功能急着换机。10月8日知乎当天的防诈手机选购总结说得很清楚,重点不是有没有防诈开关,而是风险识别覆盖多少真实场景、家人能否及时参与处理。协议层的防线对全设备通用:反事实暗号、挂断回拨原有联系人、大额转账设隔夜冷静期(银行APP普遍支持延迟到账)。知乎

当AI换脸进入家人视频通话:暗号已经失守、

  • 常开多方视频会议的人:2亿港元那起案子的场景是多人会议。验证对象不是"熟人脸",而是"批款身份"——财务流程里凡是视频催款,一律线下或电话二次确认。

四、规则在补课,但别指望规则替你挽损

9月7日,最高人民法院公开发布《关于依法审理涉人工智能纠纷案件的意见》,就AI换脸、AI拟声等社会广泛关注的问题明确了裁判规则。例如,未经自然人同意,生成、使用或公开可识别其本人的虚拟形象,构成对姓名权、肖像权等人格权益的侵害;生成式AI服务提供者接到通知未及时采取必要措施的,要依法承担侵权责任。光明网

更早的今年1月1日,新修改的网络安全法施行,其中新增人工智能安全与发展专门条款,为相关治理提供了进一步的法律支撑。配套的AI生成合成内容标识办法已施行一年多,显式加隐式标识给事后溯源留了抓手。10月7日,谷歌宣布联合OpenAI、英伟达、Kakao共同拓展SynthIDDetector验真通道,苹果也宣布即将加入,平台可上传图片、音频或视频检查是否由AI生成。北京市市场监督管理局10月8日的提醒则是:无标注的AI广告大概率不合规,素人的自拍、生活视频也可能被违规抓取去合成。光明网微博南都N视频

这些都改变不了一个顺序:法律追的是事后的责任,钱是在通话那10分钟里转出去的。

五、这周值得继续盯的三件事

  1. 更多厂商的系统级换脸检测是否公布可验证的误报/漏报口径;

  2. 运营商与公安在假期后是否升级"视频通话核实"类专项提示;

  3. 苹果相机隐式水印、SynthID接入后的跨平台验真,能否从"事后查文件"走到"通话中提醒"。

"眼见为实"的默认权确实在过期。但家庭之间的信任不需要昂贵设备来维持——它只需要一条今晚就能定下的规矩:视频里要钱的,先挂断,再打回去。

内容由AI生成

精选参考来源

1. 鸿蒙,你差点让我当上“冤大头”!

2. 6ac3b1be0000000015009500

3. 鸿蒙7星盾防诈,筑牢用机安全屏障

4. AI换脸太逼真,借钱视频别轻信!提醒您:视频通话多确认,转账汇款多核实!中国电信的微博视频

5. 眼见未必为实!警惕AI换脸诈骗#反诈#中国移动的微博视频

6. #青春与法同行#诸位江湖百姓,听安小侠一句劝,如今歹人已习得AI幻术,伪造音容虚实难辨,稍有不慎便会破财上当!近日有位老

7. 电信诈骗分子或通过AI换脸、模拟变声等,假冒熟人进行诈骗,中国科技大学网络空间安全学院执行院长俞能海提醒,可以让对方摁鼻

8. 随着人工智能的迅猛发展,诈骗团伙的诈骗手段也越来越科技化,竟然用上了AI换脸技术。近日,包头警方发布一起利用人工智能(A

9. #反诈反赌人民法院在行动#【#通话视频可能是AI生成#】“好友”突然打来通话视频,10分钟被骗430万;多人视频会议只有

10. 【#接到陌生电话千万别先出声#】#陌生电话只需5秒就可复制声音#警惕新型诈骗!从事AI音频创作的技术人员告诉@中国蓝新闻

11. HarmonyOS7正式发布了,基于空间计算能力带来了全新的设计美学,同时系统底层也升级到了Agent亲和的架构。全新小

12. 现在诈骗早就不是简单的骚扰电话了,定制剧本、AI换脸、AI变声、境外号码伪装轮番上阵。凰家评测完整实测HarmonyOS

13. 荣耀#MagicOS11#隐私安全再次升级,新增亲情防诈,绑定守护人后,遇到诈骗风险守护人可远程挂断诈骗电话、拦截风险支

14. 很喜欢这种默默守护的系统小能力。通话场景唤醒YOYO,实时甄别诈骗话术,一旦识别风险直接弹窗预警。所有数据本地留存,不用

15. #谷歌推进AI内容溯源防伪查询#就在今天,Google官方宣布了一个重要进展:Google、OpenAI、NVIDIA、

16. #市监局提醒素人照可能被AI盗用#【监管部门提醒素人照或被抓取用于AI广告!南都多次调查乱象】#你的自拍可能正被AI拿去

17. 千元档防诈,2026年诈骗防护手机选购

18. 以网络安全法治护航人工智能健康发展

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章