什么值得买App下载 App ›
连续签到专享现金活动

那通"儿子出事了"的电话,声音可能是拿你自己发的语音合成的

去年4月,湖北黄石三位老人先后接到"孙子"来电:撞了人,要私了,快拿钱。老人慌了,把现金交给上门来取的人,前前后后共6万。案子最近被最高法列为典型案例披露出来,骗子判了诈骗罪,有期徒刑二年一个月。全程没露脸、没变声器,靠的就是一项很常见的技术:AI声音克隆。澎湃新闻

这个11月,“AI拟声骗老人”"怎么判断电话那头是不是本人"这类话题又在知乎、微博刷了一轮。技术圈玩克隆越玩越顺,骗子圈跟着水涨船高,这篇文章把两件事一次说清:克隆到底有多容易,以及电话里到底拿什么验真。

克隆一个"亲人",要多久?

OpenAI在2024年展示过的语音模型Voice Engine,大约15秒语音样本加一段文字,就能生成音色相似的新句子——不需要你本人说过这句话。克隆走的是音色规律,不是拼贴录音。知乎

那通"儿子出事了"的电话,声音可能是拿你自己发的语音合成的

大家最慌的是素材从哪来。群聊语音、朋友圈视频、输入法语音输入,评论区有人说"早都被采集完了";还有网友说自己刷到过"录两三个小时对话,一天给40到60块"的征集兼职。警方9月回应"接电话会被采集声纹吗"时的口径是:确有可能,但尚无诈骗案例。看看新闻

那通"儿子出事了"的电话,声音可能是拿你自己发的语音合成的

“听着像"不等于"能接话”

克隆复制的是嗓子,不是记忆。样本里没经历,合成音就答不上来——除非骗子另配了真人或实时对话系统。看度新闻援引一位民警的判断:AI仿声诈骗的完整链条"不容易实现"。看看新闻

人耳也不是完全没用。伦敦大学学院2023年发在PLOS ONE的研究,529名受试者只听一条音频,能揪出约73%的合成音;给一真一假两条对照着听,正确率还会更高。别赌"我听不出来",也别赌"我一定听得出来"。 最后一道确认,不该交给耳朵。

三招验真,验的是事不是声音

那通"儿子出事了"的电话,声音可能是拿你自己发的语音合成的

  1. 挂断,回拨你手机里本来就存的号码。 问本人"你刚才给我打电话了?"。不要用对方刚发来的联系方式,也不要只照着通话记录回拨——来电显示可以伪造,这是港警方警告过的。知乎

  2. 问一个答案不外露的问题,而且别自己说出答案。 “我叫什么名字"这种题白送。问"上礼拜去姥姥家你带了啥”,让他答,你闭嘴。

  3. 跟家里老人提前约一个没外传过的暗号。 但暗号只是加一层难度:答对了也不等于可以马上打钱,仍然要走第1招独立核实。

视频通话也别全信。2023年内蒙古那位郭先生,被AI换脸加拟声的"好友"在10分钟视频里骗走430万。底线就一条。涉钱的"亲人"来电不当场答应,先挂断、再交叉核实。央视新闻

源头那边,正在收紧

《民法典》第1023条明确声音参照肖像权保护;《互联网信息服务深度合成管理规定》要求AI生成内容做显著标识。今年7月底虞书欣工作室发声明,追责盗用其肖像声音的AI短视频和AI短剧,11月又被知乎网友翻出来讨论侵权判定。从法律到名人,反噬已经开始,普通人的声音同样在射程内。微博知乎

那通"儿子出事了"的电话,声音可能是拿你自己发的语音合成的

有篇讲AI拟声骗老人的文章,标题起得挺扎心:“老人没傻是没人陪”。骗子利用的不是老人警惕性低,是"孩子随时能接通"这件事本身给的信任。最便宜的防骗方案其实免费:你打电话的频率高过骗子,再顺手把暗号约好。

评论

评论区空态插画

当前文章无评论,是时候发表评论了