10秒就能复制你的声音,AI诈骗已盯上所有人,有人10分钟被骗430万
01技术门槛:声音如何被“偷走”
声纹是每个人说话时产生的声波图谱,包含音色、音调、语速、口音、呼吸节奏、情绪起伏等上千种细微特征。据央视《法治在线》2026年4月报道,记者仅对着话筒说了一句日常话语,专家从中截取短短1秒钟的清晰音频,导入一款普通的声音克隆软件,几秒钟后软件生成了一段全新语音,音色、语调、气息停顿都与记者本人高度重合,普通人根本听不出差别。这意味着,只需5至10秒的清晰人声样本,就足以提取核心声纹特征,完成基础声线训练。
技术实现分为三个阶段:第一阶段是声纹特征提取,AI系统将声音的声学特征转化为数字形式;第二阶段采用“对抗生成网络”(GAN)原理进行训练优化,生成器尝试生成与目标声音高度相似的语音,判别器负责分辨真假,两个AI系统经过成千上万次迭代优化后,判别器再也无法分辨真假。第三阶段是文本到语音生成,克隆完成后,骗子只需输入任意文字,AI就能在极短时间内生成具有目标声音特征的完整语音,且可随时进行、批量生产,成本极低。
值得注意的是,骗子获取声音样本的渠道非常广泛。公开的短视频、直播平台是主要来源之一,抖音、快手上的口播视频容易被截取音频。此外,微信语音消息、朋友圈语音条、电话通话录音、甚至陌生来电中你随口应答的几句话,都可能成为克隆素材。部分二手交易平台上,声音样本明码标价,普通配音演员的声音50至200元一套,知名主播500至2000元,头部大V达5000元以上。1234
技术实现分为三个阶段:第一阶段是声纹特征提取,AI系统将声音的声学特征转化为数字形式;第二阶段采用“对抗生成网络”(GAN)原理进行训练优化,生成器尝试生成与目标声音高度相似的语音,判别器负责分辨真假,两个AI系统经过成千上万次迭代优化后,判别器再也无法分辨真假。第三阶段是文本到语音生成,克隆完成后,骗子只需输入任意文字,AI就能在极短时间内生成具有目标声音特征的完整语音,且可随时进行、批量生产,成本极低。
值得注意的是,骗子获取声音样本的渠道非常广泛。公开的短视频、直播平台是主要来源之一,抖音、快手上的口播视频容易被截取音频。此外,微信语音消息、朋友圈语音条、电话通话录音、甚至陌生来电中你随口应答的几句话,都可能成为克隆素材。部分二手交易平台上,声音样本明码标价,普通配音演员的声音50至200元一套,知名主播500至2000元,头部大V达5000元以上。1234
02产业链:从采声到变现的完整链条
AI仿声产业链已高度成熟,分为采声、技术加工、变现三个主要环节。在采声环节,最笨的法子是从抖音、B站、喜马拉雅等公开平台扒取内容,游戏解说、有声书、带货直播全是素材;有技术人员声称“10分钟高清音频,够炼一个基础模型”,更直接的途径是直接购买现成样本。更黑的方式是主动出击,用自动拨号系统批量拨打陌生号码,故意沉默或只放杂音,等你先开口说话,再把录下的语音喂进AI工具。
技术加工环节的门槛同样大幅降低。GitHub上有大量开源项目,有的已获10万星,稍微会点代码就能本地运行,甚至Macbook Pro也能炼模型。更便捷的方式是使用云平台,上传音频、调几个参数、等几小时,模型就下好了,一个月会员几百元。专业黑产团队会针对场景专门优化:带货版本、客服诈骗版本、冒充熟人版本各有调校。二手平台上,每50字收费不到1元,商家甚至直言“问就是有侵权”。
变现途径主要包括短视频带货和电信诈骗两类。据报道,一个AI配音账号一天能产上百条视频,美妆、数码、食品全覆盖,不用真人出镜,成本几乎为零,“中等规模工作室月入几十万挺正常”。电信诈骗则更直接,骗子从社交平台获取几秒语音样本克隆后,冒充亲友谎称出事急需用钱,利用焦急情绪攻破心理防线,成功率极高。1534
技术加工环节的门槛同样大幅降低。GitHub上有大量开源项目,有的已获10万星,稍微会点代码就能本地运行,甚至Macbook Pro也能炼模型。更便捷的方式是使用云平台,上传音频、调几个参数、等几小时,模型就下好了,一个月会员几百元。专业黑产团队会针对场景专门优化:带货版本、客服诈骗版本、冒充熟人版本各有调校。二手平台上,每50字收费不到1元,商家甚至直言“问就是有侵权”。
变现途径主要包括短视频带货和电信诈骗两类。据报道,一个AI配音账号一天能产上百条视频,美妆、数码、食品全覆盖,不用真人出镜,成本几乎为零,“中等规模工作室月入几十万挺正常”。电信诈骗则更直接,骗子从社交平台获取几秒语音样本克隆后,冒充亲友谎称出事急需用钱,利用焦急情绪攻破心理防线,成功率极高。1534
03真实案例:诈骗手法与危害程度
AI声音克隆诈骗已造成重大财产损失。公安部数据显示,2026年AI诈骗案件量同比暴增300%。据美国联邦调查局(FBI)数据,2025年美国公众因AI相关诈骗损失超过8.93亿美元,其中语音克隆诈骗是主要类型之一。国际刑警组织警告,犯罪分子正利用廉价AI工具重塑电信诈骗模式,推动诈骗活动全球化。
具体案例方面,2025年4月湖北黄石发生AI“孙子”诈骗案,嫌疑人从网络上找到老人孙子发布的短视频提取20秒语音片段,通过AI克隆后冒充孙子致电三名独居老人,谎称打伤同学需私了赔偿,安排专人上门取现金,三家共计被骗6万元。2026年3月公安部刑侦局通报的王先生案更为典型,他从社交平台一段15秒公开视频中被提取声纹克隆,接“亲弟弟”语音来电后未核实便转账20万元。福建福州郭姓科技公司老板遭遇的案件更为惊人,骗子先以银行客户经理身份通话截取5秒原声,再克隆好友声音并配合AI换脸打微信视频,10分钟内骗走430万元。
针对不同群体的诈骗呈现不同特点。退休留守中老年人因子女常年在外、独自居家生活,成为重点目标,骗子深夜来电谎称突发意外住院,利用老人心急心理行骗。小微企业主、个体商户因常有临时资金周转需求,遇到冒充合作伙伴的紧急借钱电话容易被打乱节奏,跳过核验直接转款,这类案件单笔金额往往较大。此外,汽车经销商也成为新兴受害群体,骗子克隆4S店经理声音和视频实施诈骗,因行业高度依赖电话视频沟通、信任机制脆弱而频频中招。6789
具体案例方面,2025年4月湖北黄石发生AI“孙子”诈骗案,嫌疑人从网络上找到老人孙子发布的短视频提取20秒语音片段,通过AI克隆后冒充孙子致电三名独居老人,谎称打伤同学需私了赔偿,安排专人上门取现金,三家共计被骗6万元。2026年3月公安部刑侦局通报的王先生案更为典型,他从社交平台一段15秒公开视频中被提取声纹克隆,接“亲弟弟”语音来电后未核实便转账20万元。福建福州郭姓科技公司老板遭遇的案件更为惊人,骗子先以银行客户经理身份通话截取5秒原声,再克隆好友声音并配合AI换脸打微信视频,10分钟内骗走430万元。
针对不同群体的诈骗呈现不同特点。退休留守中老年人因子女常年在外、独自居家生活,成为重点目标,骗子深夜来电谎称突发意外住院,利用老人心急心理行骗。小微企业主、个体商户因常有临时资金周转需求,遇到冒充合作伙伴的紧急借钱电话容易被打乱节奏,跳过核验直接转款,这类案件单笔金额往往较大。此外,汽车经销商也成为新兴受害群体,骗子克隆4S店经理声音和视频实施诈骗,因行业高度依赖电话视频沟通、信任机制脆弱而频频中招。6789
04法律回应:声音权的认定与保护
法律层面对声音权益的保护正在逐步完善。《民法典》第1023条明确规定,自然人的声音参照肖像权进行保护,未经允许克隆、使用他人声音构成侵权。2024年北京互联网法院审结全国首例AI生成声音侵权案,配音演员殷某发现自己的声音被AI化处理后出现在无数带货视频中,法院判决侵权公司赔偿25万元,判决书明确认定“声音跟指纹、肖像一样,是你的人格特征”,AI想用必须先问过人。
在行政监管层面,国家网信办、工信部、公安部、市场监管总局四部门联合部署专项整治行动,从非法平台关停、灰色工具清理、到强制实名授权等方面全链条打击。自2025年9月起施行的《人工智能生成合成内容标识办法》,明确要求所有AI生成内容必须添加标识以方便溯源。2026年6月,国家版权局等四部门联合启动“剑网2026”专项行动,将AI深度伪造、声音克隆等侵权违法行为列为重点整治对象。
然而,治理仍面临多重困难。声音侵权案件面临侵权源头追溯难、责任主体界定难、维权成本高等问题。AI训练可能杂糅大量人员的声音信息,并非完全使用某一人的声音,判断相似度及何种程度构成侵权目前并无定论。中国传媒大学教授李小莹指出,AI翻唱是用低成本仿制内容占用正版传播空间,这是寄生在已有作品和艺人影响力之上的商业模式,更令人忧虑的是这种寄生正在动摇过去十年正版化进程形成的付费习惯。101115
在行政监管层面,国家网信办、工信部、公安部、市场监管总局四部门联合部署专项整治行动,从非法平台关停、灰色工具清理、到强制实名授权等方面全链条打击。自2025年9月起施行的《人工智能生成合成内容标识办法》,明确要求所有AI生成内容必须添加标识以方便溯源。2026年6月,国家版权局等四部门联合启动“剑网2026”专项行动,将AI深度伪造、声音克隆等侵权违法行为列为重点整治对象。
然而,治理仍面临多重困难。声音侵权案件面临侵权源头追溯难、责任主体界定难、维权成本高等问题。AI训练可能杂糅大量人员的声音信息,并非完全使用某一人的声音,判断相似度及何种程度构成侵权目前并无定论。中国传媒大学教授李小莹指出,AI翻唱是用低成本仿制内容占用正版传播空间,这是寄生在已有作品和艺人影响力之上的商业模式,更令人忧虑的是这种寄生正在动摇过去十年正版化进程形成的付费习惯。101115
05防范要点:技术与意识双管齐下
面对AI声音克隆诈骗,单纯靠耳朵辨别早已行不通。多位专家和安全机构给出了具体防范建议。接到陌生来电时,最核心的原则是“先别出声,等对方先说”,接通后保持沉默3至5秒,如果对方是正常业务会自报身份,如果一直不说话则直接挂断,避免“喂哪位啊”等回应为骗子提供声纹素材。
涉及转账时务必多渠道核实身份。中国人民保险公司沧州市中心支公司提醒:“只要涉及转账,一律二次核实”,不管对方声音多像熟人,都要回拨原手机号、当面确认或联系共同好友核实。公安部网安局建议,无论对方所形容的情况有多紧急,都要通过视频通话、当面确认等方式多重验证。技术专家建议家庭成员之间约定一个只有双方知道的“安全暗号”,可以是特殊词语或问答题,但暗号不能是生日、名字等网上能查到的信息,对不上暗号绝不转账。
技术层面的防御也在推进中。部分大模型厂商开始在生成音频中嵌入“数字水印”,用于识别是否为AI合成;电信运营商应加强对异常高频外呼、境外改号电话的拦截;金融平台对大额转账操作应加强风险提示,增加人脸识别或与收款人通话确认等二次验证。企业层面,财务转账必须双人复核,视频会议中遇到可疑指令也应要求对方做指定验证动作。471213
涉及转账时务必多渠道核实身份。中国人民保险公司沧州市中心支公司提醒:“只要涉及转账,一律二次核实”,不管对方声音多像熟人,都要回拨原手机号、当面确认或联系共同好友核实。公安部网安局建议,无论对方所形容的情况有多紧急,都要通过视频通话、当面确认等方式多重验证。技术专家建议家庭成员之间约定一个只有双方知道的“安全暗号”,可以是特殊词语或问答题,但暗号不能是生日、名字等网上能查到的信息,对不上暗号绝不转账。
技术层面的防御也在推进中。部分大模型厂商开始在生成音频中嵌入“数字水印”,用于识别是否为AI合成;电信运营商应加强对异常高频外呼、境外改号电话的拦截;金融平台对大额转账操作应加强风险提示,增加人脸识别或与收款人通话确认等二次验证。企业层面,财务转账必须双人复核,视频会议中遇到可疑指令也应要求对方做指定验证动作。471213
06争议焦点:技术中性与滥用边界
围绕AI声音克隆技术的应用边界,社会各方存在不同看法。技术从业者指出,声音克隆技术本身并非洪水猛兽,它在帮助失语症患者用自己生病前的声音与家人交流、为有声书和纪录片配音降低成本、让博物馆文物实现语音讲解等方面有重要正向价值。然而,少数心术不正者将技术滥用,才让它背上了“AI投毒”的骂名。
学者观点呈现分化。中国法学会知识产权法学研究会理事熊文聪认为,不能把所有AI训练都笼统适用合理使用,应根据是否为商业性训练、是否使用核心表达、是否对原作品市场形成替代等因素综合判断。中央民族大学法学院教授熊文聪强调,AI翻唱涉及词曲著作权、录音制作者权、表演者权、自然人声音权益等多重权利,不能用“我没有直接上传原唱录音”来逃避责任。而部分技术从业者则认为,声音克隆技术应该被纳入类似人脸识别的严格监管范畴,至少在使用前需要实名认证和用途声明。
平台责任方面存在不同判断标准。有学者认为,仅仅提供工具、被动传输内容的平台或可主张“避风港原则”保护;但主动提供AI工具、引导用户选择特定声线、为特定内容设置流量激励的平台,已不再是中立的信息通道,而是产业链的组织者和受益方,应承担更高责任。中国传媒大学教授李小莹建议,平台应公开AI音乐内容占比、推荐占比、投诉处理数量和下架数量,形成透明度报告,对反复上传未授权AI内容的账号、MCN机构或技术服务商建立黑名单机制。514215
学者观点呈现分化。中国法学会知识产权法学研究会理事熊文聪认为,不能把所有AI训练都笼统适用合理使用,应根据是否为商业性训练、是否使用核心表达、是否对原作品市场形成替代等因素综合判断。中央民族大学法学院教授熊文聪强调,AI翻唱涉及词曲著作权、录音制作者权、表演者权、自然人声音权益等多重权利,不能用“我没有直接上传原唱录音”来逃避责任。而部分技术从业者则认为,声音克隆技术应该被纳入类似人脸识别的严格监管范畴,至少在使用前需要实名认证和用途声明。
平台责任方面存在不同判断标准。有学者认为,仅仅提供工具、被动传输内容的平台或可主张“避风港原则”保护;但主动提供AI工具、引导用户选择特定声线、为特定内容设置流量激励的平台,已不再是中立的信息通道,而是产业链的组织者和受益方,应承担更高责任。中国传媒大学教授李小莹建议,平台应公开AI音乐内容占比、推荐占比、投诉处理数量和下架数量,形成透明度报告,对反复上传未授权AI内容的账号、MCN机构或技术服务商建立黑名单机制。514215
综合各方素材信息,AI声音克隆技术已从实验室走向大众应用,技术门槛大幅降低、成本近乎白菜价,使得“偷声音”不再是高深莫测的黑客技能。与此同时,围绕声音权益保护的法律框架正在逐步建立,司法实践也给出了明确的侵权认定标准,但在实际执法中仍面临源头追溯难、举证成本高等挑战。
从诈骗受害群体来看,留守老人和小微企业主因各自的生活场景特点,成为当前AI声音诈骗的高危人群。防范此类诈骗的核心在于:打破“耳听为实”的固有认知,建立多渠道身份核实机制,同时在家庭成员间预先约定安全暗号。技术层面的水印嵌入、二次验证等措施也在逐步推进之中。对于普通公众而言,谨慎发布语音内容、对陌生来电保持警惕、涉及转账务必核实,应成为日常防范的基本习惯。101516
从诈骗受害群体来看,留守老人和小微企业主因各自的生活场景特点,成为当前AI声音诈骗的高危人群。防范此类诈骗的核心在于:打破“耳听为实”的固有认知,建立多渠道身份核实机制,同时在家庭成员间预先约定安全暗号。技术层面的水印嵌入、二次验证等措施也在逐步推进之中。对于普通公众而言,谨慎发布语音内容、对陌生来电保持警惕、涉及转账务必核实,应成为日常防范的基本习惯。101516
当前文章无评论,是时候发表评论了