当前位置：

社区首页

电脑数码

软件应用

服务软件

AIGC文章详情

AI语音克隆诈骗激增，如何在便利与安全间守住防线？

源自115位全网作者

05-23 11:31

精选参考来源

【#央视揭AI仿声乱象##1秒音频就能让声音被偷走#】从配音演员的声线被公然盗用，到名人的声音被随意克隆，AI声音侵权乱象频发。那么，目前AI技术克隆声音的门槛究竟有多低呢？在网络安全专家的实验室，记者亲身体验了一次AI克隆声音的全过程。实验中，记者尝试录制了一句话的音频作为声音克隆的素材。网络安全专家随意截取了其中1秒钟音频作为克隆样本，仅仅几秒钟后，记者的克隆声音就朗读出了一段从未录制过的文字。（央视网）http://t.cn/AXMqQJsx

演员王劲松家人难辨 AI 真假，他担忧 AI 伪造技术将带来哪些风险？

全部
来源

内容由AI生成

1. 【#央视揭AI仿声乱象##1秒音频就能让声音被偷走#】从配音演员的声线被公然盗用，到名人的声音被随意克隆，AI声音侵权乱象频发。那么，目前AI技术克隆声音的门槛究竟有多低呢？在网络安全专家的实验室，记者亲身体验了一次AI克隆声音的全过程。实验中，记者尝试录制了一句话的音频作为声音克隆的素材。网络安全专家随意截取了其中1秒钟音频作为克隆样本，仅仅几秒钟后，记者的克隆声音就朗读出了一段从未录制过的文字。（央视网）http://t.cn/AXMqQJsx

2. 演员王劲松家人难辨 AI 真假，他担忧 AI 伪造技术将带来哪些风险？

3. 你的声音怎么被克隆的？谨防AI诈骗

4. 假老孙VS真老孙！他们用我声音，我却无能为力？

5. 还觉得 AI 语音都是冰冷机械音？阿里通义千问开源的 Qwen3-TTS 直接颠覆你的认知！97 毫秒极致延迟有多离谱？3 秒就能克隆专属音色有多神奇？这款模型凭什么让语音 AI 从能用直接迈入好用时代？它不仅让视障群体拥有定制化语音助手，更让有声书、短剧制作周期狂缩 70%，影视游戏、智能客服的语音创作成本直降到底！10 种主流语言 + 9 种方言全覆盖，情绪、语速随心调，甚至能造虚构声线，盲测实力碾压多款主流模型。开源特性更是彻底拉低开发门槛，让每个创作者都能玩转语音黑科技。这场语音技术革新，不止重塑内容生产模式，更让 AI 真正融入日常，未来的语音交互，早已不是你想象的模样！#微博超有用视频大赛##上微博涨知识##AI创造营##科技先锋官# 种斌Marco的微博视频

6. 语音属于不可替代的生物特征信息，一旦被采集便无法撤回。如果合作企业数据存储防护能力不足，学生的语音数据流入市场，很可能被不法分子用于电信诈骗、身份冒用等违法犯罪活动。而语音特征终身不变，泄露后将带来持续性安全威胁，且无法通过更换账号、密码等常规方式补救。因此，学校绝不能以成绩挂钩、强制要求等方式侵犯学生自主选择权，切实维护学生的隐私权益与合法利益不受侵害。

7. #央视揭AI仿声乱象#【触目惊心！#AI靠1秒音频偷走记者声音#】目前，AI技术克隆声音的门槛究竟有多低？近日，总台记者跟随网络安全专家做了一场声音克隆实验。实验中，记者录制了一句话的音频，网络安全专家随意截取了其中1秒音频作为克隆样本。仅仅几秒后，记者的克隆声音就朗读出了一段从未录制过的文字，音色、语调都与记者的原声高度相似！网络安全专家介绍，后期只要对克隆声音的语速、语气进行微调，就可以让它更接近真人发声，甚至做到以假乱真。他表示，随着AI克隆声音技术的使用门槛持续降低，技术滥用的风险也随之加剧。如何为声音克隆“上锁”？看↓↓关注！央视新闻的微博视频

8. 4月30日，xAI正式发布Grok自定义语音和语音库功能。用户仅需在xAI控制台录制约一分钟自然语音，即可在不到两分钟内获得个人声音克隆模型，并立即应用于Grok文本转语音（TTS）和Voice Agent API。该功能采用严格的安全验证流程，用户需先朗读验证短语，由语音转文本引擎实时匹配确认身份，再通过说话人嵌入技术比对录音一致性，确保只有本人才能创建自己的声音模型，无法克隆预录音频或他人声音，有效防止滥用。自定义语音为多种应用场景带来便利，包括为品牌客服代理赋予一致且可识别的专属声音、让内容创作者用本人声音大规模旁白视频和播客、为失声人士保留个人声音特征，以及支持多语言团队将演讲自然呈现于英语、西班牙语、法语、德语、中文、日语等多种语言。同时，它还适用于游戏角色配音、播客和有声书制作，无需反复进入录音室。全新语音库集成于xAI控制台，用户可在同一页面浏览、预览和管理所有自定义语音及超过80种内置声音（覆盖28种语言）。自定义语音完全继承Grok TTS的各项能力，包括语音标签、多语言输出和流式传输，且使用Text to Speech或Voice Agent API时不收取额外费用。xAI表示，此次更新大幅降低个性化语音的使用门槛，有望推动AI语音技术在客服、内容创作、娱乐和无障碍领域实现更多创新。目前开发者已可通过xAI控制台直接体验该功能。

9. 【#警惕间谍用深度伪造技术伪造权威#】#国安部提醒深伪魔改暗藏雷区#↓↓——伪造权威，动摇公信力。境外间谍情报机关、各种敌对势力可能利用深度伪造技术，捏造虚假言论、伪造公务人员不当视频、炮制虚假政策画面，以此制造社会恐慌、撕裂舆论、抹黑国家形象，冲击政治安全与制度安全。——精准诈骗，侵害公私财产。不法分子可能利用深度伪造克隆亲友、客服等声音面容，实施冒充转账、虚假投资、仿冒官方渠道诈骗等非法活动。更有甚者，企图通过伪造企业公告、专家言论，引发市场波动。——信息泄露，危害数据安全。不法分子可能利用深度伪造人脸、声纹等生物特征，突破身份认证、权限校验等核心数据防护机制，造成账号被盗、后台入侵、敏感数据批量泄漏，甚至引发关键信息基础设施安全系统失控等重大安全事件，对数据安全造成危害。人民日报的微博视频

10. 多名配音演员发函要求停止 AI 侵权，这反映出 AI 时代版权保护面临哪些新挑战？

11. 香港2亿AI诈骗案细节曝光，视频会议里只有你是真人

12. 新型AI诈骗！多名师生已上当（附防骗指南）

13. 【开源】我做的机器鸭成精了...她会生气、撒娇、克隆我的声音

14. 网友买安眠药收到交警的驾照注销提醒短信，通过大数据筛查购药记录，算侵犯个人隐私吗？交警有权这么做吗？

15. #微博声浪计划##听见微博# 3秒即可克隆声音改词仅需不到1元，AI声音克隆技术门槛极低，二手平台涌现大量低价服务，每50字收费不到1元，订单量超900单。配音行业成侵权重灾区，知名配音演员声音遭盗用，社会诈骗风险增加，多地发生克隆亲友声音诈骗案例。治理需技术规范与法律完善，公众需提高警惕。 shijin1的微博音频

16. 【#配音演员集体发布AI维权声明函#】#谷江山抵制AI侵权声明函# 3月13日，配音演员@谷江山729 发布声明函称，近年来随着AI技术升级与广泛应用，各大视频、短视频及社交平台出现众多未经他授权，擅自采集其声音并利用生成式人工智能技术（包括但不限于：AI工具或产品）生成与他声音高度相似的AI音频或含有该类AI音频的视频，严重侵犯了其个人权益。与此同时，配音演员@杨天翔、张福正@歪歪福正了、赵爽@赵小爽729 、孙路路@孙路路729 、郭浩然@郭浩然729 、关帅@关帅729 、赵益楷@星潮729 、钱琛@钱琛729 、吕思衡@吕思衡729 等也相继发布声明函，呼吁设计侵权的个人、机构、公司或平台停止侵权行为，尊重配音演员的合法权益。

17. 据韩媒，韩国警方今日就金秀贤金赛纶一案发表最新调查情况通报，认为“金秀贤在已故演员金赛纶未成年时期与其交往”的说法属于虚假内容，金世义此前公开的聊天记录等被认定为经过伪造，金赛纶语音文件也被认为是利用AI伪造的。目前金世义已被检方申请拘捕令，金赛纶遗属代理律师也因涉嫌共犯被立案调查。2025年2月16日，童星出道的金赛纶在家中去世，年仅25岁。她去世的这一天，恰逢韩国演员金秀贤的37岁生日。#金秀贤 #金赛纶 #金秀贤案件反转

18. AI 声音克隆门槛极低，1 秒音频就能造假，安全警钟已敲响

19. 声纹复刻 —— 声音克隆技术的全景与边界

20. AI能用3秒克隆你的声音，但你先别慌

21. AI语音克隆

22. 用AI“克隆”他人声音即便不涉诈骗也违法

23. 我用AI克隆了自己的声音，然后试着骗了我的家人

24. 全国首例AI“偷声”案判25万，32亿次播放的乱象，声音可能被克隆

25. “声音被偷”？滥用AI要不得

26. 声音被系统性克隆

27. 电诈都开始批量克隆声音了！一个危险的肉眼可见的变化正在发生

28. AI声音克隆

29. 5秒克隆声纹！AI变声诈骗撕开信任口子，监管与严惩必须同步

30. 当AI声音克隆失控

31. 央视紧急预警 1秒盗声、1元伪造！AI仿声诈骗席卷全国，每个家庭都有风险

32. 2297

33. AI克隆了我的声音，骗走了我妈86万

34. AI语音克隆只需3秒——你的声音，可能正在被骗子“偷走”

35. AIDAv2警示

36. 【宪法宣传周】3 秒就能克隆你的声音

37. 3秒克隆你的声音！这些神器正在海外疯狂收割流量

38. 免费开源！3 秒克隆声音、100%本地运行，AI 配音进入原生桌面时代

39. AI克隆你的声音

40. AI语音克隆诈骗为什么会成为治理重点？从 Voice Agent 技术栈看，真正要补的是“身份验证层”

41. AI语音合成技术

42. 全球首部《AI生成身份冒用防治法》实施

43. AI 克隆声音泛滥！普通人如何发现、识别、防范、维权？

44. 律师实务指引

45. AI“偷”走你的声音怎么办？

46. 开源语音合成新纪元Voicebox

47. 这款开源国产语音合成神器，文字合成语音，逼近真人

48. 谁在替你“说话”？深度“语音伪造”技术正在悄悄克隆你的声音

49. 欧盟重拳出击！全面封禁AI色情深度伪造，无序滥用时代终结

50. 小猿课堂（七）| 警惕深度伪造！筑牢AI时代网络安全防线

51. 紧急提醒！你的亲友可能被“克隆”

52. 演艺界集体亮剑AI侵权行业监管迈入算力时代新阶段

53. AI能克隆声音！微信语音别乱发，做好这几点更安心

54. [AI+声音权] 你的声音值多少钱？配音演员集体维权，揭开AI声音克隆的法律黑洞

55. 当前AI克隆声音在噪音中已经比真人还清晰？这让研究者也震惊了

56. 霉霉的声音商标，能挡住AI克隆吗？

57. 语音克隆APP权威测评认准一款合规高性价比工具，新手老手都适配

58. 2026开源工具指南

59. 2026年手机端语音克隆软件汇总

60. 2026语音克隆APP首选

61. 2026语音克隆APP实测优选核心品牌护航新手零门槛避坑指南

62. 2026语音克隆工具实测解析

63. 青年说|治理AI克隆声音乱象刻不容缓

64. 推荐1个免费的AI语音克隆网站,让你的声音轻松实现AI克隆

65. AI声音克隆诈骗深度解析：当"熟人"来电可能是一场精心设计的骗局

66. 4月AI换脸语音克隆诈骗高发公安部预警：视频通话也别轻信

67. 2026年6款高还原语音克隆APP实测盘点：手机零门槛合规商用全适配

68. 嘘！白嫖党狂喜！这个能克隆声音、自带情绪的AI神器，我只敢悄悄告诉你……

69. 10款支持可克隆自己声音做配音的软件/工具

70. 当AI“克隆”你的声音：声音权益保护的法律指南

71. 1秒克隆声音样本！谁在偷走我们的声音？记者调查

72. 盈知说 AI 系列｜全国首例 AI 声音克隆案，敲响 AI 合成声音法律警钟

73. 当"儿子"来电要转账：AI语音诈骗实战拆解

74. 三秒音频就能克隆声音骗走家人汇款

75. 超详细声音克隆教程来了。只需 5 秒，你的专属 AI 声音就能上线了

76. 接电话别乱喊“喂”！AI语音诈骗泛滥，一秒被盗声纹，全家遭殃

77. 你的声音被 AI 偷了！骗子用它给你爸妈打电话，3 秒就能克隆

78. 语音克隆软件哪个好用不收费？2026热门有声书配音APP大横评

79. AI“克隆声音”诈骗激增

80. 新型技术诈骗——AI换脸，克隆声音

81. 一批AI换脸声音克隆视频被下架！南都持续曝光魔性侵权乱象

82. 告别AI配音没感情？声音克隆技术让文字开口说话

83. 你的亲友可能被“克隆”！国安部提醒

84. AI克隆音色软件实测

85. AI换脸、声音克隆…… 人工智能技术滥用该如何应对？

86. AI 诈骗——究竟离你有多近？

87. 深度拆解AI语音克隆：3个你没想到的实战玩法与5大伦理困局

88. 新华视评｜不能让AI“换脸”沦为“骗脸”

89. 【AI】高级网络钓鱼套件使用语音克隆进行诈骗活动

90. [流言板]多国调查显示AI深度伪造语音诈骗激增，民众难辨真伪

91. AI深度伪造诈骗

92. 紧急提醒！接到陌生电话先别出声：只需5秒，你的“声音”就能被“偷走”

93. 霉霉惨遭AI换脸诈骗，你的脸也可能被偷走

94. 平安人寿天津分公司以案说险 | 当春节返乡遭遇深度伪造语音诈骗

95. 深伪诈骗年增 147%，AI 影像更逼真难辨

96. OUC新传热点分析：AI声音克隆孰是孰非？

97. 【注意】你的亲友可能被“克隆”！国家安全部提醒→

98. AI克隆你的声音只需几秒钟，研究人员找到了反制方法

99. 保险公司对 AI 语音克隆日益增长的责任风险发出警钟

100. 微信聊天别发语音了，小心你的“声音”被骗子利用

101. 触目惊心！AI靠1秒音频偷走记者声音

102. 3·15风险提示丨警惕AI换脸

103. 面试热点--声音被AI克隆

104. 硬核科普：AI是如何“偷”走你的声音的？（附零门槛语音克隆指南）

105. AI声音克隆实战：从开源到商业工具

106. 实测72小时！2026明星同款声音克隆AI工具TOP8榜单悄然声色登顶自媒体/短视频创作首选

107. 上传10秒音频，就能克隆你的声音？这个开源方案做到了

108. 观点丨陈天昊：豆包手机之争与端侧智能体治理监管者应当何为

109. AI声音克隆乱象调查：便捷背后藏隐患

110. AI克隆声音诈骗高发，3招教你快速识别，守护家人财产安全

111. 不让科技“偷走”隐私！快来查看AI伪造、智能设备风险防范指南！

112. 免费的声音克隆平台推荐

113. 最强免费AI声音克隆工具！最近挖到宝了，这个indexTTS2真的绝！上传一段十几秒的音频，就能克隆出一模一样的声音，我试了容嬷嬷的，简直太像了，连语气都复刻得很到位～ 1️⃣操作超简单：先上传目标声音样本，十几秒就够，我用的是容嬷嬷的音频，克隆效果惊艳到我了！ 2️⃣生成速度快：输入想表达的文字，添加到任务队列，等一小会儿就能听到合成好的音频，比想象中快很多～ 3️⃣适用场景广：无论是克隆朋友家人的声音，还是模仿名人，都能做到以假乱真，感觉打开了新世界的大门～免费又好用的AI工具，真的值得试试！ #人工智能#黑科技#实用工具#indextts2 #抖音小助手

114. 【AI工具】3秒即可快速克隆你的声音！微课录音轻松完成！

115. 开源！一站式AI数字人系统，集成了视频合成、语音合成、语音克隆等核心功能