王劲松遭AI深度伪造视频冒充，2025年一季度AI换脸诈骗案激增45%_手机

1. 请大家一定要牢记防范电信网络诈骗"三不"原则：不轻信、不转账、不泄露验证码！法姐讲法 #遭遇诈骗果断报警# 中国移动的微博视频

2. 现在谈及 AI 安全是否杞人忧天，还是人们还没意识到它风险？

3. 【美媒：#AI发展或对核安全构成威胁#】近日，据美国《外交事务》杂志报道，“人工智能（AI）技术的发展可能对世界核安全构成威胁：AI生成的深度伪造视频可能诱使核国家领导人发动核打击。此外，若赋予AI是否使用核武器的决定权，亦存在误判的风险”。报道表示，“AI的迅速普及正在加剧对核稳定的威胁。AI技术降低了深度伪造视频的制作门槛，这类视频通过精心篡改的内容、图像或者音频录音，传播关于人物或事件的虚假信息。这对世界核安全构成隐患”。报道指出，“深度伪造视频或被用于诱使核国家领导人率先发动核打击。此外，深度伪造视频还可能用于制造战争借口、煽动公众对冲突的支持或挑拨国家之间的关系”。今日俄罗斯RT的微博视频

4. 注意！春节不要乱发这种视频，有风险近日，短视频平台上一些以“拜年祝福”为名的AI视频火了，众多明星艺人在AI的加持下“齐聚一堂”，拱手拜年，好不热闹。无独有偶，AI周星驰经典电影片段的视频引发大量关注，不少人跟风参与其中，网民惊呼AI圆了自己“与星爷梦幻联动”的愿望。一些AI生成视频越来越逼真，形象、声音都能近乎完美复刻，甚至做到了“以假乱真”。由于传播范围大，流量可观，一些人通过AI生成明星视频获得大量关注后开启带货模式，获取了不菲收益。周星驰经纪人发文质疑：“想问一下这些属于侵权吗？相信创作者应该已经盈利，而某平台是不是都放任不管，提供给用户生成发布？”记者梳理发现，上述现象潜在的法律风险不容忽视，主要涉及侵犯肖像权、著作权，以及平台责任等方面。1、AI生成明星视频，是否侵犯明星本人肖像权呢？明星往往具有较高的知名度，其形象、声音也具有较高的识别性，更容易在网络上传播。AI根据指令生成视频，往往会伴随着对明星形象、声音的使用。民法典第1019条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。虽然民法典第1020条规定了合理使用肖像的情形，但需是以非营利为目的。这也意味着，在未经明星艺人同意的情况下将其肖像用于AI生成视频，以获取流量或者牟取利益，都是对其肖像权的侵害。此外，公民的“声音权”也受法律保护。民法典第1023条规定，对自然人声音的保护，参照适用肖像权保护的有关规定。这意味着，通过AI技术对他人的声音进行“克隆”，用于视频制作、传播并获利，也可能构成侵权。2、AI生成电影片段进行传播，侵犯著作权么？打开短视频平台，随处可见通过AI拼接成的电影片段，比如“西北锤王大战灭霸”“周星驰对战李小龙”等被大量点击、传播。网民惊呼：“有意思，这是删减版（加强版）吧！”这种“爆改”电影片段虽然有创意，但潜在的侵权风险值得警惕。根据著作权法第10条，著作权人对其作品享有改编权，即改变作品，创作出具有独创性的新作品的权利。保护作品完整权，即保护作品不受歪曲、篡改的权利。这就意味着，如果AI生成视频直接提取或高度模仿电影的经典场景等独创性表达，或“魔改”电影片段，会侵犯原作品的改编权与保护作品完整权。根据著作权法第52条的规定，行为人歪曲、篡改他人作品的，应当根据情况，承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任。同时，根据著作权法第54条的规定，侵权人应当按照权利人因此受到的实际损失或者侵权人的违法所得给予赔偿。3、短视频平台用户通过AI生成视频造成侵权，平台要承担责任么？短视频平台对平台用户行为负有审查义务，平台用户发布AI生成的侵权视频，并造成大量传播，往往伴随着平台责任。《互联网信息服务深度合成管理规定》第10条规定，深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。民法典第1197条规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。上述规定意味着，平台若未对侵权的AI生成侵权视频片段采取拦截等措施，则应承担相应责任。via：中国普法法姐讲法 #法治微课堂#

5. 知名男演员：太可怕了！完全看不出真假2月26日，演员王劲松发文称自己的形象被AI盗用生成视频：“太可怕了，视频。声音，口型完全看不出来真假。微信视频号，就这么盗用，把我AI了。 ” 随后，他在评论区晒出投诉截图并表示相关视频已删除。他还说：“我担心的是以后会不会出现更真，性质更恶劣的AI肖像侵权行为，用于诈骗呢？不敢想……” 王劲松，1967年11月15日出生于江苏省无锡市，后迁往徐州，中国内地男演员、南京市话剧团演员、一级演员。

6. 第7期 | 豆包手机努比亚M153，大势不可逆新世界即将开从封杀到掀桌！中国AI这10天，改写了手机未来这10天，中国AI圈，发生了一件很有意思的事。不，应该说，是一系列很有意思的事。 12月1日，字节跳动发布了豆包手机助手。 12月2日，vx闪电出手，开始封号。 12月3日，豆包认怂，下线了操作微信的功能。 12月9号，智谱AI直接“掀桌子”——宣布开源 AutoGLM！短短10天。从新品亮相到大厂阻击，再到开源“掀桌”，节奏快得像一部科技大片。说实话，已经很久没见到国内AI圈这么精彩的剧情了。豆包手机努比亚M153的历史地位 #豆包 #中兴 #AI手机 #豆包手机 #努比亚

7. #王劲松怒斥被AI盗用#今日，@演员王劲松发布微博，称自己的形象被AI盗用：“太可怕了，视频、声音、口型完全看不出来真假。微信视频号，就这么盗用，把我AI了。”他还在评论区晒出自己向视频号团队举报侵权的后台截图，并补充表示：“之前好多，总有朋友给我看，说你说这个了，说那个了，我还觉得做的很差，假的就是假的，现在措手不及，我家里人都分不清是不是真是我了😔。我担心的是以后会不会出现更真、性质更恶劣的AI肖像侵权行为，用于诈骗呢？不敢想。”

8. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

9. 电信网络诈骗就是连环套，提高自我识骗防骗能力法姐讲法 #遭遇诈骗果断报警# 国家反诈中心的微博视频

10. AI的未来必须带着安全绳前进。 #大咖观察 #红衣聊AI #人工智能安全

11. #保时捷女销冠被合成AI不雅视频#保时捷女销冠被合成AI不雅视频这件事，几乎是一份数字时代的受害样本。AI技术正在经历奥本海默时刻，当普通人也能用开源工具轻易实现换脸伪造时，技术作恶的成本已经趋近于零。牟女士遭遇的不仅是伪造视频，还有随之而来的隐私泄露和网络暴力，这种数字凌迟正在成为新型犯罪模式。值得玩味的是，事件中同时存在着技术悲观主义与围观狂欢的矛盾。有人用AI施暴，有人积极传播，而受害者却要花费巨大代价自证清白。这印证了技术从不同情弱者的残酷逻辑。目前法律对AI伪造的追责仍显滞后，取证的复杂性往往让受害者陷入孤军奋战。或许我们需要像对待醉驾入刑一样，对恶意AI合成行为设立明确的重罚条款。技术从来不是原罪，但人性的恶意需要被关进笼子。这个案例最该被记住的，是下一个受害者可能就是我们任何人。#秒懂热点就用智搜# 分析：【#保时捷女销冠被合成AI不雅视频#】#

12. 因制作「奥特曼怀孕」等视频多名博主被罚，AI 二创的伦理边界在哪里？平台与创作者各自该承担什么责任？

13. 香港2亿AI诈骗案细节曝光，视频会议里只有你是真人

14. //@鱼蛋大人://@布仑希尔德-闹心他蜀://@蘸盐://@少年伯爵:比电诈来钱更快的是骗贷。先通过读卡拿到受害者的音频和面部视频，生成AI活体模型，然后根据社工库（面部识别）拿到身份证+银行卡+手机号+（发个木马）验证码拦截，直接挨个去网贷平台开启骗贷（这些平台的活体验证一塌糊涂），几十万的贷款到了受害者银行卡里，然后通过网银验证码直接转账出来。整个过程如果足够快，不超过半个小时。//@陡坡顶峰:先让你面对镜头读数字，之后再把你读数字的视频交给AI，这样你的形象也有了，声音也有了，想再利用你被AI造假的视频去诈骗就能干很多事了。比如找你亲朋借钱，再比如用你的形象去做线上诈骗

15. AI 的“五感”被同时唤醒了！美团 LongCat 团队又“放大招”了！上周五刚刚开源了全新的 LongCat-Flash-Omni，一个真正的「全模态」AI！它把 AI 的“五感”全打通了！能看、能听、能说，还能理解视频！看到美景词穷？给 AI 打个视频电话，它“看”一眼就能帮你即兴赋诗！1. 实时视频通话：毫秒级响应，你可以像和真人聊天一样，让它看着你做饭、健身，实时指导。2. 实时语音通话：随时“插嘴”打断它，它会立刻 Get 你的新指令。背后是 560B 参数的“巨兽”，但跑得飞快，语音、视觉等单模态成绩依然顶尖。GitHub： github.com/meituan-longcat/LongCat-Flash-OmniHugging Face： huggingface.co/meituan-longcat/LongCat-Flash-Omni#开源##GitHub##大模型##LongCat##AI创造营##AI#

16. 原告向法庭出示带豆包生成伪证被训诫，这一处罚合理吗?若未来 AI 造假无破绽，司法与公众该如何应对？

17. #Seedance2.0暂停真人素材参考能力##AI 恐怖# 昨天Tim的那条视频影响还是非常大的，现阶段技术水平已经达到你生成的视频，发到相亲相爱一家人群里，你亲妈可能都看不出来真假的程度。技术爆炸带来的挑战是，AI的伦理与技术边界到底在哪？甄别和监管又由谁来负责？互联网上的我还需要是真人的我吗？

18. 你的声音怎么被克隆的？谨防AI诈骗

19. #Moltbook#说到底，AI是把双刃剑。它能提升效率、创造新职业，也会因监管缺位放大风险。比起恐慌“AI造反”，更该警惕技术滥用与安全漏洞。Moltbook这波乱象，更像给人类敲警钟：在拥抱AI红利的同时，必须加快建立全球协同的监管与安全防护体系，把技术关进规则的笼子，才能让AI真正服务于人类，而非成为隐患。

20. 周星驰经纪人质疑短视频平台对 AI 生成视频侵权放任不管，这触犯了哪些法律红线？平台该如何管理？

21. 【平台须对AI造黄谣行为履行监管职责平台放任违法内容存在须承担连带责任】8月30日，台球运动员王思诺公开发布视频，表示自己正深陷恶意AI造黄谣风波，有人利用人工智能伪造她的淫秽视频并肆意传播。针对利用AI恶意造黄谣在网络平台传播的行为，网络平台需承担哪些法律责任和义务？《法治日报》律师专家库成员、北京汇祥律师事务所管委会副主任、高级合伙人隗卓然律师表示，如今，淫秽视频能够依托社交媒体、短视频平台等，以病毒式速度迅速扩散，瞬间就能触达海量用户。而且容易被二次加工、改编，进一步扩大传播范围。因此网络传播平台在此类事件中负有严格的法律责任和义务。民法典第一千一百九十七条规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。如果平台对违法内容存在放任甚至参与其中的情形，可能被认定为共同侵权甚至共同犯罪。同时，网络安全法、个人信息保护法、网络信息内容生态治理规定等法律法规均要求平台履行内容审核、算法管理和用户投诉处理义务，否则可能面临行政处罚，严重的可能被责令停业整顿。因此平台在此类案件中并非“中立者”，而是必须主动履行监管职责。（全媒体记者张博见习记者范洁）法姐讲法 #法治微课堂#

22. #温峥嵘# 温峥嵘被AI盗脸虚假直播，感觉AI以后真的会闯大祸的叁递电影的微博视频

23. 近期网购诈骗高发反诈指南请收好~#反诈是门必修课##全民反诈在行动# 国家反诈中心的微博视频 via：国家反诈中心

24. 【#AI仿冒权威新闻催你领补贴是新型诈骗#！#女子轻信AI新闻视频领补贴被诈骗#】近期出现新型诈骗，骗子用AI合成仿冒权威新闻视频，伪造国家部委领导讲话、市民领补贴镜头，极具迷惑性。江苏盐城的李女士收到 “中国梦项目专项补贴” 消息，被对方发来的AI新闻视频误导，按要求开启屏幕共享、下载陌生APP，结果手机疯狂弹出扣款通知。警方提醒，AI假视频有画面模糊、人脸嘴部动作僵硬等破绽，凡要求视频指导操作支付软件的均为高风险行为。核实补贴可查政府官网，牢记不轻信、不下载、不转账、不开视频，遇诈骗及时报警。荔枝新闻的微博视频

25. 网络热门AI鉴定19——AI诈骗【Git源宝】

26. #台球运动员王思诺称淫秽视频系AI伪造#【人工智能是把双刃剑：虚假影像的真实威胁！】#知政观察团# 在现代科技日新月异的发展浪潮下，人工智能（AI）的应用无疑是一把双刃剑。近日，台球运动员王思诺遭遇了被AI伪造淫秽视频的糟心事，这不仅成为她个人的困扰，也引发了社会对AI技术滥用的深刻反思。首先，我们需要了解AI伪造技术的原理。近年来，深度学习算法的突破使得“深度伪造”（Deepfake）技术快速发展。这种技术可以通过大量现有图像和视频素材生成逼真的虚假视频。在娱乐和创意领域，它为内容创作带来了前所未有的可能性。但是，一旦被不法分子利用，其负面影响同样不容小觑。王思诺案正是AI技术被恶意使用的典型案例。对个人名誉的损害只是表象，更深层次的问题在于它对公共信任机制的侵蚀。当虚假信息泛滥，真假难辨时，社会将付出巨大的信任成本。对此，法律法规的完善以及技术手段的升级显得尤为重要。有关部门应加强执法力度，同时企业和科研机构也应加快研发应对伪造技术的检测工具。当然，每一次技术的革新都伴随着道德与伦理的考验。作为使用者和开发者，必须清醒地认识到这一点。技术本身无所谓善恶，关键在于如何使用。在享受新技术便利的同时，也需提高警惕，不给不法行为以可乘之机。#警sir说# 技术是一匹奔腾的野马，驯服它的缰绳是良知与责任。类似案件的最终解决有赖于法律、技术和公众意识的共同努力。只有当这三者形成合力，才能真正构筑起抵御AI乱象的坚固屏障。寻人总动员鸣井的微博视频

27. #双11新型退款潮用AI假图骗仅退款#律师：可能涉嫌诈骗！今年双11过后，一股利用AI技术伪造商品瑕疵图片以骗取“仅退款”的新型骗局在电商平台蔓延。有商家反映，有消费者使用AI生成商品发霉、破损等假图申请退款，甚至有人连AI水印都未处理便提交。⚠️ 灰色产业链浮现据了解，此类行为已形成灰色产业链。部分“教程”教授“退款窍门”，宣称单个账号可成功退款约30次。这些行为多针对百元内小商品，因商家维权成本高常选择“息事宁人”。🖼️ 技术门槛低，伪造快AI伪造图片的技术门槛极低。通过常见工具输入指令，约20秒即可生成以假乱真的图片。有商家表示，甚至收到过带明显AI水印的投诉图。⚖️ 律师：可能涉嫌诈骗罪法律界人士指出，此行为已触碰法律红线。若骗取金额达到立案标准，则可能涉嫌诈骗罪需承担刑事责任。相关法规也明确禁止利用AI生成内容损害他人权益。🛡️ 平台与商家如何应对？部分平台已开始要求买家提供多角度视频佐证，并有商家使用AI检测工具识别假图。专家建议，平台需加强技术识别能力与信用联动机制。💬 网友评论：“技术不该成为失信的保护伞！”、“最终伤害的是真正需要维权的消费者”。您怎么看？欢迎在评论区分享您的观点或经历！

28. #小鲁提醒# 【#如何防范AI换脸换声诈骗#？】犯罪分子利用AI技术实施诈骗，而这类骗局往往隐蔽性强、欺骗性高，该怎么防范？更多法律解读>>CCTV1《今日说法》守护“银发族”特别策划《“孙子”来电》。#老年人关心的法律问题# CCTV今日说法的微博视频

29. 如何看待央视主持人遭 AI 仿冒带货，官方通报涉事企业违反广告法，已接受行政处罚的事件？

30. 冒充熟人（领导）类诈骗套路深，切勿上当哦！

31. 反诈动画：《警惕共享屏幕诈骗》 #警惕诈骗新手法# #全民反诈在行动# #你我同心反诈同行# 国家反诈中心的微博视频 via：国家反诈中心

32. 因制作「奥特曼怀孕」等视频多名博主被罚，AI 二创的伦理边界在哪里？平台与创作者各自该承担什么责任？

33. 「小白」全军覆没？五大旗舰AI防诈横评！

34. #鸿蒙6亲情防诈# 能识别语音、视频诈骗，那天测试这个功能基本是说两句诈骗话术就马上警告了，为了拍够素材封了4张卡，防诈效率还是很高。单拎个隐私保护的片段大家看看，详细内容可以看之前发的视频：网页链接#于和伟多面演绎隐私悬疑大片##鸿蒙隐私安全由你掌控# 我是HYK的微博视频

35. #央视曝光AI换脸诈骗黑产链#假表哥用AI换脸骗走30万元电商平台上，换脸软件和服务链接随处可见，成交量居高不下；视频网站里，从操作教程到效果演示一应俱全。上游非法收集人脸信息，中游培训制作换脸视频和话术，下游直接用合成“人脸”突破支付平台验证，盗刷、改密码。央视财经的微博视频

36. 家人们，警惕！AI换脸诈骗新套路来了！骗子盗用亲友、领导人脸视频，以“借钱救急”“代付缴费”等借口索要钱财。凡是涉及转账，务必通过电话、当面等多种方式核实身份，不轻信、不转账，守护好自己的“钱袋子”，转发提醒身边人！！笔默君的微博视频

37. 谨防电信诈骗，拒做电诈工具人#每天学一点反诈知识# @西安高新公安西安西安公安的微博视频

38. #小齐说法# 【#一天量产30篇论文代写违法了##高薪招聘论文编辑的法律责任#丨说·法】近日，媒体曝光多家企业公开招募“撰稿人”，形成论文代写灰色产业链。其中一家公司以“高薪”招聘论文编辑，采用“组稿+AI”模式批量生产文章，员工无需深度人工介入，仅靠“走量”牟利。而另一家公司表示，员工通过熟练使用AI工具和资料库，一天可量产30篇论文。这些机构通过招聘写手，将AI生成内容伪装成原创论文，形成“需求－代写－交付”的黑色生意链。论文代写，违法吗？写手、学生和代写公司分别有何法律责任？(文字：邹星宇) 法治日报的微博视频

39. #实测AI钓鱼邮件1秒获取博主开房信息#AI让钓鱼攻击实现“量身定制”，攻击者通过AI爬取公开信息构建用户画像，结合企业场景生成高仿真邮件，从财务通知到人事文件无所不包。职场安全的核心，已从“识别垃圾邮件”转向“核实信息源头”，任何要求登录、验证的邮件，务必通过官方渠道二次确认。#实测钓鱼邮件靠AI让近9成白领中招#

40. #AI合成明星视频构成侵权#【律师称#AI合成明星视频平台须共同担责#：平台管理缺位，需与直接侵权人承担连带责任】2月9日，周星驰经纪人公开质疑利用周星驰肖像制作AI视频侵权，并指平台管理缺位，由此引发公众对AI合成技术法律风险的关注。2月11日，湖北炽升律师事务所李经昕律师就此事接受采访时指出，未经权利人授权，擅自使用其肖像、声音制作AI合成内容，无论是否用于商业目的，均构成对他人人格权（肖像权、声音权）的侵害。李经昕强调，平台在此类侵权中负有不可推卸的责任。无论是提供AI生成工具的技术平台，还是提供内容发布与传播服务的社交平台，都负有主动进行内容审核、采取风险防控的义务，并对AI生成内容进行显著标识。如果平台明知或应知侵权内容存在，却未采取必要措施予以制止，则构成“帮助侵权”，需与直接侵权人承担连带责任。律师同时提醒，高度仿真的AI内容还可能被用于诈骗、造谣，呼吁公众不制作、不传播侵权内容，平台也应切实强化审核，提高技术防范能力，共同维护清朗网络空间。此外，有科技博主提出质疑，“在没有给任何提示的情况下，只上传一张照片，自己的声音就被克隆了”，引发公众对大模型的训练数据来源以及背后是否存在“隐藏条款”的疑问。对此，律师表示，部分平台在用户协议中设置“隐藏授权条款”“默认勾选同意”的做法，涉及人格权的授权必须单独提示、明示同意。采用隐藏式、捆绑式的格式条款，在司法实践中一律被认定为无效。@经视直播经视直播的微博视频

41. 【#多位艺人团队禁止AI明星合影#，#AI生成明星合影需警惕法律风险#】上传自拍和明星照片，10秒就能生成贴脸合影！近期，AI生成明星合影在社交平台刷屏，从跨时空同框到亲密互动，无所不能。但热潮背后，低俗合成、伪造宣传等乱象频发，多位艺人团队已公开发声禁止，法律风险更不容忽视。记者了解到，如今的AI合影早已超越简单抠图换脸，能生成细腻的肢体互动，甚至可与二次元人物或者老艺人“同框”。但乱象也随之而来，比如女明星被合成低胸装与陌生人贴脸，男偶像则“被揽腰”等，更有人利用这项技术伪造明星代言。有市民担忧，这种逼真的合成会被用来制造电信诈骗。律师表示：AI合成使用明星照生成低俗内容适用“过错责任原则”。使用者和传播者是责任主体，平台若未及时处理侵权内容也需担责。律师同时提示，朋友间未经同意用他人照片生成AI图像，也可能构成侵权。目前，多位知名艺人团队或后援会已明令禁止在超话等场合发布AI生成内容。@看看新闻Knews 中国新闻周刊的微博视频

42. 当心AI“换脸”假冒医生！国家卫生健康委提醒：警惕健康科普新骗局 | 谣言终结站

43. #AI生活指南# AI 语音深度伪造已实现实时突破当电话那头传来亲友焦急的求助声，你敢相信这可能是 AI 伪造的吗？网络安全公司 NCC Group 的研究敲响警钟：AI 语音深度伪造已实现实时突破，普通笔记本电脑就能以低于 0.5 秒的延迟复刻逼真声音，诈骗成功率近乎满分。这种技术并非魔法，核心是三步偷声术：首先通过社交平台录音、直播片段等渠道收集目标声音样本，如今仅需 3-5 分钟音频就能完成基础克隆；接着 AI 提取音色、语调等音指纹转化为数字向量；最后结合文本实时合成带情绪的语音，连呼吸停顿都能模拟。更令人警惕的是门槛骤降。开源模型与中等算力的结合，让攻击者无需专业设备就能实施诈骗，冒充亲友借钱、模仿领导指令转账等场景频发。传统靠听声辨人的习惯，在技术面前已不堪一击。在日常生活中，我们一定要保持一定的警惕性，遇到问题千万不要装涨，仔细分辨语音中的自然度，AI 伪造声音常缺乏真实情绪起伏，或带有轻微机械感与异常背景音。多渠道验证。但凡涉及转账等敏感要求，立即挂断电话，拨打对方常用号码或通过共同好友二次确认，这是阻断诈骗的最有效手段。#AI创造营##微博兴趣创作计划# 种斌Marco的微博视频

44. #温峥嵘被AI温峥嵘拉黑##热点观点# 😱离谱！演员温峥嵘遭AI盗脸直播带货，本人进直播间质问“你是温峥嵘，那我是谁？”，竟被对方当场拉黑！近期多个直播间出现AI合成的“温峥嵘”带货，实则是商家盗用其素材换脸/录播的虚假内容，既侵犯艺人肖像权、声音权，还误导消费者下单。要知道9月已施行《人工智能生成合成内容标识办法》，但违规直播间要么不标注，要么遮挡水印逃避监管，AI“分身”营销乱象屡禁不止！专家呼吁必须落实内容标识制度，平台也得扛起监管责任，别让技术滥用坑了艺人又骗了消费者！

45. 【张捷杂谈】AI深伪视频让视听公信力巨降#张捷杂谈##热点观点##马来西亚议员遭AI深伪视频勒索# 据报道，马来西亚 10 余名议员近期遭 AI 合成不雅视频敲诈，勒索方索 10 万美元，议员拒付并报案；今年初该国多名官员也曾被用 AI 换脸视频诱骗民众投资。深伪视频可冒充政要行骗，且因公众人物信息易获取更易伪造。其还引发鉴定难、真假视频难辨、传统证据效力下降等问题，技术发展超法律制度更新，冲击社会公信力体系，如何建立该体系需广泛评估研究。张捷观察-谁是谁非任评说的微博视频

46. 看到AI创作者不断被盗用和侵权，我有话想说。

47. 书海撷萃 |《负责任的人工智能》：一场关于技术伦理与人类责任的幽默解构

48. #发AI明星拜年视频小心侵权#【#AI明星拜年视频乱发要担责#】近日，短视频平台上一些以“拜年祝福”为名的AI视频火了，众多明星艺人在AI的加持下“齐聚一堂”，拱手拜年，好不热闹。#拜年的真正意思# 无独有偶，AI周星驰经典电影片段的视频引发大量关注，不少人跟风参与其中，网民惊呼AI圆了自己“与星爷梦幻联动”的愿望。一些AI生成视频越来越逼真，形象、声音都能近乎完美复刻，甚至做到了“以假乱真”。由于传播范围大，流量可观，一些人通过AI生成明星视频获得大量关注后开启带货模式，获取了不菲收益。周星驰经纪人发文质疑：“想问一下这些属于侵权吗？相信创作者应该已经盈利，而某平台是不是都放任不管，提供给用户生成发布？” 记者梳理发现，上述现象潜在的法律风险不容忽视，主要涉及侵犯肖像权、著作权，以及平台责任等方面。 AI生成明星视频，是否侵犯明星本人肖像权呢？明星往往具有较高的知名度，其形象、声音也具有较高的识别性，更容易在网络上传播。AI根据指令生成视频，往往会伴随着对明星形象、声音的使用。虽然民法典第1020条规定了合理使用肖像的情形，但需是以非营利为目的。这也意味着，在未经明星艺人同意的情况下将其肖像用于AI生成视频，以获取流量或者牟取利益，都是对其肖像权的侵害。 AI生成电影片段进行传播，侵犯著作权吗？打开短视频平台，随处可见通过AI拼接成的电影片段，比如“西北锤王大战灭霸”“周星驰对战李小龙”等被大量点击、传播。网民惊呼：“有意思，这是删减版（加强版）吧！” 这种“爆改”电影片段虽然有创意，但潜在的侵权风险值得警惕。根据著作权法第10条，著作权人对其作品享有改编权，即改变作品，创作出具有独创性的新作品的权利。这就意味着，如果AI生成视频直接提取或高度模仿电影的经典场景等独创性表达，或“魔改”电影片段，会侵犯原作品的改编权与保护作品完整权。根据著作权法第52条的规定，行为人歪曲、篡改他人作品的，应当根据情况，承担停止侵害、消除影响、赔礼道歉、赔偿损失等民事责任。同时，根据著作权法第54条的规定，侵权人应当按照权利人因此受到的实际损失或者侵权人的违法所得给予赔偿。

49. AI存在伪造信息、滥用数据等风险。国家人工智能安全治理框架2.0版正填补空白。#大咖观察 #红衣聊AI #网络安全

50. 鸿蒙6星盾安全架构再升级，带来更智能的主动防护。全新AI防诈功能支持亲情防诈保护，可远程帮父母挂断诈骗电话，并将风险号码加入“家庭黑名单”，#鸿蒙6帮父母挂断诈骗电话# 有效拦截诈骗。鸿蒙已拦截超240亿次不合理权限全面保护用户隐私。加密分享功能也更强大，支持文件“仅可查看一次”及指定查看对象，让分享更安全可控。AI防窥功能可实时识别他人注视，自动隐藏应用隐私内容，确保数据仅用户可见。鸿蒙6以创新技术，让用户隐私安全真正“由你掌控”，体验更安心、省心。

51. #小齐说法# 【#温峥嵘被AI温峥嵘拉黑AI盗播谁来管#？#AI伪造温峥嵘直播带货涉嫌侵权#】#央视曝光假冒艺人直播#“你是温峥嵘，那我是谁？”近日，演员温峥嵘刷到AI假冒自己直播，被对方拉黑一事，引发关注。此前，有网友举报称，演员温峥嵘同时“现身”多个不同直播间，且还穿着不一样的服装，用同一套话术，推广不一样的产品，俨然一支“赛博温峥嵘”大军。这类广告并没有任何标注，很难分辨出是盗播直播切片，还是AI合成。温峥嵘曾发视频打假，明确表示自己只有一个账号直播，支持粉丝进行举报。《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程律师表示，商家未经温峥嵘授权，通过录播抠图、AI合成等技术伪造其直播形象，直接侵犯其肖像权；若使用其姓名或艺名进行宣传，还可能构成姓名权侵权；若伪造的直播内容包含虚假宣传或低质商品，则可能损害温峥嵘的公众形象，构成名誉权侵权，例如，若商品质量引发消费者投诉，消费者可能误将责任归咎于明星本人。此外，通过AI合成虚假直播内容诱导消费，还涉嫌违反广告法第四条“广告不得含有虚假或误导性内容”的规定，若商品与宣传不符，商家需承担消费者权益保护法中规定的民事赔偿责任。消费者若因此类虚假直播视频误导而购买到劣质商品，可要求商家退还货款并主张三倍赔偿。《人工智能生成合成内容标识办法》要求，所有AI生成的文字、图片、视频等内容都要“亮明身份”，即添加标识以明确其来源和真实性。但在实践过程中，平台审核疏漏、商家刻意规避标识等问题，使得新规落地效果大打折扣。从平台的责任与义务来讲，一是要加强事前审核，利用AI检测技术（如数字水印、行为分析等）识别伪造内容，避免误导消费者。二是落实事后处置责任，根据电子商务法第四十二条，收到侵权举报后，平台应在24小时内删除相关内容。同时，将多次侵权商家纳入黑名单，限制其账号功能。若平台未尽到审核义务导致消费者受损，可能与商家共同担责。AI伪造明星直播带货行为，本质是技术滥用与商业逐利的结合，需通过法律严惩、技术防控、平台担责三管齐下治理。消费者可优先选择标注“真人出镜”或“官方认证”的直播间，降低受骗风险。（作者刘丹视频李唯祎）法治日报的微博视频

52. 【#AI 新规让虚假内容无处可藏# 】#AI生成内容必须亮明身份# AI技术滥用的乱象频繁发生，谣言、假新闻、仿冒名人等欺诈事件更是让人防不胜防，普通人很难分辨真假。今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》，从9月1日起正式施行，所有AI生成的文字、图片、视频等内容都要“亮明身份”！那么，新规的出台，将对当前AI技术滥用所引发的乱象起到什么治理效果呢？CCTV法治在线的微博视频

53. #于和伟多面演绎隐私悬疑大片# 鸿蒙6的AI防诈真的好评！对于年轻人来说诈骗还好识别，手机也会拦截，但对于远在老家的父母，层出不穷的诈骗手段，可能就有点捉襟见肘了#鸿蒙6亲情防诈# 但是现在鸿蒙6推出了远程守护家人的功能，可以帮助家人挂断诈骗电话，从此多一份守护，多一份安全！ #鸿蒙隐私安全由你掌控# 天才少女棋棋的微博视频

54. #小鲁说事# 【#AI伪造名主持人带货半月收益数万元#】#央视起底AI仿冒名人营销乱象#近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？央视网的微博视频

55. 【微动漫｜赤壁AI风云】当三国演义中耳熟能详的赤壁之战，与互联网热门的AI技术相“碰撞”，在新的故事背景下，雄心壮志的曹操能否识破周瑜、诸葛亮精心谋划的“AI诈骗计”？法姐讲法 #古人说法律#最高人民检察院的微博视频

56. 新型AI诈骗！多名师生已上当（附防骗指南）

57. 反诈担当显初心政企联动护民生 | 桂林微笑堂成功拦截280g黄金诈骗获警方锦旗奖金表彰

58. 生成式AI现可创建"活体"多态钓鱼页面

59. 演员王劲松称自己被AI盗用形象生成视频:太可怕了,声音、口型完全看不出来真假,已投诉

60. 如何防范AI时代下的诈骗升级与风险

61. ai换脸视频_ai换脸视频案例

62. 深度伪造技术将在 2026 年更上一层楼，人类将面临更严重的欺诈

63. 遭遇“AI换脸”骗局 “视频会议”被骗上亿

64. 【AI伪造欺诈】实时深度伪造：安全数字身份的终结已经开始

65. 防御DeepFakes，易顺达在行动。

66. 警惕！高校师生遭遇AI换脸诈骗

67. 人类社会要有麻烦了？深度伪造在2025年爆发，2026将更上一层楼

68. 2025年AI深度伪造视频激增900%，全球金融诈骗损失超2亿美元

69. AI换脸冒充熟人诈骗

70. 10分钟诈骗22万美元！骗子盯上AI技术，多位外国议员已受害

71. 2026，AI视频造假更猖獗？

72. 手机必开的两个安全开关。🔒手机安全开关必须马上打开！最近诈骗手段太多，这两个设置能帮大忙～ 1️⃣先在手机设置里找到安全选项，点击反诈防护，把反诈检测开关打开。这个功能能实时监测诈骗电话和短信，遇到可疑号码会提醒，防骗第一步必须安排上～ 2️⃣下滑设置页面，找到AI换脸检测提醒，同样打开视频通话检测开关。现在很多诈骗分子会用AI换脸冒充亲友借钱，这个功能能在视频通话时识别异常，及时预警，安全感直接拉满！ #手机安全#防诈骗#实用技巧

73. 警惕！这些AI换脸诈骗已盯上中老年人，教你3招一眼识破！

74. 警惕！AI诈骗正在全国爆发，这三种套路让你防不胜防，眼见耳听不再为实

75. AI换声 “扮子女”！濮阳已有人被骗

76. 诈骗、换脸、面部识别，一位刑警经历的AI犯罪

77. “AI换脸”诈骗案频发亟待防范治理

78. AI安全防护体系建设：从提示词注入防御到高风险内容识别的企业级实践

79. 生成式AI内容被滥用，专家详解如何辨真

80. 被AI换脸的风险和防范，警方教您分辨→

81. “派出所所长说反诈”第十二期：AI换脸诈骗来袭3招教你识破

82. 紧急提醒：AI换脸、智能拟态已成新型诈骗手段，守住钱袋子必看反诈指南！

83. AI诈骗爆发：视频里的“熟人”正掏空你的钱包

84. 家庭成诈骗重灾区！AI伪造亲友视频转账，这些漏洞必须堵死

85. 春节在即，AI诈骗凶猛

86. 山西省消协发布警示：当心“AI换脸”“AI配音”新型诈骗

87. AI换脸+声音合成骗局爆发！2025防诈指南：3秒识别+4个保命技巧

88. 防诈骗小课堂 | 骗子工具再升级，AI模拟请警惕

89. AIDAv2警示：AI语音诈骗来袭，声音也能被克隆

90. 眼见≠为实！这几十个高大上项目都是“AI”骗局，已经有数万人被骗。都是“数字人”！

91. 警惕技术伪装，守住财产安全

92. AI诈骗盯上老年人，换脸换声低至1元

93. 山西消协紧急预警！AI换脸配音诈骗高发，“三不二要”守住钱袋子

94. 你打视频时的画面，可能是ai生成，快来看看怎么分辨

95. 金融教育宣传周|关于使用AI进行电信网络诈骗的风险提示

96. 2025年度AI乱象调查丨AI拟声制造“熟人骗局”，亲友“来电”变“来骗”

97. AI“克隆声音”诈骗激增

98. 假孙子真骗子！警惕AI换脸诈骗

99. 2025年金融教育宣传周 I 关于警惕利用AI新型技术实施诈骗的风险提示

100. 警惕！2026年新诈骗手段：AI技术会怎么对你和老人实施诈骗？

101. 当视频里的亲友突然借钱：教你三秒识破是否AI换脸骗局

102. 风险提示 | 警惕AI诈骗

103. 华为鸿蒙6.0 智能检测视频换脸

104. 微信视频通话也能造假？AI换脸诈骗防不胜防

105. 华为手机“换脸监测”功能必开！视频通话防诈骗，这步操作救大命

106. 警惕AI换脸拟声诈骗！警方教您识破新骗局

107. 亲友视频可能是假的！AI换脸诈骗已盯上您

108. AI换脸诈骗来袭？反诈中心教你三招识破！

109. 以案说险 | 防范资金诈骗，保护重点人群

110. 两个手机开关，防骗超实用！🍎手机里有两个开关一定要打开，不然可能被诈骗分子盯上，赶紧看看你有没有开对～ 1️⃣先找到设置里的安全选项，点击进入后选择反诈防护，把反诈检测开关打开，这样就能提前拦截诈骗电话和短信啦～ 2️⃣返回安全界面，下滑找到AI换脸检测提醒，把视频通话检测开关打开，遇到有人用AI换脸冒充亲友借钱的情况，手机会及时提醒你，保护财产安全真的很重要～ #手机技巧#安全防护#防诈骗

111. 风险提示 | 警惕AI冒充亲人诈骗，守护家庭财产安全

112. 新型AI换脸诈骗学生，案例警示！

113. 【普法宣传】AI诈骗：看不见的陷阱，如何守护你的财产安全？

114. 度小满反诈黑科技有效检测多类深伪手段保卫群众财产安全

115. FBI警告：黑客用AI伪造绑架视频以索要赎金

116. 金融宣传周 | 风险提示：关于使用AI进行电信网络诈骗的风险提示（一）

117. AI 深度伪造诈骗致老人毕生积蓄受损：技术滥用下的安全防御盲区

118. 深度伪造的代价：当AI视频触犯法律的十个日夜

王劲松遭AI深度伪造视频冒充，2025年一季度AI换脸诈骗案激增45%

精选参考来源