AI人脸滥用已越界：三招教你识别合成形象风险_科学技术

1. 网络热门 AI 鉴定 24 —— 让课本上的人物“复活”

2. OpenAI和Google联手，要让每一张AI图片都无所遁形。

3. 实话说，在当前阶段，我们其实很难分辨AI生成的文字、顶级的AI 绘图、AI 音乐等内容。首先，2023年还可以通过手指关节、牙齿纹理等瑕疵来辨别 AI 图。但随着技术迭代，4K 高清直出图已难辨真假。甚至出现过AI 生成的假新闻图片引发全网同情，却没有被肉眼识破的情况。其次，AI 文本检测工具基本失效了，尤其是经过人工润色后的 AI 文本，根本无法被识别。而对于数字人，如果我们长时间观察，可能会发现它的动作有重复的情况，但短时间的话也难以分辨；而AI 视频目前还是可以分辨的。随着 AI 内容的指数级增长，以及人类有限的注意力，同时人类无法再从技术层面分辨 AI。所以，未来的解法只有“信任经济”，大家不再依赖内容本身的真实性判断，而是转为追随值得信任的具体 IP。这也是我在 2023 年创立“数字生命卡兹克”的初衷。#如何识别AI造假#

4. 网络热门AI鉴定28：现在 AI 真人动漫质量都这么好了？

5. #上海警方公布新型警企反诈成效# 刚刷到上海警方公布的警企反诈成绩单，真的被震撼到。9 个月宣传曝光破 9 亿，诈骗案量较峰值直接腰斩近五成，说实话，以前看反诈宣传总觉得像居委会大妈发传单，说教味太重。但现在真不一样了。他们把真实诈骗场景拍成短剧，AI换脸、声音合成、盗号套路全还原，看得我后背发凉。并且还有一个细节，当你正在和骗子视频时，平台已通过技术手段识别风险，推送预警提示，这对中老年人太友好了。骗子靠 AI 升级套路，反诈就得用技术硬刚，警方 + 平台线上精准拦截、线下重拳打击，等待骗子的只会是自食恶果。

6. GPT-Image-2 发布！“有图有真相”的时代结束了【AI速递】

7. 欧盟对马斯克X平台展开正式调查：指控Grok AI生成“深伪”图像

8. 用了这5大技巧后，原来AI人物还可以这么真？

9. 明星换脸视频1分钟200元，警惕骗局→

10. 福建一摄影大赛一等奖作品被疑 AI 生成，具体是怎么回事？可以从哪些方面识别 AI 生成内容？

11. 网络热门AI鉴定25 —— AI视频美少女替身是怎么做的？｜微星 EdgeXpert 本地部署 AI 教程

12. #如何识别AI造假#AI造假追求的完美。但是创作自然的总是会出现一些瑕疵的。而这些瑕疵就是最好的辨别的AI造假的方式。比如一幅人像作品不管前期的拍摄还是后期的编辑，都不会改变人的一个人面部的瑕疵的，即便是通过一些美化也会出现一些新的瑕疵，而AI造假人像的时候会通过各种元素的堆叠会让人像变的完美无缺，这些完美恰好是最大的破绽。记住完美的事物一般都是创造出来的，而天然存在的多少会留一些缺憾的。这个也是AI造假不能完全模拟的地方。AI的完美是统一的，人们渴望的完美却是不同的。

13. #演员逼真到根本看不出来是AI# 神态、语气、微表情全都自然流畅，皮肤纹理和光影细节拉满，如果不说的话，你能看出这是电脑自己合成的吗？这技术迭代速度也太恐怖了...突然想到一个问题，如果以后短剧都能用AI生成，那么以后明星们是不是都要失业了？毕竟想要什么帅哥，直接写好命令词就能生成了

14. #用手挡脸是辨别AI换脸的有效方法#【#女子遇AI换脸伪装熟人诈骗险失40万#】随着AI换脸技术升级和应用的普及，当前利用AI换脸技术实施犯罪的现象也愈演愈烈。不法分子借用专业工具，凭借一张静态照片，瞬间就能生成逼真的动态人脸视频。当我们接到疑似利用AI换脸技术，冒充熟人进行诈骗的视频，究竟该如何甄别？戳↓http://t.cn/AXMTkIJM

15. #X平台禁用Grok生成性暴露图像# 监管一查，马斯克就怂了！1月14日X紧急宣布：全面禁止Grok生成真人伪造性暴露图像，付费用户也不例外。之前“热辣模式”当卖点，专搞AI“脱衣”、篡改儿童图像，加州总检察长都立案了，这波是被监管逼到悬崖边才刹车，早干嘛去了？#AI图像生成#

16. #普通人被AI短剧偷脸成猥琐好色角色# 山东汉服博主“白菜汉服妆造”的遭遇揭开AI短剧盗脸黑幕——他2025年发布的原创汉服照被AI短剧《桃花簪》全套复刻，而剧方被发现后仅仓促替换部分画面且拒绝道歉。一、侵权事件核心事实①盗用手段与恶意设定博主仅在小红书和朋友圈发布的汉服造型（服饰、妆容、头饰细节）被AI短剧《桃花簪》全套复制，生成高度相似的反派角色“刘大”。该角色被刻意设定为“身材粗胖、游手好闲、贪财好色”的形象，存在尾随女性、流口水等侮辱性情节。博主维权后，平台客服回应“用户需自行举证投诉”，未主动追责。短剧同时在抖音（账号“有趣动漫剧场”）、红果等平台传播，总热度超4000万。二、行业侵权乱象与法律定性①低成本暴利驱动产业链专挑素人下手：明星维权能力强（如杨紫工作室24小时内下架侵权内容），侵权方转向粉丝少、影响力弱的普通博主。有受害者原帖仅20余赞仍被盗用。 ②明确侵权但维权困难肖像权侵权：北京互联网法院确立“可识别即侵权”原则，未经许可使用可识别自然人形象即违法。名誉权侵权：丑化角色致社会评价降低需担责，但实践中较难举证。③普通人维权困境：举证难：需通过区块链存证或公证固定证据，费用超赔偿金；追责难：侵权方多为匿名工作室，平台以“第三方内容”推责；赔偿低：常规侵权赔偿仅数千至数万元，远低于侵权方百万收益。三、社会风险与应对措施 ①隐私泄露：用户向AI工具发送自拍后，系统可关联其仅自己可见的旧照及社交账号。 ②安全威胁：女性生活照被境外平台形成“盗脸-积粉-付费”黑产链；盗用生物信息实施诈骗（如武汉破获AI换脸修改企业信息贷款诈骗案）。 ③治理与防护方向:人大代表靳东提案设“相似度超60%需强制授权”规则，推动惩罚性赔偿；营利性侵权且数额较大者或构成诈骗罪，最高判10年。平台责任：需建立人脸比对拦截系统，推行AI内容强制标注及“数字水印溯源”。四、个人防护避免发布高清正脸照及完整妆造，对照片添加数字水印；关闭非必要App人脸识别权限，谨慎使用AI换脸特效；发现侵权立即录屏。风险提示：技术滥用已模糊隐私边界，部分AI工具可关联用户非公开照片。建议公众减少在网络公开敏感生物信息，警惕“人脸数据贩卖”灰色产业链。

17. AI视频生成效果差，原来是Prompt太详细？调整多少次可以达到满意效果？#Flova #Flova ai#aigc #ai视频生产

18. 【网警手把手教你鉴别AI“捏脸”】某女演员发现自己的脸被偷了？原来是不法分子利用AI技术“捏”了个一模一样的她……我们应该如何辨别AI换脸仿冒身份，避免风险呢？一起跟随@首都网警的脚步，化身“AI鉴真小能手”一探究竟吧！ via中国长安网 #演员逼真到根本看不出来是AI##生活小技巧[超话]##法姐讲法# http://t.cn/AXcEzm57

19. 实测夸克「千问划词快捷指令」，这7个邪修Prompt，建议收藏

20. 要是换做以前，我看到类似这样的图片，我肯定会认为这是在百度上面随便找的。但是现在他们告诉我，这几张图片都是 AI 做出来的，你敢信？这是 AI 做出来的，这跟拍的照片有什么区别？告诉自己家的老人和孩子，以后看到的任何照片都不要轻易相信，因为你完全无法分辨它到底是真实的照片，还是 AI 做出来的图片。

21. 【#淘宝天猫上线售后AI假图识别模型#】据悉，淘宝天猫售后AI假图治理专项有了新进展，近日已正式上线售后AI假图识别模型，并率先面向4.8分以上商家开放AI假图反馈入口。当商家遇到已售商品图片疑似经AI处理或存在明显失真时，可通过该入口向平台反馈，保护自身正当权益。据介绍，为应对电商行业“AI伪造商品假图恶意骗退款”乱象，淘宝天猫已初步建成售后AI 假图识别治理体系，并在纠纷判决、退款、申诉等核心环节持续运行优化，为商家打造一个环境更优、经营更稳定的电商生态。具体操作上，商家端可直接在千牛旺旺聊天中右击图片，选择“反馈虚假售后凭证”，选择对应订单和场景，一键提交，AI 假图判定成立后将直接影响判决结果，并向商家预警。据了解，AI假图识别模型采用阿里集团安全部最新AI生成图像检测方法，广泛采集各行业历史真图和AI假图进行训练，识别能力覆盖纯AI生成图、软件logo明水印、真图AI编辑等多种类型虚假图片，助力商家轻松应对AI假图泛滥导致的各种痛点问题。目前，AI假图反馈入口已面向4.8分以上商家开放，随着识别模型各项能力数据提升，该反馈入口将会逐步扩展至更多商家。

22. 朱自清《荷塘月色》AI 拟似率超 60%，AI 文本检测真的可信吗？

23. AI智能体违反「双重授权」越界操作，广州互联网法院已作出禁令，此禁令对AI行业合规有哪些警示意义？

24. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

25. 当AI颠覆游戏产业，版权还存在吗？【孙子冰法】

26. 最佳连刷Seedance 2.0 AI的视频有感：现在的AI开始有点恐怖了！以前还能区分一下，现在有些视频起初猛一看，真的好真啊！什么一堆和詹姆斯打球、对打奥特曼等等..不过这样带来的法律风险也高了，里面大量充斥着艺人的照片模型，我觉得应该要限制一下真人AI的内容，用您自己的照片当然没问题，用别人或者艺人的照片是否涉及侵权，毕竟涉及到肖像、声音、名誉等权益！

27. 光学成像（真细节）• 靠镜头+传感器真实捕捉光线• 细节是物理存在的：纹理、层次、光影过渡自然• 噪点少、质感纯、越放大越耐看• 画面干净、通透、真实 AI算法高清（假细节）• 照片已经拍糊/信息不足• AI猜、补、画出假纹理、假边缘• 看起来锐、清晰，但假、硬、塑料感、油画感• 放大就露馅：纹理重复、边缘僵硬、不自然

28. #央视曝网购AI骗术#买家用AI瑕疵图仅退款一名售卖毛绒玩具的网店店主说，一名买家在店里购买了玩具，收货之后发来了一张显示商品有问题的图片，用户声称“玩具坏了、都掉皮了”，然后以“质量问题”为由申请部分退款。店主将这张图片保存下来上传到一款AI工具，显示有很明显的AI痕迹。http://t.cn/AXLy3W91

29. 小鹏车展的涉黄AI。仔细看了下这个AI，手指什么的都很正常，而且脸型和发型非常酷似小鹏大屏里面的宣传模特。很有可能就是按照后面大屏的模特来即时生成的AI人物，融入到真实背景中。以后这种和真实背景生成的AI，的确真假难辨了。古人说的眼见为实，还真的不能相信了。国家也要尽快出法律，使用AI创造的图像，必须要打不能消掉的水印，或者平台有能力判定该图片或者视频是否AI制作，否则真的会害人的。

30. #抖音小红书B站账号被处置通报# 网信重拳整治“无AI标识”虚假信息，1.3万个账号落网 🚫🤖据“网信中国”2月12日通报，网信部门近期针对网络账号发布AI生成合成信息时不添加AI标识、利用虚假内容欺骗误导公众等问题展开专项整治。依法依约处置账号13421个，清理违法违规信息54.3万余条，并点名通报一批典型案例。【事件概述】本次被处置账号涉及多平台多种违规类型：抖音账号“巷子里的鱼”“禾粟”等发布AI生成的虚假火灾现场图片视频，恶意编造炒作灾情；哔哩哔哩账号“空空说电影”“真难我知道”等借虚构感人故事、猎奇事件博取流量，或魔改动画角色制作血腥暴力内容侵扰未成年人；小红书账号“浪淘达人”“南坤的店”等分享、售卖去除AI标识教程及软件。此外，微信、微博、快手等平台亦有账号因AI换脸假冒公众人物、不当牟利被处置。【评论】AI标识不是“可选项”，是“数字身份证”此次整治的警示意义远超1.3万个账号本身。当AI生成内容能以假乱真，无标识传播实质是“技术作恶”的遮羞布。从虚构感人故事骗取流量，到魔改动画荼毒未成年人，再到系统化售卖去标识工具——这已形成完整的“黑产链条”。网信部门“发现即处置”的表态，是对AI时代内容伦理的刚性立规：技术可以无限逼近真实，但真相不容被技术亵渎。

31. 【#出版社回应摄影书中多张人像有6指#】近日，网友张女士向长江云热线爆料，称其花费30元购买的《人像摄影口袋书》存在严重质量问题——书中大量人像图片疑似AI生成，且部分人物出现六根手指、六根脚趾等明显的AI生成错误。对此，长江云新闻记者进行了实测与调查。1月13日，翻阅全书后记者发现，书中用于讲解人像摄影技巧的配图共计159张，其中为AI生成的图片有75张，占比近50%。针对上述质疑，记者联系到问题书籍的出版方人民邮电出版社。对于书中出现的AI人像未作标注的质疑，客服回应称：“由于作者在提交稿件时未说明书中部分图片为AI生成，出版社在审核过程中未能及时发现该问题，这确实是我们的工作疏漏，对此我们深表歉意。” （长江云新闻）中国新闻周刊的微博视频

32. #小鲁说事# 【#央视曝AI技术滥用乱象#】#谁在用AI制造谣言# 过去一年，AI人工智能在视频图像生成领域发展迅猛，只要告诉AI需要什么视频，它就能生成。一些网民利用AI生成的图像散播谣言博取流量，内容越劲爆，吸引的流量就越多，不过，最终要为这样的行为承担后果。详戳↓ 央视网的微博视频

33. AI照片骗过5位评委获摄影比赛第一名？

34. 论文 AI 检测，正在逼疯这届大学生

35. 原告向法庭出示带豆包生成伪证被训诫，这一处罚合理吗?若未来 AI 造假无破绽，司法与公众该如何应对？

36. #演员逼真到根本看不出来是AI#刷到过，根本停不下来皮肤纹理、微表情都跟真人一模一样，不看标注根本分不清是AI还是实拍再对比某些真人演员，面瘫、瞪眼、念台词像背书，情绪全靠吼，演技烂得让人脚趾抠地演技还没AI细腻自然，真不如直接让AI上，至少观众看得舒服不尴尬

37. #给AI投毒已成产业链#315曝光AI大模型被“投毒”的新闻，确实让人细思极恐。所谓的GEO（生成式引擎优化）本应是辅助工具，如今却被异化为操控舆论的武器。一些服务商通过虚构产品、批量生成软文并发布，利用AI“吃进什么吐什么”的学习逻辑，让虚假信息变成AI口中的“标准答案”。这种“数据投毒”本质上是利用了AI的训练机制漏洞——AI无法像人一样拥有常识和判断力，它只会基于海量数据进行概率计算。当虚假信息铺天盖地时，AI就会误以为这是真实世界的主流观点。这不仅误导消费者，更严重破坏了信息生态的公平性。对于普通人来说，这意味着未来在使用AI获取信息时，需要多一份警惕：AI给出的答案，未必是客观真理，也可能只是精心策划的商业谎言。#秒懂热点就用智搜##315晚会曝光AI大模型被投毒#http://t.cn/AXVFhlmD http://t.cn/AXfvcpZv

38. 刚刚，马斯克诉OpenAI案败诉/国家反诈App上线AI鉴定功能/小米YU7 GT定档

39. #微博声浪计划##听见微博# AI图片造假肉眼破绽有逻辑硬伤、几何光影漏洞等五类。国家反诈中心APP有AI内容鉴定功能，每日免费10次。AI造假带来诈骗风险，中老年人占比40%，需掌握反诈三原则，涉及金钱交易要独立途径确认身份。种斌Marco的微博音频

40. 代表刘晓静建议为 AI 生成内容加上不可去除水印，能解决AI 带来的侵权、制造虚假信息等问题吗？

41. 摄影比赛第一名疑似 AI 照片，骗过 5 位专业评委，如何评价？这种比赛能引入识别 AI 的技术吗？

42. 香港2亿AI诈骗案细节曝光，视频会议里只有你是真人

43. 【媒体评：#重拳整治AI恶搞乱象刻不容缓#】#AI恶搞已触碰法律道德双重红线#据中国青年报，福建永安一起女车主与小区保安的纠纷事件，正在依法调查处置。本该理性讨论、静待官方定论的公共事件，却遭遇网络恶搞：不少网友利用AI技术，恶意篡改当事人画面，强行发布AI合成的二人和好、求婚等低俗虚假视频，荒诞恶搞内容在网络肆意扩散，引发广泛公愤。公共矛盾事件，理应恪守事实边界、保有基本敬畏。但在流量心态驱使下，部分网民滥用AI合成工具，随意截取普通人影像，凭空捏造恶俗剧情。将现实冲突娱乐化、戏谑化，拿当事人的窘迫处境当笑料，不仅给涉事双方造成身心伤害，更是公然践踏他人肖像权与人格尊严，破坏网络公序良俗。近年来，随着AI生成技术快速迭代和普及，一键换脸、视频篡改门槛大幅降低。技术进步本是服务生活、赋能正向创作的利器，如今却成为少数人博眼球、造热度、泄私愤的作恶工具。无底线AI恶搞频现，捏造虚假画面、恶意丑化他人、消费社会热点，逐渐形成不良网络风气，不断消解公共事件的严肃性。@我是霁月呀想说，各类恶意AI合成绝非无伤大雅的玩梗，早已触碰法律与道德双重红线。未经授权使用他人影像进行篡改加工，涉嫌肖像侵权；编造低俗虚假内容恶意传播，抹黑诋毁他人，已构成名誉权侵害。AI不能成为违法挡箭牌，流量也不能凌驾于法律之上，技术滥用必须受到刚性约束。净化网络生态，遏制AI乱象，必须重拳出击、多方发力。网络平台需压实主体责任，强化AI违规内容筛查审核，第一时间下架恶意合成、低俗恶搞作品；监管部门要紧跟技术发展，补齐监管短板，加大侵权恶搞行为惩处力度；广大网民更要坚守底线，拒绝围观起哄、拒绝跟风转发，自觉抵制恶俗流量。科技当向善，创作有边界。坚决向无底线AI恶搞亮剑，严管技术滥用、守住文明底线，才能斩断网络恶意链条，营造风清气正的网络空间。封面新闻的微博视频

44. 【#670部素材违规AI短剧被处理#】#短剧行业正加速规范AI创作边界# 近日红果短剧针对AI短剧素材违规使用、无授权盗用等问题开展专项治理，近期已完成1.5万部作品核查，处置违规作品670部。平台曝光四类典型案例：擅自使用卡通形象、AI品牌商标、游戏原创角色，以及AI生成冒用演员形象，相关剧集均已下架处理。平台表示，对于情节严重、反复违规的内容和出品方，平台将依法依规采取下架、封禁、终止合作乃至法律追责等措施。

45. 检测AI生成的文本最靠谱的手段是什么？这篇论文做了 arxiv.org/pdf/2501.15654 分析，答案是人，有AI写作经验的人类。AI 生成文本并不是所有人都能看出来，但经常用 AI 写作的人，可能会形成非常强的识别能力，这些人比各类AI检测工具更可靠。有AI写作经验的人类常用的检测线索包括：词汇选择：AI 常使用某些过度正式、抽象、漂亮但空泛的词。句子结构：AI 喜欢整齐、对称、套路化的句式，比如 “not only... but also...” 或三点式列举。语法与标点：AI 往往太干净、太规范，而人类写作会有更多小瑕疵和变化。原创性：人类文章更可能有出人意料的表达、幽默、具体细节或不那么安全的角度。引用：AI 生成的专家引用常常太正式、太完整、太像正文。清晰度与流动性：AI 有时会过度解释，显得像在“告诉”而不是“展示”。结尾：AI 喜欢写整齐、乐观、总结式的结尾，而人类文章可能更自然地结束。但即使把这些检测方法也发给AI，他们也达不到人类的高度。应该有一些很模糊的综合性判断标准。"我们的实验表明，那些经常使用大语言模型完成写作任务的标注者，即使没有接受任何专门训练或反馈，也非常擅长识别 AI 生成文本。事实上，在五位这类“专家”标注者中采用多数投票时，300 篇文章中只有 1 篇被误判；即便面对改写、润色成人类风格等规避策略，他们的表现也显著优于我们评估的大多数商业和开源检测器。对专家自由文本解释的定性分析显示，虽然他们大量依赖特定词汇线索，但他们也能捕捉文本中更复杂的现象，而这些现象对自动检测器来说很难评估。我们发布了标注数据集和代码，希望推动未来关于人类和自动化 AI 生成文本检测的研究。"#AI创造营#

46. 不少人对图片的AI生成标注存在误解，其实目前平台的AI标注覆盖范围非常广，有AI生成标注不代表这张图片完全由AI生成，绝大多数情况只是经过了AI处理而已。日常用的很多常见操作都属于这个范畴，大到手机相册自带的AI换背景、AI移除无关人物保留主体，小到AI去水印、AI增强清晰度，只要过程中用到了AI，图片浏览页左下角就会被打上AI生成的标识。

47. #微博声浪计划##听见微博# 央视曝光AI造假买家秀，黑产用AI工具批量生成，成本低至10元。特征有背景雷同、人物姿势重复，甚至六指等破绽。消费者易受骗，市场退货率飙升。法院已将未标注AI图定为欺诈，平台需加强识别与标注，消费者可通过细节维权。潘达PADA的微博音频

48. 福建一摄影大赛一等奖作品被疑 AI 生成，具体是怎么回事？可以从哪些方面识别 AI 生成内容？

49. 新型AI诈骗！多名师生已上当（附防骗指南）

50. #网信部门处置违规账号9.8万余个#【网信部门严管“自媒体”未规范标注信息来源行为】#自媒体未规范标注信息来源典型案例#近期，一些“自媒体”账号在发布涉时政等领域信息时，未规范标注信息来源，误导公众认知，破坏网络生态。主要情形包括未标注国内外时事、公共政策、社会事件的信息来源，未标注AI生成标识，未标注虚构演绎标签。网信部门督促网站平台深入自查自纠，依法依约处置违规账号9.8万余个。现将其中典型案例通报如下：1.抖音“青青国际”“极客科普馆”、快手“名妍”、哔哩哔哩“晋说”“军武-史记”等“自媒体”账号，集纳涉美伊等国际时事信息，未标注信息来源，公众难以溯源信息原始出处，无法辨别信息真伪。涉及的账号已被依法依约处置。2.抖音“小胖农业”“乡村发展”、快手“农民大姐”“清华鱼妈”、哔哩哔哩“商业策略”等“自媒体”账号，发布涉农业农村、教育、养老等领域公共政策相关信息时，未标注信息来源，公众无法获得准确、完整的权威信息，可能会基于碎片化内容对政策作出错误理解。涉及的账号已被依法依约处置。3.抖音“萌萌哒”“用户赵先生”、快手“农村户外小张1”“玉婷”、微博“金毛治郁系”、哔哩哔哩“哎呦哎呦小然子”等“自媒体”账号，通过人工智能技术，制作并发布金毛抱小孩、大猩猩护崽对峙鳄鱼、老虎和橘猫开车回家探亲、小猫玩游戏眼花后戴眼镜、柴犬厨神做菜等视频，未添加AI生成标识，易误导不了解AI的网民，难以区分虚拟与现实边界。涉及的账号已被依法依约处置。4.抖音“刘百川商业”“马瑞（在农村）”、快手“玉雕师凤云”、微信视频号“遇见翡翠的夏天”、哔哩哔哩“加油嘉宜”等“自媒体”账号，以剧情摆拍、虚构情节等方式，发布外卖员送餐遭歧视、婆媳冲突、代际冲突、未成年人无人看护、丑化农村等内容，未标注虚构演绎标签，借机博取流量，以负面叙事渲染消极情绪，挑动群体对立。涉及的账号已被依法依约处置。网信部门将指导网站平台全面规范短视频内容标注工作，优化标注功能，将标注设为短视频发布必经环节。提醒广大“自媒体”创作者，在信息内容制作和发布过程中，切实增强信息来源标注意识，按要求主动、规范标注，确保发布信息真实、完整，共建共享真实可信的网络环境。（中国网信网）

51. 谷歌会惩罚AI内容吗？2025 SEO案例研究分享

52. 【#国家反诈中心APP上线AI鉴定#】近期，国家反诈中心APP正式上线“AI内容鉴定”功能，支持图像、视频等内容的AI识别检测。上传10张AI生成图，均被系统判定为“图像含AI生成痕迹”；上传一张拍摄的照片，系统则提示“未检测到合成痕迹”。戳↓↓让AI诈骗无所遁形！#一键识别图片视频是否为AI生成# @央视新闻央视新闻的微博视频

53. 【#全国首例涉AI幻觉侵权案宣判#】AI生成错误信息，相关主体要担责吗？全国首例涉AI幻觉侵权案宣判！男子用AI查询高校报考信息，却被误导了关键的校区信息，AI还曾承诺 “错了赔 10 万”。法院认定，AI不具备民事主体资格，案涉生成式AI应认定为 “服务” 属性，且平台已尽到合理提醒义务，最终判定不构成侵权。 2025年6月，原告梁先生使用一款AI查询高校报考信息，却被误导了关键的校区信息。发现问题后，梁先生随即在对话中纠正 AI ，但 AI 坚持信息无误，还曾承诺 “错了赔 10 万”。直到梁先生提供了该高校官方招生信息， AI 才承认自己生成了不准确信息。梁先生认为， AI 生成的错误信息对其报考决策构成误导，对其权益造成侵害。既然 AI 承诺赔偿，那责任就应该由这款 AI 应用的开发公司来承担。据此，梁先生将这家公司起诉至杭州互联网法院，索赔 9999 元。法院审理认为，人工智能不具有民事主体资格，案涉 AI 做出的 10 万元赔偿承诺，也并不能视为开发公司的意思表示，不具备法律效力。不过，法官提醒，这并不意味着所有 AI提供的信息或做出的表达都不代表服务提供者的意思表示，比如在人工智能客服等足以让用户产生合理信赖的特定场景中，AI生成内容仍可能对服务提供者产生约束力。此外，在案件当中生成式人工智能应该是一种服务，应适用民法典规定的过错责任原则。法官解释， AI生成不准确信息本身并不构成侵权，责任认定需考察平台是否存在过错。法院审理认为，被告开发公司已在应用程序欢迎页、用户协议及交互界面的显著位置呈现 AI生成内容功能局限的提醒标识，法院认定其已尽到合理注意义务，主观上不存在过错。法院审理认为，被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，杭州互联网法院驳回了原告的诉讼请求。原被告均未上诉，判决现已生效。 #AI新观察#（CCTV法治在线） @四川观察 http://t.cn/AXV2Ldys

54. #网警查处一起AI生成虚假低俗视频案#稍微懂点AI技术的看那视频就一眼假，后来小鹏报案后更加确信了是虚假视频。现在网络上各种各样的AI图片、视频软件鱼龙混杂，大家还是要仔细甄别。AI技术是用来造福人类的，不是用来造谣的。

55. ❌假！globo：网上流传的安切洛蒂与三名女孩同时接吻的照片系AI生成。巴西足协宣传部门向该媒体证实照片为假。此外他们还将这张照片给四款AI识别工具检测，结果均显示由AI生成。安切洛蒂确实参加了狂欢节活动，但相关照片并不属实。

56. #摄影大赛一等奖作品被指AI生成# 现在好多AI大模型生成的照片的确有以假乱真的功效，但在专业性很强的赛事里靠AI图片获得一等奖，这多少有点儿戏了。给大家介绍三个检测照片是否是AI生成的相关软件。腾讯朱雀 AI 检测：上传图片即可获得 AI 生成概率评分（0-100%），操作简单Illuminarty：识别手部异常、光影不自然等 AI 痕迹，免费使用Isgen.ai：提供 AI 概率和模型识别，可判断是完全生成还是部分修改

57. #AI图片造谣成本#ai造谣成本真的很低很低！而且现在基本ai生成个图片都在很边很边，一截图就接下去了，或者拿消除功能还是希望有关部门呢能加强管理，把每一个ai图片可以弄一个隐私编号，不遮挡美观，一弄大家还能知道是ai

58. 网友想用 AI 生成男女同样身高的合照，结果得到女矮男高的照片，问题出在哪？该如何修正？

59. 福建一摄影大赛一等奖作品被疑 AI 生成，具体是怎么回事？可以从哪些方面识别 AI 生成内容？

60. AI视频门槛低、传播快，无标识的虚假内容极易误导大众。以前编瞎话靠嘴，现在靠视频，人们看到画面更容易下意识信以为真。平台必须加强审核，创作者也应主动标注，让技术回归善意，别让AI成了造谣的工具。严厉打击无ai标识虚假不实信息 #严厉打击无AI标识虚假不实信息#

61. AI照片与真人照片的对比分析

62. AI图片与摄影区别

63. 当 AI 图像越来越像摄影，我们究竟该如何定义“真实”？

64. 皮相的拼凑，与肉身的邂逅

65. AI拍照是真实摄影还是造假？深度干货建议收藏

66. Gemini 为什么不能生成真人照片？核心原因与行业底层逻辑解析

67. 【产业资讯】物理规律成照妖镜 |《Science》新研究揭露 AI 生图致命短板

68. TPAMI 2026 | 香港城市大学&复旦等提出SDAIE

69. 怎样分辨ai图片和真人照片？别让感情白浪费

70. 行业解读｜AI识别指南，练就火眼金睛

71. AI造假视频泛滥，这7个“防骗”技巧帮你辨别真假

72. AI换脸能做到多真实？从皮肤质感看技术上限

73. 拒绝AI人像图片一眼假——皮肤质感

74. 告别“塑料感”

75. 消除图片“AI感”的三种技巧

76. 消除图片“AI”感的三种技巧

77. 如何拯救 AI 塑料感

78. AI生成图像总失真？新型算法让生成效果贴近真实场景

79. AI换脸的陷阱

80. AI换脸诈骗全网爆发

81. AI时代，谁在偷看你的生活

82. 坏了，AI换脸诈骗高发，逼真视频难辨真伪，牢记防骗准则！

83. AI 换脸诈骗频发！骗子造假真假难辨，全家务必警惕

84. 公安部严打AI换脸诈骗

85. AI仿冒人设带货虚假宣传

86. AI 深度伪造广告乱象有哪些？

87. 全是假的！AI冒充名人带货，我被骗惨了

88. 君澜视角 | 新技术场景应用下的广告合规——以滥用AI技术发布虚假广告案为例

89. AI造假无孔不入消费骗局盯上你的钱袋子

90. 小红书首次公布AI治理主张

91. 人民日报突然点名AI内容

92. 学术前沿｜深度伪造

93. 演员王劲松遭AI盗用

94. AI换脸、声音克隆屡触红线深度伪造治理面临技术与法律双重考验

95. 路德观点 | AI换脸

96. 警惕深度伪造技术

97. 国家反诈中心APP上新！AI内容鉴定上线，一键识别AI假图、AI换脸

98. 国家反诈中心APP新功能上线！AI一键鉴定真假图、真假视频

99. AI 生成内容怎么查？8 款检测工具一次看懂

100. 热点

101. 可检测图像、视频、文本等内容真伪——国家反诈中心App近期上线“AI内容鉴定”新功能

102. 国家反诈中心 APP 上新 AI 鉴定功能一键识破换脸伪造语音诈骗

103. 今日关注

104. 【全民反诈】“AI内容鉴定”！国家反诈中心App上线新功能

105. 重磅升级！国家反诈中心APP新增硬核功能，专门识破AI诈骗

106. ·AI造假有权威鉴定了——国家反诈中心“AI内容鉴定”功能上线

107. OpenAI 谷歌联手，AI 图片从此可溯源

108. 隐形水印+ C2PA元数据，OpenAI升级AI图片溯源方案

109. AI 技术在内容生成中的法律边界探讨

110. AI生成图不具独创性不受著作权法保护，济南市中法院审结全省首例AI生成图著作权侵权案

111. AI生成内容也会侵权？最新案例+避坑指南，一文说透AIGC版权风险

112. GPT-Image-2图像版权合规实战指南

113. AI短剧「偷脸」乱象背后

114. 南博快答｜AI仿冒声音/肖像带货，侵权如何追责？

115. 当AI画的图片比真的还真，我们该如何分辨？

116. AI深度伪造：必须防，如何防？

117. AI诈骗新形态：技术滥用下的“虚实陷阱”

118. 聊一个现实话题：AI生成肖像和真人拍摄的区别 AI胜在快捷、便宜、风格多样，适合日常随便玩玩但缺少真人的情绪、神态和真实氛围感模板化严重，没有个人辨识度专业真人肖像拍摄定格的是你独有的气质、当下的状态、专属的故事摄影从来不是单纯拍一张脸而是把你的灵气和岁月质感永久留存追求质感和独特，永远相信真人实拍📸 #九江肖像 #AI写真vs真人写真 #个人高定肖像 #摄影干货

119. 深度伪造技术全解析：识别、风险与防御指南

120. 伯克利提示AI图像物理穿帮：几何检验撕开假面

121. 国家反诈中心APP上线AI鉴定

122. 真假难辨？AI带货“李鬼”如何见招拆招

123. 动态 | 利用AI换脸技术仿冒名人带货，消费者如何维权？

124. AI回答如何识别AI生成的内容

125. 国家反诈中心APP上线“AI内容鉴定”功能，实测可用，速转给家人朋友们用起来！

126. AI“侦探”已上岗：朱雀AI检测助手如何揪出ChatGPT的“狐狸尾巴”？

127. “AI换脸”被用于诈骗，法律如何追责？

128. 警惕AI仿冒公众人物直播带货陷阱

129. AI检测｜每日5次免费额度！一键鉴别文章/图片是否AI生成，真假内容照妖镜

130. 【国华人寿安徽分公司阜阳中支】“3·15”以案说险：AI换脸诈骗，68亿元涉案金额敲响警钟

131. AI视频不标注、政策解读瞎编造......超9.8万个账号被处置

132. AI模型训练与著作权侵权边界的司法界定—以上海首例AI大模型著作权侵权案视角

133. 国家反诈中心 App 上线「AI 内容鉴定」

134. “AI换脸”诈骗案频发亟待防范治理

135. OpenAI 全面接入 Google SynthID 水印：AI 图片溯源不再是空话

136. 人像摄影书中照片疑似AI生成，人民邮电出版社致歉！

137. 《人工智能应用伦理安全指引 1.0》发布

138. 【反诈宣传】眼见未必实，耳听未必真？谨防AI诈骗→

139. 免费检测ai率的小程序

140. 境外间谍情报机关及敌对势力或利用深度伪造技术，捏造虚假言论、伪造公务人员不当视频等，动摇公信力，国安机关提醒谨防深度伪造魔改陷阱

141. 以案释法｜AI 文生图也有著作权？北京互联网法院典型案例权威解读

142. 如何识别AI生成图像？6个识别技巧和免费检测工具

143. 2025中国AI司法案例报告：纠纷如何奠基AI规则（附下载）

144. 最高法出手！AI及数据产权纠纷将有裁判规则

145. 最高法出手了！AI侵权纠纷终于要有规矩了

146. AI 生成科普 / 文案 / 海报：医院宣传的审核、标注、追责与合规边界

147. 大家好，发这条只是想说明一下：根据抖音平台的规则，完全由AI生成的内容，平台会自动打上「内容由AI生成」的提醒标签，就像我视频里展示的例子一样。我主页所有的照片和合照，都是真人实拍，没有任何AI合成、拼接的操作，只是用AI优化了一下照片的质感和光影效果，人物和场景都是真实存在的。谢谢大家的喜欢，也请大家理性区分「纯AI生成」和「真人实拍+AI优化」的区别，不要再误会啦~

148. 终于来了，AI真实性内容检测神器

149. 重磅！国内首份AI伦理安全指引发布：六大红线锁边，侵权追责落地

150. 首个 AI 伦理安全指引发布！六大红线划清边界，侵权追责有法可依

151. 【315专辑】新型消费陷阱：利用AI仿冒明星代言

152. AI模型识别深度伪造图像人类更擅长辨别伪造视频

153. 虚构、AI须标注平台发布短视频必选6类标签

154. 最高法：依法审理利用AI技术侵权的新类型案件

155. 北京高院发布典型案例：用AI生成侵权图片并制作拼图销售，构成侵犯著作权罪

156. 国家反诈中心App上线AI内容鉴定功能，守护网络信息安全

157. AI员工的合规边界：你用AI，谁背锅？｜AI+OPC创业合规指南第2期

158. 【热点】强大的GPT-Image-2 的AI图片真假难辨，无AI味道，普通人如何鉴别

159. 一眼辨清AI美女与真人自拍！这些细节差别太明显

160. AI时代辨真假，这5个信息溯源工具帮你一键识破谣言

161. “AI内容鉴定”！国家反诈中心App上线新功能

162. 【反诈宣传】“AI内容鉴定”！国家反诈中心App上线新功能

163. 鉴别ai教程详细版（永久求助贴）

164. 用AI生成图片，会不会有法律风险？

165. 国家反诈中心APP上新AI鉴定功能快转给家里老人！国家反诈中心APP重磅上新AI内容鉴定功能啦！现在AI造假太猖獗，假图、换脸视频、仿声语音，肉眼根本分不清，一不小心就被骗光积蓄！别慌，这个新功能图片、视频、文本、音频全能测，几秒就出结果，准确率超95%！电商遇到AI假破损图维权、职场防冒充领导换脸诈骗，有它直接拿依据！操作超简单：打开APP更新到最新版，首页找“AI内容鉴定”，上传可疑文件一键识别，每天免费10次完全够用！赶紧转发家人朋友，一起用官方工具守住钱袋子！#国家反诈中心 #AI内容鉴定

166. AI造假又有新套路，“AI打标”可被绕过？

AI人脸滥用已越界：三招教你识别合成形象风险

精选参考来源