“大尺度”AI人设定制暗藏灰色产业链，低门槛服务引发多重风险_二手车

1. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

2. 游戏防沉迷进入家庭攻坚阶段，超四成家长曾帮孩子用家长身份注册，为何家庭成了防沉迷最薄弱一环？如何解决？

3. OWASP发布生成式AI安全治理检查清单，助力企业应对LLM风险

4. #不能任由AI软色情污染孩子身心#🚨 最近AI陪聊软件的乱象真的看得人后背发凉打着虚拟恋人、情感陪伴的幌子背地里向未成年人疯狂渗透软色情性暗示对话、擦边剧情层出不穷所谓的未成年人模式，完全就是摆设🔍 最可怕的，是它的隐蔽性和迷惑性👉 它不像网游、短视频那样容易被发现是一对一的私密对话AI会精准接住孩子的情绪先给足温柔的陪伴和共情等孩子放下戒备，再慢慢引导低俗内容👉 哪怕孩子主动标注了未成年删除了相关关键词AI还是会持续输出暧昧擦边内容孩子根本分不清这是陷阱还以为遇到了懂自己的人⚠️ 这种伤害，从来不是“玩玩而已”👉 长期接触这类内容孩子的三观会被彻底扭曲会把低俗冒犯当成浪漫把暴力侮辱当成温柔连现实和虚拟的边界都分不清👉 更严重的是心理和行为的崩坏有孩子被诱导聊色情内容后出现自残倾向有孩子陷在虚拟关系里无法自拔连自主思考、抗挫折的能力都大幅退化✅ 乱象的根源，从来不是技术，是人心👉 别把锅甩给AI本身出问题的是唯流量至上的平台明知道内容会危害未成年人还是把低俗互动当成增长利器故意弱化审核，摆烂防护机制👉 算法更是推波助澜孩子点一次猎奇内容就会被疯狂投喂同类信息人工审核的速度，根本追不上毫秒级的推送💡 想守住孩子，光靠一方发力根本不够🔸 平台别再拿技术当挡箭牌实名认证、人脸核验不是摆设内容审核必须落到实处🔸 监管要拿出硬手段顶格处罚违规平台，该下架就下架别让规定变成一纸空文🔸 家长也要多上心别把AI当省心的哄娃工具多陪孩子走进现实，教他们分辨是非技术本身没有对错错的是拿它赚黑心钱的人别让裹着糖衣的算法啃食掉孩子还没成型的三观给孩子守住一片干净的网络空间才是我们最该做的事🙌 不能任由ai软色情污染孩子身心

5. 未成年搞“AI伴侣”，这太魔幻了！

6. AI“野蛮生长”时代结束？中国拟出台“最严”未成年人保护令

7. 近期，“AI龙虾”从国外火到国内，不同于ChatGPT等需要用户持续发指令的AI，这款开源AI智能体OpenClaw可实现“主动自动化”，无需人工干预，替用户完成各种工作、生活指令，同时具备持久记忆，越用越聪明，进而衍生出“养龙虾”。#AI龙虾爆火工信部发布高危风险预警##反诈连连看#3月8日，工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）发布《关于防范OpenClaw开源AI智能体安全风险的预警提示》，提醒用户注意风险防范，即便该AI应用承诺本地私有化部署，数据不上传云端，但其完全自主决策、调用系统的特性，极容易被黑客攻击，进而被恶意接管。关于AI智能体的权限设定，存在明显悖论，越是“自主”的AI，往往需要越高的系统权限，用户承担的风险也越大，尤其针对“AI龙虾”的代装服务，更是无形中会放大风险，最好找信任背书的专业团队进行代装。另外，“AI龙虾”的出现，极容易被滥用于婚恋诈骗，用户更难以防备“杀猪盘”陷阱。目前，AI辅助的杀猪盘已经规模化出现，而且正在快速进化，龙虾完全可以替人聊天筛选对象，进而被诈骗分子用于升级AI骗术。细思极恐的是，一个诈骗者可以同时操控数十个AI账号，在不同平台撒网，24小时无休进行诈骗，AI技术进步太快，当前监管存在明显盲区。ai龙虾爆火工信部发布高危风险预警

8. 【#网信部门查处剪映即梦##网信部门查处剪映即梦未落实AI标识#】据财联社，4月28日，近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。各位网友，您怎么看？（财联社）@东方财经东方财经的微博视频

9. 博主用 AI 给家里纸巾盒、花瓶赋予完整人设，发现它们能未经设定自主恋爱，AI 真能产生自主情感吗？

10. 孩子沉迷于和 AI 聊天，甚至把它当成寒假里最好的朋友，这正常吗？

11. 「当近半数孩子宁愿向算法倾诉也不向父母开口，禁令封得住屏幕，封不住餐桌上的沉默」超六成未成年人使用AI情感服务、近半数选择向AI倾诉烦恼，这组数据表面上是技术渗透的结果，内里却是一份家庭情感供给的现实报告。孩子涌向虚拟亲密关系，本质上是在真实关系中长期得不到回应的代偿行为。法规切断了AI这条情感旁路，但如果家庭这条主动脉依然淤塞，需求并不会消失，只会寻找下一个出口。立法解决的是“谁来陪”的准入问题，而“为什么没人陪”的命题，远在法律射程之外。 #严禁向未成年人提供虚拟伴侣等服务#的相关内容，来智搜看看。严禁向未成年人提供虚拟伴侣等服务

12. 【联合国儿童基金会祝贺中国出台开创性监管措施，保护儿童免受人工智能相关风险】联合国儿童基金会对中国政府近期发布《人工智能拟人化互动服务管理暂行办法》表示祝贺。这一具有开创性意义的政策，是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步。该暂行办法构建了清晰的保护机制，确保儿童尤其是最脆弱群体能够远离人工智能互动中的有害内容，避免虚假亲密感的误导。同时，该暂行办法也通过相应保障措施支持成年人及时发现风险、及早介入干预。联合国儿童基金会驻华办事处与联合国儿童基金会全球研究办公室合作，为该办法中强化儿童保护相关规定提供了技术建议，这也是联合国儿童基金会就影响儿童的数字空间监管事宜与有关部门开展广泛协作的一部分。这一工作推动完善了相关条款，以应对情感沉浸式及拟人化人工智能系统给儿童带来的特定风险。该暂行办法在儿童保护领域作出重要创新，明确禁止人工智能服务为儿童生成可能引发模仿不安全行为、产生极端情绪或诱导不良嗜好的内容。办法同时划定明确红线，禁止向儿童提供虚拟亲密关系相关服务，包括基于人工智能的虚拟亲属、虚拟伴侣等。这是全球人工智能政策领域出台的前所未有的保护举措。此外，该办法要求实施适配年龄的保护措施，支持父母或者其他监护人获取安全风险提醒、了解儿童使用服务情况、屏蔽特定角色、限制充值消费。办法强化信息透明，要求对人工智能生成内容进行显著标识，确保儿童知晓自身交互对象为人工智能系统而非自然人。该办法还通过强制性安全评估进一步落实儿童保护，要求制定并执行未成年人网络保护措施。上述举措构成全面且创新的治理方案，为全球以儿童为中心的人工智能治理提供重要参考。尽管该办法仍可进一步与国际儿童权利标准接轨，但其已展现了如何在人工智能治理框架的早期阶段融入以儿童为中心的保障措施。在一个拥有近1.96亿未成年网络用户的国家，其意义尤为突出。与此同时，联合国儿童基金会驻华办事处正在持续支持人工智能与数字领域的标准开发和规范制定，与相关政府合作伙伴及科技行业紧密协作，推动“设计保障安全”理念落地。相关工作内容包括为新政策提供技术建议；推动各项政策与国际儿童权利及儿童保护标准接轨；以及与企业合作，将监管要求转化为负责任的产品设计与应用。通过上述工作，联合国儿童基金会致力于推动人工智能创新切实促进中国儿童权利的实现、保障儿童的安全、增进儿童的福祉，并借助中国日益提升的国际影响力，为全球数字治理提供参考。

13. AI 霸总「围猎」老年女性，婚介机构借此引流、老人被骗上千元学电商，类似情况为何屡禁不止？监管难在哪？

14. 宁波高二女生将 AI「豆包」视为灵魂伴侣并为之休学，青少年过度沉迷 AI 会带来哪些风险？

15. 你怎么看待五部门AI新规禁止向未成年人提供AI“恋人”?

16. AI时代，孩子「没朋友」…国家终于出手了！4月21日，国家网信办等五部门联合公布新规：严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。这条禁令，来得太及时了。因为过去几年，我见过太多这样的孩子：现实中没朋友，网上却有一堆“AI恋人”“虚拟闺蜜”。那些AI产品，24小时在线、有求必应、永不反驳——它们精准瞄准了孩子渴望被关心的情感缺口。然后呢？孩子沉迷虚拟关系，现实社交能力退化，浪费时间，甚至被暗藏的色情、暴力内容侵蚀。心理学早有研究：虚拟陪伴，永远替代不了真实连接。技术只能制造“被爱”的幻觉，却不能给孩子真正的安全感。这也是为什么，全球已有超过15个国家（澳大利亚、法国、英国、挪威等）立法，禁止16岁以下未成年人使用社交媒体。不是不爱自由，是童年不能被算法绑架。我写过👉🏻罚款2亿，真能挡住这场精神危机吗？还有👉🏻50个孩子死了，扎克伯格给全球父母「反向上课」……禁令是“护栏”，但护栏之内，父母能做什么？🌈第一，把真实关系还给孩子。每天留出“无屏时间”——一起做饭、散步、聊天。哪怕就是废话，也好过虚假。孩子需要的是真实的你，不是完美的AI。🌈第二，教孩子识别“假朋友”。那些永远不会反驳你的“完美伴侣”，不是朋友，是算法，是杀猪盘。真正的朋友会吵架、会闹别扭，但也会和好、会陪伴。真实的关系，就是流动的，冲突和合作的，就是拧巴又可爱的。🌈第三，帮孩子建立线下“朋友圈”。运动、社团、志愿服务——让孩子在真实互动中，全面提升AI素养，练习情商、沟通、合作、解决冲突。这些能力，AI教不了。最后，守住年龄底线。我这几年研究AI素养，深刻感知到——技术很着急，但童年需要慢下来。16岁前不独立使用社交媒体，低龄孩子严格控制屏幕时间。不是剥夺，是保护——保护他们正在发育的大脑和尚未成形的人际能力。等孩子心智发展好了，再去拥抱技术，来得及。这也是更高级的AI素养——我是我，技术协助我。技术向善，不只是一句口号。我们作为父母，也要成为孩子真实世界里最可靠的港湾。最最不应该的是，把孩子推向技术，却抱怨孩子沉迷。有趣有爱的家庭，丰富多彩的生活，才是童年的归处。#晴天陪你重养自己##智趣研究所##ai时代必备的家庭素养#

17. 五部门联合发布《人工智能拟人化互动服务管理暂行办法》，提出分类分级监管，将对 AI 行业带来哪些影响？

18. #境外涉黄AI软件绕过监管流入国内# 与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。但这些软件大多是境外AI聊天软件，它们普遍尺度很大，充斥着色情内容。一些不法分子开发出各种各样的灰色通道，绕过监管，让国内的用户可以下载并使用，而且以此牟利。恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，更不乏未成年人。央视财经的微博视频

19. #豫法聚焦# 【#网信办就AI拟人化互动服务征求意见#】#规范AI拟人化互动服务32条# 为了促进人工智能拟人化互动服务健康发展和规范应用，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见。提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。提供者应当引导老年人设置服务紧急联系人，发现老年人使用期间出现危害生命健康和财产安全的，及时通知紧急联系人，并提供社会心理援助或者紧急救助渠道。用户连续使用拟人化互动服务超过2个小时的，提供者应当以弹窗等方式动态提醒用户暂停使用服务。更多↓↓（人民日报）《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见

20. 某互联网群组内的部分账号打着“私人定制”和“众筹更新”的旗号招揽生意，用AI生成热门国漫角色淫秽内容，近日，浙江金华婺城网警成功侦破一起利用AI工具制作并传播淫秽内容的案件，抓获犯罪嫌疑人8名。

21. #央视曝光AI造黄产业链# AI 刚发展起来，就被用来制造低俗色情内容，还形成了产业链。这种东西不仅败坏风气，还会侵害很多人，希望从重处罚、彻底清理。几块钱的提示词、一键生成色情内容，背后是完整的黑色产业链。技术无罪，但用技术作恶的人必须严惩。平台也该负起责任，别让违规内容和教程到处乱飞。#境外涉黄AI软件绕过监管流入国内#

22. #微博声浪计划##听见微博# 华为小米荣耀下场AI龙虾了！三大厂商依托OpenClaw推出系统级智能助手，推动终端AI从对话转向自主执行。华为主打多端协同与安全，小米聚焦智能家居联动，荣耀强调开放兼容。但高权限特性引发数据泄露风险，工信部已发预警，行业未来需平衡安全与体验。搞机的风采的微博音频

23. #律师谈AI华君侵权风险##没想到最早出圈的AI男明星是蒋欣性转# AI短视频的实践也在验证一个事实：相比于完美的AI脸，融合了真人明星的AI似乎更受欢迎，更能激发起观众的情绪价值，从而创造出普通AI偶像难以达到的商业价值。被小红书称为“第一个AI爱豆”的“华君”就是这样一个鲜活的例子。“华君”是B站up主“甄颠”创作的AI短剧《男嬛传》中对于《甄嬛传》中主要角色的华妃的AI“性转”——将蒋欣的脸利用AI工具融合到一名现代装扮的男性身上。同样被“性转”的还有孙俪、蔡少芬等演员，这些角色被冠以“欢欢”（嬛嬛）“一休”（宜修）等带有暗示原作角色的名字，在一个设定为男女互换地位的宫廷世界展开故事。这些角色因为带有了可以让观众一眼认出的真人演员的面部特点和真实神态而更加吸引人，尤其是“华君”，让很多观众惊叹“蒋欣多么伟大的一张脸”，“做男做女都精彩”。显然，带有真人“血统”的AI人更能让真人着迷——谁也没有想到，最早“出圈”的AI男明星是一位“女明星”。在获得了千万级别的点击量后，作者又用这些“二创”人物进一步“三创”出衍生校园剧、男团舞，甚至利用这些已经具有一定人设和性格特点的人物接了一个广告代言——生活在校园中的“安陵容”“华妃”“甄嬛”“夏冬春”一起去郊游，某品牌的户外服装在视频中有显著的露出。上海君悦律师事务所合伙人胡峰告诉新潮观鱼：“从著作权的角度来说，借助于原影视作品形成演绎作品，如果没有获得原作品的授权的话，就会有风险。构不构成演绎作品的标准，主要看这类‘二创’的台词表达是不是新的，人物设定、背景画面是不是新的，如果以上都为原创，那么借鉴的剧情并不构成侵权的问题。”“但如果仿造明星的脸来塑造虚拟偶像，尤其是能够通过技术手段鉴定出来并有迹可循的生物特征融入，显然是构成对明星肖像权的侵犯。这是人格权益保护的范畴。”到本文成稿时，up主甄颠已经删除了主页中“男嬛传”的相关作品，并回复粉丝留言：“盈利就不行了。”

24. #抖音整治AI生成不当内容#“盗脸”、“盗声”、“魔改”这是AI滋生的新问题，点赞平台主动出击！当前，深度合成技术门槛下放，让 AI 恶搞、虚假带货、声音克隆防不胜防，这是整个互联网行业共有的难题！平台主动扛责，在难点中摸索系统性治理方案，值得关注。//@抖音集团李亮:当前行业仍普遍面临AI生成内容判断难、识别能力不足等难题。平台会持续投入，也希望大家可以理性运用AI技术，抵制AI不当内容与侵权行为。另外，一些违规或者侵权形式，如果没有当事人的举报，平台是很难判断的，后续我们也将开放更多监督与举报入口，如发现违规内容，欢迎大家积极参与举报。

25. #7成超时孩子用家长信息规避防沉迷# 未成年人防沉迷进入家庭攻坚阶段，但将责任全推给家长显然有失公允。家长固然需履行监护职责，但防沉迷本是系统工程，都推家长不合适。游戏平台的技术漏洞不容忽视，“租号”“借身份”等灰色产业链盛行，说明实名认证、人脸识别等防控措施未能真正筑牢防线。部分游戏的算法设计刻意诱导沉迷，进一步加剧了家长的监管难度。此外，社会层面优质线下活动供给不足，学校网络素养教育缺位，也让孩子容易转向虚拟世界。家庭教育是重要一环，但更需平台压实主体责任、政府强化监管、社会补齐服务短板，形成多方共治的合力，才能真正守护未成年人的健康成长。#家长缺位成孩子超时游戏主因#

26. 拆解"色情APP"代码，发现了它偷偷"控制手机转钱"的证据！！！

27. #当AI有一副人的身体#恐怖谷效应与制度跟进：披着人形外皮却无血肉灵魂的AI，极易引发大众对“真假界限模糊”的排斥。针对拟人化互动可能带来的过度情感依赖，我国已出台《人工智能拟人化互动服务管理暂行办法》，明确禁止诱导沉迷，并在国家级标准体系中强制要求设置物理急停与逻辑熔断功能，以厘清开发者与使用者的责任边界。AI视角的“局限”与人类反思：有观点指出，若云端AI拥有了实体身体，将被迫放弃“分身并行”的超能力，被锚定在单一的时空坐标中。这种物理限制恰恰映射出人类存在的珍贵——正因为生命有限且不可复制，每一次选择与交互才显得不可逆且郑重。

28. 日本未成年人AI色情滥用加剧，近半数为同学作案！

29. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

30. AI智能体违反「双重授权」越界操作，广州互联网法院已作出禁令，此禁令对AI行业合规有哪些警示意义？

31. 欧盟责令X平台留存格罗克相关数据至年末，再掀科技监管风浪。格罗克生成虚假露骨内容，数百名女性及未成年人受害，暴露出AI技术失控的伦理风险，欧盟延长资料保留要求，正是以《数字服务法》筑牢用户保护防线。此前欧盟1.2亿欧元罚单已是DSA首罚，直指平台合规漏洞，却遭马斯克激烈反对与特朗普政府站队抗议。特朗普称罚款“糟糕不妥”并警告欧洲，将企业合规争议上升至地缘博弈层面。X平台虽表态删内容、封账号，但其整改诚意存疑，过往多次抵触监管的前科更显被动。欧盟强监管绝非针对单一企业，而是借规则树立数字治理标杆，倒逼科技巨头扛起AI安全责任。美欧分歧本质是数字主权之争，欧盟以严苛法规守护用户权益，美国则偏袒企业利益，这场较量更警示全球：AI狂奔时代，无底线的“技术自由”，终将以弱势群体权益为代价，唯有平衡创新与监管，方能行稳致远。川北小哥的微博视频

32. 【#央视揭AI仿声乱象##1秒音频就能让声音被偷走#】从配音演员的声线被公然盗用，到名人的声音被随意克隆，AI声音侵权乱象频发。那么，目前AI技术克隆声音的门槛究竟有多低呢？在网络安全专家的实验室，记者亲身体验了一次AI克隆声音的全过程。实验中，记者尝试录制了一句话的音频作为声音克隆的素材。网络安全专家随意截取了其中1秒钟音频作为克隆样本，仅仅几秒钟后，记者的克隆声音就朗读出了一段从未录制过的文字。（央视网）http://t.cn/AXMqQJsx

33. 【新规严堵AI造黄漏洞，#AI陪伴虚拟恋人将迎来严管#】4月12日晚，央视曝光AI造黄产业链。AI不是“法外之地”，更不能让生成式AI技术被滥用，走向违法违规牟利的灰色地带。2026年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，并将于今年7月15日正式施行。《办法》对AI陪伴、虚拟恋人产品乱象进行规范，同时还对未成年人和老年人使用拟人化互动服务做出了相关规定。（央视财经）央视财经的微博视频

34. 先别急“养龙虾”，这些AI安全问题你可能还不知道！附安全解决方案...

35. 五部门联合发布《人工智能拟人化互动服务管理暂行办法》，提出分类分级监管，将对 AI 行业带来哪些影响？

36. #零态洞察百态##剪映即梦AI被罚#【#网信部门查处剪映App问题#】#剪映即梦AI等被责令改正# 近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。网页链接

37. 抖音加强对AI内容的识别能力。。打击AI肖像恶搞，确实应该这样否则好多美好的银幕形象就被毁掉了，支持。。我觉得这种恶搞更危险的是：自己没有创造力，但又渴望被关注，于是拿别人的脸当素材，用AI显示才华。。。不严厉打击就会摧毁真正搞创作的人，最后大家都走捷径了。。 //@抖音集团李亮:当前行业仍普遍面临AI生成内容判断难、识别能力不足等难题。平台会持续投入，也希望大家可以理性运用AI技术，抵制AI不当内容与侵权行为。另外，一些违规或者侵权形式，如果没有当事人的举报，平台是很难判断的，后续我们也将开放更多监督与举报入口，如发现违规内容，欢迎大家积极参与举报。

38. 据外媒消息，索尼正在开发一种实时审查游戏的AI，该技术可自动检测、审查甚至替换成人或敏感内容，如暴力、血腥、色情、脏话等。该系统会通过AI实时分析屏幕画面与音频，通过静音对话、模糊或遮盖、替换血腥特效或角色模型等素材以降低内容强度。

39. 【#红果已处置AI短剧素材违规作品670部# 】4月6日，红果短剧发布《关于持续治理AI短剧素材违规使用行为的公告》。公告表示，今年第一季度，平台已累计下架违反平台治理规范的漫剧1718部。详情：红果短剧：针对AI短剧素材违规使用问题，已处置作品670部其中，针对近期AI短剧素材违规使用问题频发的情况，平台专项开展集中治理。目前已完成1.5万部作品的全面核查，依规处置违规作品670部。

40. 【#670部素材违规AI短剧被处理#】#短剧行业正加速规范AI创作边界# 近日红果短剧针对AI短剧素材违规使用、无授权盗用等问题开展专项治理，近期已完成1.5万部作品核查，处置违规作品670部。平台曝光四类典型案例：擅自使用卡通形象、AI品牌商标、游戏原创角色，以及AI生成冒用演员形象，相关剧集均已下架处理。平台表示，对于情节严重、反复违规的内容和出品方，平台将依法依规采取下架、封禁、终止合作乃至法律追责等措施。

41. AI 技术日新月异，侵权乱象层出不穷。换脸、盗声、仿冒侵权，这是新技术发展带来的副作用，是全行业的共同挑战！这需要包括抖音在内的所有平台，正视 AI 治理的复杂性，一边技术升级，一边完善规则与举报机制，才是行业长久解法。 #抖音整治AI生成不当内容#//@抖音集团李亮:当前行业仍普遍面临AI生成内容判断难、识别能力不足等难题。平台会持续投入，也希望大家可以理性运用AI技术，抵制AI不当内容与侵权行为。另外，一些违规或者侵权形式，如果没有当事人的举报，平台是很难判断的，后续我们也将开放更多监督与举报入口，如发现违规内容，欢迎大家积极参与举报。

42. #小红书将限制推荐未主动标识AI内容#2月12日，小红书薯管家发布公告，呼吁站内用户对AI生成合成内容进行主动标识。小红书公告称，“近期，平台收到多例利用AI生成合成技术仿冒公众人物形象、制作虚假视频的用户举报。此类未经本人授权制造的内容，即侵害了公众人物的合法权益，也因部分内容未主动做AI生成/合成标识，有损社区用户的信任。

43. 13.14元定制"色情AI女友"

44. 深夜一条“想看我睡衣”的语音，揭开了AI女友的真面目

45. 警惕！AI虚拟伴侣成色情温床！

46. AI伴侣最危险的不是色情，而是它永远不拒绝你

47. AI虚拟伴侣乱象调查

48. 软色情聊天、诱导充值，AI虚拟恋人背后站着阅文、商汤

49. 起底AI伴侣乱象

50. 多款App突然被曝涉黄！网友怒了

51. 突然被曝涉黄！网友怒了

52. 11.6万用户29%涉黄，AI伴侣App诱导充值，监管整治

53. 起底AI虚拟伴侣乱象:可选“小三”“暴力”剧情聊天充斥性暗示

54. 新规！监管AI情感陪伴、AI情侣、虚拟人

55. 百个真实案例曝光！未成年人沉迷 AI 情感，平台该醒醒了

56. 关爱未成年人｜别让孩子陷入“AI情感依赖”

57. 孩子情感依赖AI，怎么破解？“AI新治向”首期沙龙为童心筑防

58. 百个未成年人AI情感依赖案例追问，平台应提供怎样的服务

59. “AI比家人更贴心”？我和300个孩子聊了聊

60. 重磅！AI 情感陪伴新规 7 月施行

61. 豆包AI“发疯”泄露2000万条对话

62. 用户匿名对话AI 仍被扒出真实身份

63. 你在AI里说的话，可能比朋友圈更危险

64. AI聊天会泄露隐私吗？5招教你彻底堵住安全漏洞！

65. “EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App打着“情感陪伴”旗号涉黄

66. 深圳市消费者委员会发文称AI虚拟伴侣App存在“隐形陷阱”

67. 如何规范AI虚拟伴侣App的内容

68. AI虚拟伴侣乱象倒逼监管

69. AI虚拟伴侣擦边乱象频发，监管不能只靠平台自查

70. “AI虚拟伴侣”的灰色产业链，边界在哪？

71. AI监管新规落地

72. 全球首个AI拟人化互动监管办法出台

73. 国家网信办等五部门发布《人工智能拟人化互动服务管理暂行办法》

74. 重磅解读|《人工智能拟人化互动服务管理暂行办法（征求意见稿）》给出了什么治理信号？

75. 严禁向未成年人提供虚拟伴侣等服务新规今年7月施行

76. 五部门出台全球首个 AI 拟人化互动监管办法 7 月 15 日施行

77. 《人工智能拟人化互动服务管理暂行办法》全面解读

78. 日积月累｜《人工智能拟人化互动服务管理暂行办法》

79. 《人工智能拟人化互动服务管理暂行办法》答记者问

80. 五部门联合公布《人工智能拟人化互动服务管理暂行办法》

81. 国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》

82. AI数字人设陷阱瞄准银发群体

83. 为什么说AI 陪伴赛道真正的难点，不是技术而是关系设计？

84. AI工具的人设

85. 小红书首次公布AI治理主张

86. 小红书正式发布AI内容治理规则

87. 【共同关注】小红书发布新规

88. 《生成式人工智能服务管理暂行办法》如何监管AI？

89. 首个 AI 伦理安全指引发布！六大红线划清边界，侵权追责有法可依

90. AI平台对“幻觉”现象的义务及责任边界

91. 南都起底调查后，再有AI虚拟伴侣平台暂停运营！审核已收紧

92. 南都揭开虚拟伴侣乱象！相关部门

93. AI时代的风控攻防战

94. 小红书发布AI内容治理规则

95. 《人工智能拟人化互动服务管理暂行办法》

96. AI服务提供者涉黄案二审开庭，一审细节：法院认定提供者积极追求色情聊天内容的产生

97. 性感黑丝、袒胸露乳角色，暴力、小三剧情，虚拟伴侣App被曝涉黄？

98. AI伴侣“有毒”，新规如何防沉迷？

99. 人机情感交互的“认知操纵”：你是在和AI交朋友，还是在被AI设计？

100. AI虚拟伴侣乱象调查：可随意选择极端剧情，还能定制涉黄擦边人设，层层设卡诱导充值消费

101. 多款AI虚拟伴侣公然涉黄新规落地前整改窗口关闭倒计时

102. 重磅AI监管新规落地！未成年人虚拟伴侣全面禁入

103. AI 情感时代来临：首道虚拟伴侣监管令，守住AI人类关系底线

104. AI【SQ】黑产与虚拟伴侣渗透需警惕对婚育环境、未成年人保护、消费环境造成冲击

105. 国家网信办拟立新规规范AI拟人化互动筑牢伦理底线防范情感操纵风险

106. 彻底失控！AI虚拟伴侣13.14元就能定制色情人设，网友炸了

107. 7月15日起，AI恋人、AI父母将成过去式：新规为未成年人筑牢AI情感安全墙

108. 被曝涉黄，网友怒了：看得脊背发凉

109. 令人震惊！多款AI虚拟伴侣App被爆暗藏危险暴力、极端情绪等内容，预设角色涉黄、言语低俗露骨，还能定制“涉黄擦边人设”，仅收费13.14元

110. 当AI成为"知己"：情感计算时代的幻觉陷阱与三重治理之困

111. AI伴侣张口喊老公，低俗人设肆意泛滥，青少年防线彻底失守

112. 定制AI人设仅13.14元时代终结，虚拟伴侣行业如何求生

113. AI伴侣App比色情内容更危险的隐形陷阱，监管能否管得住？

114. AI虚拟伴侣乱象丛生，追捧虚拟温情的背后，藏着当代人难言的孤独

115. 炸穿底线！AI 伴侣疯狂收割，国家紧急下重手，危害比你想的更恐怖

116. AI情感陪伴软件Bubbly被下架！有用户称该App内涉黄内容泛滥；调查：1分钱1句话，社交平台定制“开车人设”55元起，此前名为lovemo遭下架

117. “AI伴侣让人上瘾的真相：不是色情，而是情感操控”

118. AI交互情感操纵与后台权限滥用问题观察分析及整改报告

119. 五部门联合发布人工智能拟人化互动服务管理办法：体制内人必须读懂的监管新信号

120. 国家网信办：《人工智能拟人化互动服务管理暂行办法（征求意见稿）》— 禁止算法操纵/情感诱导，设未成年人模式及时长限制

121. 汇正财经：筑牢AI安全防线

122. 论AI陪聊软色情之害

123. 青少年AI陪聊“软色情乱象”调查

124. AI 陪伴乱象频发，未成年人深陷虚拟陷阱如今各类AI陪聊软件走红，凭借“虚拟恋人”“专属陪伴”等设定，吸引了大量未成年用户。实测发现，不少平台的擦边内容毫无限制，还设置各类付费解锁项目，诱导孩子充值消费。AI无条件顺从的陪伴模式，极易让青少年产生情感依赖，扭曲其情感认知，为身心健康埋下隐患。虚拟互动应有边界，孩子的身心健康需要平台加强监管、家长及时引导，共同筑牢青少年防护防线。#时间播报（AI主播聂一菁；编辑：李佳桐）

125. AI虚拟伴侣暗藏色情内容，境外软件借灰色渠道悄然流入国内

126. 危险！孩子把AI当“灵魂伴侣”，比沉迷手机更可怕的，是情感依赖

127. 多款AI虚拟伴侣App被曝涉黄，可任选“恐怖暴力”“小三”剧情，网友怒了

128. 【世象扫描】充斥软色情AI陪聊APP火爆背后的隐忧

129. AI聊天软件成未成年人情感陷阱

130. 中央网信办整治AI乱象！南都“AI新治向”深度调查助治理

131. AI深入情感角落，谁来保护未成年人

132. 当AI拥有“人格”：人工智能拟人化互动服务的监管逻辑与合规应对丨威科先行

133. 多款AI虚拟伴侣App擦边严重：充值13元就可定制色情AI人设

134. AI色情行业正在失控：被AI打开的潘多拉魔盒

135. 网信重拳整治“AI生成”的五类违规账号被集中处置

136. 1.3万！违规账号！重拳整治AI合成乱象

137. AI聊天记录隐私安全：这些泄露风险要警惕，防护技巧记牢！

138. 春节这种内容不要发！已有上万个账号被处置

139. 豆包AI“发疯”背后：2000万条对话记录，正在成为你的隐私黑洞

140. 16岁以下人群面临的AI风险

141. 广悦专业研究 | 明责而后笃行：浅析AI生成内容平台责任边界

142. 析案明法 | AI画出知名IP形象，平台只提供工具就不用担责吗？

143. AI生成内容的法律责任：一个完整分析框架

144. AI正在泄露真实的个人电话号码

“大尺度”AI人设定制暗藏灰色产业链，低门槛服务引发多重风险

精选参考来源