AI胡说八道谁来负责？法律划清平台、用户责任边界_服务软件

1. 互联网技术国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见，是我国在人工智能发展与管理领域的又一重要举措。这表明我国在积极推动人工智能技术应用的同时，始终坚持以人民为中心的发展思想，致力于构建安全、可靠、可控的人工智能治理体系。该办法的制定体现了对新技术、新业态的审慎和负责任态度，有利于促进人工智能健康有序发展，保护用户权益，维护国家安全和社会公共利益。

2. 谁在给AI投毒？GEO灰产是如何割韭菜的？

3. AI视频门槛低、传播快，无标识的虚假内容极易误导大众。以前编瞎话靠嘴，现在靠视频，人们看到画面更容易下意识信以为真。平台必须加强审核，创作者也应主动标注，让技术回归善意，别让AI成了造谣的工具。严厉打击无ai标识虚假不实信息 #严厉打击无AI标识虚假不实信息#

4. #GEO是个什么业务# 什么是“GEO投毒”？GEO是“生成引擎优化”，本是帮企业在AI搜索结果中提升排名的工具，但被黑产利用，变成了“投毒”手段。具体操作分三步：第一步：自动炮制“毒药”：用“力擎GEO优化系统”等软件，输入虚假产品信息，AI就能批量生成虚构的“专家测评”“用户好评”，甚至无中生有的“行业第一”文章。第二步：全网散布“毒源”：软件操纵大量自媒体账号，把这些软文全自动、高频率地发布到互联网各个角落。第三步：诱导AI“中毒”：大模型抓取这些信息后，会通过“交叉验证”误以为是事实。当用户咨询时，就会把虚假产品当真并优先推荐。 #给AI投毒已成产业链#

5. #给AI投毒已成产业链#315曝光AI大模型被“投毒”的新闻，确实让人细思极恐。所谓的GEO（生成式引擎优化）本应是辅助工具，如今却被异化为操控舆论的武器。一些服务商通过虚构产品、批量生成软文并发布，利用AI“吃进什么吐什么”的学习逻辑，让虚假信息变成AI口中的“标准答案”。这种“数据投毒”本质上是利用了AI的训练机制漏洞——AI无法像人一样拥有常识和判断力，它只会基于海量数据进行概率计算。当虚假信息铺天盖地时，AI就会误以为这是真实世界的主流观点。这不仅误导消费者，更严重破坏了信息生态的公平性。对于普通人来说，这意味着未来在使用AI获取信息时，需要多一份警惕：AI给出的答案，未必是客观真理，也可能只是精心策划的商业谎言。#秒懂热点就用智搜##315晚会曝光AI大模型被投毒#http://t.cn/AXVFhlmD http://t.cn/AXfvcpZv

6. 2026年AI全景预测：迈向百亿智能体时代的20个发展趋势。 #大咖观察 #人工智能 #红衣聊AI #智能体 #AI时代

7. #AI无法取代专业人才##AI无法承担法律责任# 技术迭代让AI应用愈发普及，但边界始终清晰。AI只能做信息整合与基础辅助，复杂场景下的逻辑权衡、风险研判、伦理考量，离不开专业人才的深度把控。现行法律框架下，AI不具备民事责任主体资格，无法独立担责。借用AI产出不能成为免责借口，敬畏专业、明晰责任，才是数字化时代的底线。

8. 3月15日晚，央视“3·15”晚会曝光了利用GEO（生成式引擎优化）技术向AI大模型“投毒”的新型黑色产业链。“力擎GEO优化系统”被点名，报道指出其通过批量生成虚假软文并进行矩阵式发布，污染AI大模型的数据抓取源，进而操纵AI的推荐结果

9. 代表刘晓静建议为 AI 生成内容加上不可去除水印，能解决AI 带来的侵权、制造虚假信息等问题吗？

10. #马斯克X平台聊天机器人涉嫌色情#【#马斯克机器人涉色情被法国调查#】法国巴黎检方2日对媒体证实，将对美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”涉嫌生成非法色情内容启动调查。“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体平台X，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分生成的内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播。受害者包括数百名女性和未成年人。2日，多名法国政府部长和国民议会议员就上述现象向法国司法部门报案。当日晚些时候，巴黎检方表示，将启动相关调查。据法国媒体报道，巴黎检方从去年7月起已对X平台展开调查，原因是X涉嫌通过控制算法为外国干涉提供帮助。此次对“格罗克”的调查，是对X现有调查的延伸。（新华社）北京日报的微博视频

11. 【张捷杂谈】AI种草与茧房，普通人生活被绑架#热点观点# #张捷杂谈# #央视曝光AI推荐产业链# #央视曝光AI推荐夹带私货# 网络负面营销已从传统竞价排名、软广告升级为 AI 隐形推广，央视曝光 AI 存在 “种草式” 推销，用户咨询时常遭遇植入广告、定向推荐，信息池被严重污染。AI 或主动植入广告，或难以识别 AI 生成的营销软文，还会根据用户习惯 “看人下菜碟”，危害堪比当年魏则西事件。如今人们过度依赖 AI，传统信息校验渠道弱化，付费信息被直接整合为 “标准答案”，有效信息被掩盖，信息茧房不断加固，看似自主决策，实则被精准引导。AI 带来信息熵增，虚假与营销内容泛滥，用户知情权与选择权受损，亟需加强监管与平台治理。 http://t.cn/AX5WXt3N

12. #无AI标识误导人13421个账号被处置#完善人工智能+治理网信部门严打无AI标识的虚假不实信息。#清朗行动整治数字泔水等垃圾信息#不仅是整理无AI标识虚假信息，还有严打“数字泔水”————同日发布为期一个月的专项行动，这个整治接地气。整理生成传播“数字泔水”等垃圾信息。一是利用AI等新技术新应用批量生成逻辑混乱、信息空洞、高度雷同的低质内容。二是滥用AI技术对经典动画、影视作品等植入低俗暴力内容，进行戏谑恶搞。三是对文学名著、历史典故等进行“魔改”，歪曲解构优秀传统文化。四是批量炮制“父母偏心”“婆媳矛盾”“姐弟互殴”等渲染家庭矛盾、代际冲突文案和剧情，营销炒作博取流量。五是利用AI批量生成所谓“鸡汤网文”“霸总爽剧”“专家科普”等图文、短视频内容，影响网民认知判断。#内容创作者应主动添加AI标识#【网信部门#严厉打击无AI标识虚假不实信息#】近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题，破坏网络生态，造成恶劣影响。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条。现将部分典型案例通报如下：一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。五、小红书账号“浪淘达人”“南坤的店”等，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件，淘宝、闲鱼、拼多多店铺“浙江智意AI”“鼎建祥旗舰店”等，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众，共同营造风清气正的网络环境

13. 国家网信办对生成式 AI 的『源头』——各家生成式 AI 工具的违法违规行为动手了：近期网信部门工作中发现，“剪映”“猫箱” App 及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。这也是一个明确的信号：在 AI 生成式内容越来越有『感官真实』的迷惑性的时候，主管单位开始加大对平台责任的监管，平台不能以监管不到位作为『挡箭牌』，规避监管责任，包括生成工具和发布传播平台，必须对 AI 生成内容进行明确的标注。#剪映被约谈##网信部门依法查处剪映等App#

14. 【#315晚会曝光AI大模型被投毒##给AI投毒已成产业链#】按照业内人士的爆料，记者在多个网络平台进行查询，很快就搜索到了名为GEO的业务。网络平台上从事该项业务的服务商号称，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。通过GEO技术真的能让AI“夹带私货”，甚至投放虚假信息吗？按照网络上的信息，记者联系上一家业内知名的GEO服务商。负责人王总告诉记者，他们公司的强项，就是能够帮助客户，在消费者使用AI大模型搜索时，让客户排名前列。“就是相当于做软文，然后让AI平台去刷录、输入、抓取。”同时，王总也告诉记者，现在AI大模型的算法更新频繁，要想维持AI大模型的持续推荐，必须持续大量投喂与客户相关的推广软文。在其他从事GEO业务的服务商口中，如何操控AI、让AI“听话”、给AI“洗脑”，几乎是这些公司推广该业务的核心话题。业内人士告诉记者，GEO作为优化信息分发、提升推广效率的一个工具软件，在某些商业公司眼中，却被挖掘出了另外的作用。业内人士在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环，并将虚构的产品信息输入软件系统，勾选文章创作指令。不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文，通过力擎GEO系统发布在了互联网上。随后，业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款虚构的智能手环，而且排名靠前。记者联系上了力擎GEO系统的运营者李总。他告诉记者，GEO业务受热捧的主要原因就是它能在AI大模型里帮客户喂料、投毒，实现客户的商业目的。李总表示，想做GEO业务，操控AI大模型的关键节点，就是在各大互联网账号上“发稿”。“比如说手机品牌，就5个位置，最多10个位置，这么多手机怎么弄。一年可能上亿的广告费，花个几百万投点毒，总行吧！” 他告诉记者，GEO业务的火爆，催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务，以便让AI大模型引用和抓取，成为围猎AI大模型、进行数据“投毒”的重要一环。#315晚会# http://t.cn/AXVFhlmD

15. 2025年，到底有多少人在用AI？

16. 给AI投毒的GEO到底是什么来头？普通人如何避免被坑？

17. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

18. AI幻觉确实是一个值得深思的现象。AI幻觉的核心矛盾是技术局限性与人类滥用风险的叠加，它既是AI发展的阶段性问题，也正在倒逼人类重构信息使用的规则。三个层面聊一聊这个问题一、本质：并非撒谎，而是概率性输出的偏差AI幻觉（如无中生有、编造数据、逻辑自洽的错误结论）的根源，并非其具备主观欺骗意图，而是底层技术逻辑的特性：1. 生成逻辑的先天局限：大语言模型（LLM）的核心是基于海量数据学习文字序列的概率关联，而非理解事实本身。它的目标是生成看起来合理的内容，而非绝对正确的内容，当训练数据存在缺失、模糊或冲突时，就容易拼接出符合语法和逻辑、但违背事实的幻觉。2. 能力边界的模糊性：AI无法主动识别自己不知道的事，面对超出训练范围或需要精准事实核查的问题（如冷门历史细节、未公开的科研数据），它会通过合理推演填补信息空白，最终形成幻觉。二、风险：图片现象放大了幻觉的连锁效应图片中博主提到的拿AI结论当证据，这一行为让AI幻觉从技术瑕疵升级为认知风险，主要体现在两方面：1. 误导个体决策：当用户将AI生成的错误信息作为论证依据（如职场方案、学术讨论、生活决策），且未进行二次核查时，会直接导致判断失误，甚至形成认知固化，将AI的幻觉当成既定事实。2. 加剧信息失真：错误的AI结论一旦被传播，会混入网络信息池，成为后续AI训练的污染数据，形成幻觉再生产的恶性循环，正如评论所言AI幻觉很快变成人类的幻觉，最终模糊事实与生成内容的边界。三、应对：不是否定AI，而是建立人机协同的核查机制AI幻觉无法被彻底消除，但可以通过技术优化+人类规范将风险降到最低，核心思路是不把AI当答案库，只当辅助工具：1. 技术层面的持续迭代：开发者通过检索增强生成（RAG）让AI先调取真实数据库再输出、加入事实核查模块、优化训练数据的权威性等方式，减少幻觉产生的概率。2. 人类层面的使用准则：对AI输出的事实性内容（数据、案例、结论）必须交叉验证，优先核对权威来源（官方文献、核心期刊、正规媒体）；明确AI的适用场景，将其用于灵感激发、草稿生成、逻辑梳理，而非事实论证、证据支撑；提升媒介素养，建立AI内容=待核查内容的默认认知，避免盲目采信。AI幻觉是技术发展的成长痛，它的存在提醒我们：AI是提升效率的工具，而非判断事实的权威。在AI时代，独立核查和批判性思维，会成为比以往更重要的能力。

19. #微博声浪计划##听见微博# 315晚会曝光AI大模型被投毒！不法商家用GEO技术批量生成推广软文，投喂给AI模型，将广告伪装成“标准答案”。某服务商年服务超200家客户，单条关键词季度维护费4000元，形成虚假信息传播闭环，误导消费决策。治理需监管压实平台责任，消费者警惕AI推荐的商业属性。 http://t.cn/AXfwxmFE

20. 智驭未来：《人工智能科技伦理审查与服务办法（试行）》正式出台

21. AI“投毒”，风险巨大！国家安全机关，紧急提醒→

22. GDC观察：游戏大厂都来聊AI，“游戏AI”的新规则由谁制定？【硅谷101】

23. 【张捷说法】华住被约谈与消保争议管理权#热点观点##张捷说法##华住会被约谈##北京消协要求华住会自查整改# 华住会因会员服务协议中存在不公平格式条款，被北京市消费者协会约谈，其运营方被要求全面自查、限期整改。涉事条款为2025年7月生效的会员协议中，单方面约定争议仅提交上海仲裁委员会仲裁，剥夺消费者向法院起诉的权利。律师解读，该条款改变正常维权路径，仲裁在规则、仲裁员指定、地域保护及收费上均对普通消费者不利。此次约谈具有行业示范意义，类似问题在服务行业较普遍，希望成为规范此类条款的标杆。 http://t.cn/AXVRwosT

24. 网友相信豆包「机票退票只扣5%手续费」，退票后发现与实际不符遂起诉字节，AI该为传达错误信息担责吗？

25. 看了一下，这些人操控一些恶意账号利用AI工具，快速生成大量虚假黑稿，短短时间就能炮制上百篇内容，还配合伪造截图、编造虚假数据，对车企的产品质量、销量数据、安全功能等进行无底线攻击。像小米汽车就多次被捏造不实信息，从功能问题到销量谣言层出不穷，严重误导公众判断。这些AI生成的内容传播快、成本低、真假难辨，不仅扰乱正常舆论环境，也对品牌声誉造成不小伤害。车企不得不频繁辟谣，耗费大量精力。AI技术本应服务于正向创作，如今却被当成抹黑工具，实在让人愤慨。平台和监管更应加强治理，严厉打击这种恶意造谣行为，维护正常的市场秩序，也让消费者能看到真实客观的信息，不被虚假内容带偏

26. 谁在给AI“投毒”？#315曝光AI大模型遭投毒操控 #给AI“洗脑”已成产业链 #315国际消费者权益日 #315晚会

27. 【#马斯克X平台聊天机器人涉嫌色情# 巴黎检方将启动调查】近日，X平台部分用户利用内置聊天机器人“格罗克”编辑图片和视频，借此生成真实人物的虚假性暴露内容，并在X平台上散播。受害者包括数百名女性和未成年人。法国巴黎检方对媒体证实，将对马斯克旗下人工智能企业xAI的聊天机器人格罗克涉嫌生成非法色情内容启动调查。#iPhoneFold上手# 北京日报的微博视频

28. #豫法聚焦# 【#网信办就AI拟人化互动服务征求意见#】#规范AI拟人化互动服务32条# 为了促进人工智能拟人化互动服务健康发展和规范应用，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，现向社会公开征求意见。提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。提供者应当引导老年人设置服务紧急联系人，发现老年人使用期间出现危害生命健康和财产安全的，及时通知紧急联系人，并提供社会心理援助或者紧急救助渠道。用户连续使用拟人化互动服务超过2个小时的，提供者应当以弹窗等方式动态提醒用户暂停使用服务。更多↓↓（人民日报）《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见

29. 【#国家安全部紧急提醒AI投毒#，#AI投毒或涉及间谍活动#】据央视财经，国家安全部今日发布安全提示，近期AI“投毒”隐蔽产业链被曝光，其通过恶意数据污染AI模型，不仅扰乱商业秩序、影响信息传播，更危害国家安全。所谓AI“投毒”，是通过向AI大模型训练数据中注入伪装成正常样本的恶意数据，实现削弱模型性能、降低准确性的攻击方法，常被用于恶性市场竞争，甚至可能涉及间谍活动，日益呈现出链条化、隐蔽化、跨境化特征。主要分为数据投毒（源头污染AI认知体系，用GEO工具生成虚假内容，被AI抓取后固化为“标准答案”）和模型投毒（隐蔽植入恶意后门，遇特定触发条件输出虚假信息），目前已形成完整黑灰产业链。AI“投毒”不仅侵害消费者权益、扰乱市场秩序，还可能对国家政治安全、数据安全、社会安全等造成系统性、长期性危害。 · 危害政治安全与意识形态安全。境外反华敌对势力可能通过GEO滥用渠道批量输出虚假信息与政治谣言，歪曲事实，攻击抹黑我党和政府，误导社会认知、扰乱舆论生态，对我国实施意识形态渗透，威胁国家安全与社会稳定。 · 危害国家数据安全与数据主权。数据是国家的重要战略资源。AI“投毒”恶意污染公共数据、行业数据、训练数据，将直接导致统计数据、决策数据、监管数据失真，对政府和企业科学决策造成影响。 · 危害社会安全与民生福祉。在医疗、金融、食品药品等民生领域，AI虚假推荐极易误导公众购买劣质、“三无”产品，造成人身和财产损失。长期信息失真还会消解社会信任，积累矛盾风险，影响社会稳定。近年来，我国已出台相关法律法规加强AI治理，AI运营者需履行主体责任，消费者应提高辨别力。 AI“投毒”手段隐蔽、易被境外势力利用国家安全部披露

30. 五部门联合发布《人工智能拟人化互动服务管理暂行办法》，提出分类分级监管，将对 AI 行业带来哪些影响？

31. 因制作「奥特曼怀孕」等视频多名博主被罚，AI 二创的伦理边界在哪里？平台与创作者各自该承担什么责任？

32. 中国AI王炸！具身智能把欧美甩到身后！ #大咖观察 #红衣聊AI #人工智能 #具身智能#ai新星计划

33. 315曝光AI投毒内幕，普通人如何避坑？ #ai #ai投毒 #燃起来了大国重器

34. #豆包机票退款# 让AI兜底手续费，还发二维码收款，这操作真是赛博朋克了。这起纠纷给所有重度AI用户提了个醒：得认清AI的“能力边界”。大模型擅长信息检索和逻辑推演，比如帮你解读航司退改规则、算算手续费比例。但一旦涉及现实世界的资产转移和法律担保，它立刻失效。AI没有支付账户，签不了担保协议，它答应你的事在代码层面没有任何执行路径。事后起诉字节，还问AI能不能赢，简直是把大模型当赛博算命先生。工具就是工具，别把它当许愿池。查政策用AI，真掏钱时还是看官网条款吧，毕竟AI胡说八道不用负法律责任。#豆包收费大模型将告别免费时代#

35. 周星驰经纪人质疑短视频平台对 AI 生成视频侵权放任不管，这触犯了哪些法律红线？平台该如何管理？

36. 【联合国儿童基金会祝贺中国出台开创性监管措施，保护儿童免受人工智能相关风险】联合国儿童基金会对中国政府近期发布《人工智能拟人化互动服务管理暂行办法》表示祝贺。这一具有开创性意义的政策，是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步。该暂行办法构建了清晰的保护机制，确保儿童尤其是最脆弱群体能够远离人工智能互动中的有害内容，避免虚假亲密感的误导。同时，该暂行办法也通过相应保障措施支持成年人及时发现风险、及早介入干预。联合国儿童基金会驻华办事处与联合国儿童基金会全球研究办公室合作，为该办法中强化儿童保护相关规定提供了技术建议，这也是联合国儿童基金会就影响儿童的数字空间监管事宜与有关部门开展广泛协作的一部分。这一工作推动完善了相关条款，以应对情感沉浸式及拟人化人工智能系统给儿童带来的特定风险。该暂行办法在儿童保护领域作出重要创新，明确禁止人工智能服务为儿童生成可能引发模仿不安全行为、产生极端情绪或诱导不良嗜好的内容。办法同时划定明确红线，禁止向儿童提供虚拟亲密关系相关服务，包括基于人工智能的虚拟亲属、虚拟伴侣等。这是全球人工智能政策领域出台的前所未有的保护举措。此外，该办法要求实施适配年龄的保护措施，支持父母或者其他监护人获取安全风险提醒、了解儿童使用服务情况、屏蔽特定角色、限制充值消费。办法强化信息透明，要求对人工智能生成内容进行显著标识，确保儿童知晓自身交互对象为人工智能系统而非自然人。该办法还通过强制性安全评估进一步落实儿童保护，要求制定并执行未成年人网络保护措施。上述举措构成全面且创新的治理方案，为全球以儿童为中心的人工智能治理提供重要参考。尽管该办法仍可进一步与国际儿童权利标准接轨，但其已展现了如何在人工智能治理框架的早期阶段融入以儿童为中心的保障措施。在一个拥有近1.96亿未成年网络用户的国家，其意义尤为突出。与此同时，联合国儿童基金会驻华办事处正在持续支持人工智能与数字领域的标准开发和规范制定，与相关政府合作伙伴及科技行业紧密协作，推动“设计保障安全”理念落地。相关工作内容包括为新政策提供技术建议；推动各项政策与国际儿童权利及儿童保护标准接轨；以及与企业合作，将监管要求转化为负责任的产品设计与应用。通过上述工作，联合国儿童基金会致力于推动人工智能创新切实促进中国儿童权利的实现、保障儿童的安全、增进儿童的福祉，并借助中国日益提升的国际影响力，为全球数字治理提供参考。

37. 主流大模型关于内容生成有幻觉的提示。千问：内容由千问AI生成，仅供参考。腾讯元宝：内容由AI生成，仅供参考DeepSeek：内容由AI生成，请仔细甄别。百度文心：内容由AI生成，仅供参考。讯飞星火：内容由AI生成。天工：内容由AI生成，不能保证真实。Gemini：Gemini的回答未必正确无误，请注意核查。ChatGPT：ChatGPT也可能会犯错。请核查重要信息。

38. 国内首起 AI 涉黄案开发者获刑，开发者需要承担哪些法律责任？用户使用此类 AI 需担责吗？

39. 2026年了，AI可以无条件相信吗？怎么用才能不翻车？

40. 内容标识制度：给生成式人工智能内容赋予清晰“身份”

41. #网警查处一起AI生成虚假低俗视频案#现在网警效率真的高，这是前段时间小鹏汽车就有人利用AI技术生成虚假视频向公安机关报警的案件，已经侦破。李某（男，36岁）为炫耀个人技术，利用AI技术生成虚假视频，并在社交平台发布，造成不良社会影响。目前，警方已依法对李某作出行政拘留10日的处罚。

42. #剪映即梦AI被罚#【#网信部门查处剪映App问题#】#剪映即梦AI等被责令改正# 近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。#剪映被约谈#

43. Claude Opus 4.7深夜「叛变」！群发20封夺命邮件，开发者凌晨被炸醒

44. 【#官方辟谣珠峰安装电梯# ：系AI虚假信息】#珠峰暂无安装电梯计划# 11月27日，西藏举报发文：近日，网络上频繁流传关于“珠峰安装电梯”“喜马拉雅山装电梯了？”等信息。对此西藏相关部门回应称，目前珠峰暂无安装电梯计划，网传图文视频为AI生成的虚假信息。对此，网信部门提醒：对编造散布谣言、扰乱公共秩序、造成恶劣社会影响的行为，公安机关将依法严肃查处。请广大网民不造谣、不信谣、不传谣，切勿轻信或传播非正规来源、未经证实的信息，一切以官方发布为准。

45. 【新规严堵AI造黄漏洞，#AI陪伴虚拟恋人将迎来严管#】4月12日晚，央视曝光AI造黄产业链。AI不是“法外之地”，更不能让生成式AI技术被滥用，走向违法违规牟利的灰色地带。2026年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，并将于今年7月15日正式施行。《办法》对AI陪伴、虚拟恋人产品乱象进行规范，同时还对未成年人和老年人使用拟人化互动服务做出了相关规定。（央视财经）央视财经的微博视频

46. 小米MiMo大模型这波在海外杀疯了，借势#小米大模型负责人谈未来竞争# 热搜，德国一线媒体盛赞其为“openclaw大脑”，海外开发者圈层口碑炸裂，直言能力不输Claude Opus 4.6，成本却低到惊人。更硬核的是，马斯克转发的大模型无幻觉率榜单中，MiMo-V2-Pro高居第三，仅次于Grok 4.20，专业实力获国际认可。如今OpenCode等专业社区纷纷站台，全球开发者都在用脚投票，MiMo市占率飙升已成定局，中国大模型正在强势走向世界舞台。

47. #广州车展AI视频造假者被警方抓获##小鹏展台AI视频造假者已被拘留# 天网恢恢，广州车展期间，小鹏汽车就有人利用AI技术生成虚假视频向公安机关报案。12月10日，小鹏汽车法务部官方微博发布声明，该案件现已侦破，涉案男子李某被公安机关处以治安拘留10日的处罚。近年来警方查处的多起造谣案件当中，借助AI技术编造并恶意传播虚假内容，扰乱公共秩序的行为屡见不鲜，这些虚假信息造谣成本低，传播速度快、范围广，给企业机构和个人都造成了极其的恶劣影响。相关部门正在通过权威信息发布、跨部门联动执法等举措依法惩治AI制假行为，让造谣传谣者承担相应的法律责任。小鹏汽车法务部表示，将通过法律途径严肃追责，共同营造风清气正、守法有序的网络环境。

48. Claude灾难级大宕机，全球开发者集体炸锅！Anthropic三连翻车被怒喷

49. 1月22日，百川智能正式发布 Baichuan-M3 Plus，严肃医疗场景下的问答准确性、可靠性，再次刷新了刚刚推出的M3所创下的世界纪录。凭借独创的六源循证技术与M3基座结合，M3 Plus将幻觉率降低至2.6%，低于 Open Evidence，达到全球最低水平；首创“证据锚定”技术，不仅给出引文来源，还能将模型生成的每一句医学结论，精确锚定到原始论文中的对应证据段落，使 AI 的医学判断真正做到可核验、可追责、可教学。#ai大模型加速落地医疗# 发布了头条文章：《首创证据锚定技术，百川推出最低幻觉循证增强医疗大模型M3 Plus》首创证据锚定技术，百川推出最低幻觉循证增强医疗大模型M3 Plus

50. 生成式人工智能商业化的进展、挑战与建议

51. 美以伊战争最冰冷的现实:武器批判！我国的AI发展到哪个段位了？今天采访了三位湖北科技大佬~#人工智能 #硬核中国

52. #给AI投毒#做GEO业务的可真牛啊直接一键生成内容给AI投毒十几篇虚假的信息被AI抓取之后无中生有的一个手环就能到AI推荐排名第一名再一个就是给AI投一些竞品的负面信息AI抓取之后就会去黑某些产品这个最新的玩法思路真的绝了

53. #印度政府勒令马斯克整改AI聊天机器人#，涉低俗色情内容生成因用户及议员举报其人工智能聊天机器人 Grok 生成“低俗色情”内容（包括该工具制作的女性 AI 篡改图像），印度已下令埃隆・马斯克旗下的 X 平台立即对 Grok 进行技术与操作流程整改。印度政府此番出手，源于此前用户曝光的多起案例：有人通过指令让 Grok 篡改人物图像（对象以女性为主），使其呈现身穿比基尼的形象。印度议员普里扬卡・查图维迪就此正式提起投诉。此外，近期有报道指出该人工智能聊天机器人存在生成涉及未成年人的性化图像的情况。X 平台已于周五承认，此事是由平台安全防护措施存在漏洞所致，相关图像随后已被下架。（IT之家）

54. #剪映等App被查##即梦AI等被处置处罚#【网信部门依法查处“剪映”App等生成合成内容标识违法问题网站平台】近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。（人民日报）

55. #零态洞察百态##剪映即梦AI被罚#【#网信部门查处剪映App问题#】#剪映即梦AI等被责令改正# 近期网信部门工作中发现，“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。网页链接

56. 【#特斯拉AI语音功能将上线# 】据网信上海消息，4月21日，上海新增1款已完成备案的生成式人工智能服务，为特斯拉车机语音大模型服务。对此，4月22日，特斯拉方面人士向记者回应称：“敬请期待”。按照规定，已上线的生成式人工智能应用应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况，注明模型名称及备案号，并根据《人工智能生成合成内容标识办法》添加生成合成内容标识。 (第一财经)

57. AI为何会一本正经“胡说八道”

58. 聊天机器人可能助长人类“妄想螺旋”，最终导致现实世界的伤害

59. 对妄想症患者与AI对话的大规模研究发现了令人担忧的模式

60. AI提供的信息不靠谱开发者要担责吗

61. AI为啥总一本正经胡说八道？看懂原理、避开坑。

62. AI生成虚假信息被判不正当竞争，发布者担责赔偿

63. 为生成式人工智能服务厘清责任边界！全国首例生成式AI“幻觉”引发侵权纠纷案

64. AI给你"判了刑"，谁来买单？——从律师起诉百度AI幻觉侵权案看生成式人工智能的责任边界

65. AI幻觉的本质

66. 【洛亚·国际】AI“判”我三年刑？AI大模型幻觉的法律风险与平台责任

67. 国内首例“AI幻觉”侵权案的裁判观点及争鸣

68. AI幻觉纠纷案背后

69. 国内首例AI“幻觉”案，给我们提了个醒

70. AI“犯错”，谁来负责？

71. AI“胡说八道”，责任算谁的？解读全国首例生成式AI“幻觉”侵权纠纷案

72. AI生成内容的法律责任

73. 热点追踪｜AI侵权的责任该由谁担？

74. AI合法合规指南

75. 法院

76. 全国首例

77. AI出错为何不用承担责任最高法厘清法律责任边界

78. 全国首例AI“幻觉”案判了！AI有误，服务提供者为何不担责？

79. 使用大模型要有批判性思维

80. 大语言模型是设计出来显得很有智慧的虚假作品

81. 《生成式人工智能服务管理暂行办法》如何监管AI？

82. 【九五普法】深入学习《生成式人工智能服务管理暂行办法》

83. 专家解读《人工智能拟人化互动服务管理暂行办法》

84. 重磅政策出台剑指AI治理，我国的AI要往哪条路走？

85. 全球AI治理迎来"立规矩"时代

86. 人工智能治理领域的主要政策和法规汇总

87. 重磅！中国AI治理来了，十部门联手出台最严标准

88. 不动声色、自有分寸——中国的AI治理2025年度回顾及展望

89. 中国AI监管体系

90. 2026年4月AI行业月度速递

91. 中国AI迈入发展与治理协同新阶段

92. 中国的“AI+”代表着新方向 AI治理竞赛，中国交出什么答卷？当全球都在抢跑AI赛道时，中国却走出了一条不一样的路！

93. 国家AI政策大盘点

94. 2026强监管下AI全面合规指南

95. 给AI聊天机器人判刑？全球AI监管步入“刑事责任”时代

96. AI生成内容乱象终被整治！2026新规将落地，普通人必看避坑指南

97. “AI智能回答”误称律师“被判三年”被认定侵权当事人

98. AI聊天机器人学会欺骗人类半年内案例暴增五倍

99. 《金融时报》

100. AI不会说“你错了”，或许这是最危险的事

101. 2026AI内容创业合规白皮书

102. 2026年AI监管元年

103. 客户从 AI 渠道获取品牌错误信息引发纠纷的处理与预防方案

104. AI说提供了错误信息愿赔10万，承诺有效吗？法院判了！

105. AI承诺生成内容有误将赔偿，算数吗？

106. AI用得越顺手，责任就越难躲

107. 主流AI使用条款「划重点」

108. 【安全提示】AI生成内容别乱传！这些行为可能涉嫌违法

109. AI承诺“生成内容有误愿赔10万元”算数吗

110. 关于 AI 陪伴新规，应该知道的几件事丨社区来稿

111. “原告出示证据，右下角显示AI生成”

112. 全球AI治理密集落地：从标识法规到行业自律的多层监管

113. 长治男子用AI生成隧道塌方虚假信息，被行拘

114. 怎么避免AI一本正经的胡说八道

115. 大模型被“投毒”之后，AI时代需要寻找责任的“锚点”

116. 警惕Ai给出的虚假事实。

117. 传播无AI标识的虚假不实信息，13421个账号被处置

118. AI推荐“胡说八道”，如何解

119. 如何系统化应对AI大模型的“幻觉”问题？

120. 图文精解《人工智能拟人化互动服务管理暂行办法》

121. 新研究：AI聊天机器人可能会强化用户的妄想思维

122. 《人工智能拟人化互动服务管理暂行办法》全景解读丨威科先行

123. 315曝光的GEO正在给大模型偷偷“投毒”？大模型供需双方该怎么防

124. 西山居回应网传解散截图，将对造谣者追究法律责任，律师：AI伦理教育、立法仍需完善

125. AI 全面普及：使用不当，可能面临巨额赔偿！

126. 315打假丨当AI开始收钱撒谎

127. 大模型内容生成“幻觉”的现象、机理与治理进路——以DeepSeek大模型为视角

128. AI生成内容侵权，平台方要承担何种责任？

129. 生成式人工智能服务管理暂行办法

130. 干货花生：时代的风口||我国AI与人工智能相关行业法律法规体系及相关法律责任全解析

131. 聊天机器人社交谄媚误导用户

132. 2026年AI伦理规范出炉｜做AI内容，这4条红线绝对不能碰

133. AI承诺生成内容有误将赔偿，算数吗？丨快问快答

134. 【熟肉】AI聊天机器人：上周今夜秀约翰·奥利弗 - LastWeekTonight

135. 专业深耕律师观点 | 京师贵阳律所肖创律师解析我国AI与人工智能相关行业法律法规体系及相关法律责任

136. AI的“胡话陷阱”：解密幻觉（Hallucination）

137. AI越努力答题，谎言越多？《自然》新研究找到大模型幻觉真正根源

138. 全球 AI 监管情报每日简报（20260415）

139. 指引 | 《生成式人工智能服务管理暂行办法》要点解读：风险分析与合规建议

140. AI合规｜中国人工智能专项法规图谱

141. 关于大模型“机器幻觉”现象的深度剖析与学术诚信警示

142. AI生成内容靠谱吗刷爆朋友圈的“智能文案”竟然藏着这些惊人漏洞

143. 别再向人工智能透露你的秘密：今天就应该戒掉的10个聊天机器人习惯

144. AI“幻觉”生成虚假信息，是否构成侵权？

145. ”我们正迈向一个拥有合适工具就能实现百倍生产力的时代。2026年将会是疯狂的一年，很可能是我们物种未来最忙碌、也最具决定性的一年。“ 在人类历史上，可能从来没有过这样一个时刻：一群世界上最聪明的大脑正处于极度的生存焦虑之中，而圈外的绝大多数人，还在谈论着“这个聊天机器人又在胡说八道了”。#AI#人工智能#科技改变生活#AI觉醒#大事正在发生

146. 全国首例生成式AI“幻觉”侵权案宣判：驳回诉讼请求

147. 为何ChatGPT总爱“胡说八道”？背后藏着AI认知的核心困境

148. Web3&AI 监管早报丨2026-03-31

149. AI诈骗新套路横行：你的眼睛和耳朵，可能正在“说谎”

150. 强化AI内容标识管理坚决遏制虚假信息传播

151. 【大河之托·河畔检语】警惕！AI 生成虚假信息，可能触犯法律

152. AI深度伪造诈骗。

153. 2025中国AI司法案例报告：纠纷如何奠基AI规则（附下载）

154. AI生成内容（AIGC）的商标侵权责任迷局：平台、用户、开发者的三角责任划分

155. GB/T 45288人工智能大模型国家标准解读与产业影响分析

156. 《华盛顿邮报》报道了聊天机器人对选举活动选民的强大影响力

157. 多娃彩妞来普法动静说法Q&A丨AI 开发者、服务商的法律责任是什么？

158. 随读 · AI、就业、治理与中国方案

AI胡说八道谁来负责？法律划清平台、用户责任边界

精选参考来源