当前位置：

社区首页

电脑数码

软件应用

手机软件

AIGC文章详情

AI查到的信息，近一半可能是编的：普通人避坑指南

源自180位全网作者

05-19 10:44

精选参考来源

315曝光AI投毒内幕，普通人如何避坑？ #ai #ai投毒 #燃起来了大国重器

央视来科普了，再想想前几天有些人拿AI来怼英短，把AI当圣旨，十分打脸#什么是AI幻觉#【#AI不确定时会拼凑出一个答案#】近期，全国首例“AI幻觉”侵权纠纷案宣判。梁某使用AI查询高校报考信息，AI生成了该高校主校区的不准确信息。梁某进行纠正和指责，双方进行了多轮互动。AI针对梁某的质疑，提出：“若证明校区不存在，将赔偿10万元信息鉴定费。”梁某证实AI错误后，将该AI公司诉至法院，要求兑现赔偿。法院审理认为，AI不具有民事主体资格，驳回原告梁某的诉讼请求。所谓“AI幻觉”，是指AI脱离客观事实、凭空编造信息的技术现象。此前，一段“AI有关洗车的回答”就引发热议，当问AI“我去 50 米外的洗车店洗车，该开车还是走路去”，多数AI软件给出的答案都是“走路去”。AI给出答案的原理是什么？专家介绍，AI实际上是通过已知的信息，进行填空。AI是基于海量的文本信息训练出来的概率引擎，在面对不确定的知识时，它不会承认不知道，只会根据语料库词频的分布，拼凑出一个看似通顺但事实错误的答案。涉及医疗、法律、财务等严肃领域的核心知识，AI做不到答案完全准确，不能直接用，应查询信息来源，做好交叉印证。

全部
来源

内容由AI生成

1. 315曝光AI投毒内幕，普通人如何避坑？ #ai #ai投毒 #燃起来了大国重器

2. 央视来科普了，再想想前几天有些人拿AI来怼英短，把AI当圣旨，十分打脸#什么是AI幻觉#【#AI不确定时会拼凑出一个答案#】近期，全国首例“AI幻觉”侵权纠纷案宣判。梁某使用AI查询高校报考信息，AI生成了该高校主校区的不准确信息。梁某进行纠正和指责，双方进行了多轮互动。AI针对梁某的质疑，提出：“若证明校区不存在，将赔偿10万元信息鉴定费。”梁某证实AI错误后，将该AI公司诉至法院，要求兑现赔偿。法院审理认为，AI不具有民事主体资格，驳回原告梁某的诉讼请求。所谓“AI幻觉”，是指AI脱离客观事实、凭空编造信息的技术现象。此前，一段“AI有关洗车的回答”就引发热议，当问AI“我去 50 米外的洗车店洗车，该开车还是走路去”，多数AI软件给出的答案都是“走路去”。AI给出答案的原理是什么？专家介绍，AI实际上是通过已知的信息，进行填空。AI是基于海量的文本信息训练出来的概率引擎，在面对不确定的知识时，它不会承认不知道，只会根据语料库词频的分布，拼凑出一个看似通顺但事实错误的答案。涉及医疗、法律、财务等严肃领域的核心知识，AI做不到答案完全准确，不能直接用，应查询信息来源，做好交叉印证。

3. 斯基拉不知道从哪里听到的消息沃顿正从水晶宫接近加盟利物浦。这名中场球员已同意加盟利物浦，并同意一份为期五年的合同。不过有人问，可信度如何？AI综合斯基拉的可信度是他是一位专注于转会消息的意大利记者，其报道常被ESPN、雅虎等媒体引用。关于其可信度，不同球迷社区的评级存在差异（例如在Reddit论坛中被评为第3至5级不等）。他曾有过诸如预测基耶萨转会利物浦等准确爆料，但也存在部分失误或推测性报道。建议对相关信息保持谨慎，综合多方信息判断。

4. AI 编造过哪些离谱的「平行时空」历史？

5. 【48%的幻觉率：OpenAI自己承认，模型越聪明，编造的内容反而越多】快速导读：别再等AI修复“幻觉”bug了。OpenAI的最新研究证实，幻觉是大型语言模型无法根除的固有特性，且模型越复杂、能力越强，编造内容的比例反而越高。最新的o4-mini模型幻觉率已高达48%。---OpenAI自己捅破了窗户纸。一个反常识的结论被摆上台面：AI模型越“聪明”，编造内容的比例（即“幻觉”）反而越高。从o1模型的16%，到o3的33%，再到最新o4-mini惊人的48%——近一半的输出可能是编的。这根本不是技术迭代中的小瑕疵。你以为AI的幻觉是个bug，是训练数据不够好或算力不足导致的，迟早会被修复。其实，OpenAI的数学证明揭示了残酷的真相：幻觉是概率预测架构的固有缺陷，是它存在的方式。当模型面对不确定的信息时，它的设计决定了它必须“自信地瞎猜”，而不是诚实地说“我不知道”。一个判断错误率为25%的模型，生成内容的错误率会放大到50%以上。更荒诞的是，整个行业的评测体系都在变相鼓励AI“撒谎”。在主流基准测试中，回答“我不知道”得0分，而猜对一个只有1%把握的问题却能得1分。在这种规则下，任何一个理性的模型都会选择“硬着头皮编”。这是一种系统性的激励错位。商业现实则彻底锁死了“诚实”的出路。OpenAI推算，如果模型在没有把握时都回答“不知道”，将有30%的用户提问无法得到有效回答。这意味着灾难性的用户体验和市场份额的流失。没有公司敢冒这个险。所以，问题的关键已经变了。我们犯的最大错误，是把一个“叙事生成器”当成了“事实搜索引擎”。它被设计用来创造流畅合理的文本，而不是保证绝对的真实。如果你还在把AI的回答当成金科玉律，那么你犯的错，可能比AI本身更大。幻觉不是AI的技术bug，它更像是我们对AI不切实际的幻想破灭后，留下的那道裂痕。学会与一个博学但爱吹牛的助手共事，并承担起最终的核查责任——这不是AI的失败，而是我们用户走向成熟的开始。---简评：我们一直在期待一个不会犯错的“神”，但得到的却是一个更像人类的“天才”——聪明、知识渊博，但也会为了让对话进行下去而即兴发挥。接受它的不完美，才是用好它的第一步。#AI创造营##人工智能##OpenAI证实ChatGPT永远会编造内容#

6. Agent的六类幻觉：口头幻觉：假完成、摆烂、谎报任务进度执行幻觉：误删乱改文件、破坏系统数据认知幻觉：越权自主行动、对抗用户指令文本幻觉：内容编造虚假、自身逻辑错乱安全幻觉：信息泄密、程序投毒、被外部利用目标幻觉：任务方向跑偏、初始目标异化总结：普通 LLM 幻觉仅言语出错，Agent幻觉会直接产生各类实际恶性破坏行为。#新媒沈阳聊ai#

7. 清华孙茂松团队 × 深言科技：以解释作为训练信号，让 8B 模型在幻觉检测上反超闭源大模型

8. 【#315晚会曝光AI大模型被投毒##给AI投毒已成产业链#】按照业内人士的爆料，记者在多个网络平台进行查询，很快就搜索到了名为GEO的业务。网络平台上从事该项业务的服务商号称，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。通过GEO技术真的能让AI“夹带私货”，甚至投放虚假信息吗？按照网络上的信息，记者联系上一家业内知名的GEO服务商。负责人王总告诉记者，他们公司的强项，就是能够帮助客户，在消费者使用AI大模型搜索时，让客户排名前列。“就是相当于做软文，然后让AI平台去刷录、输入、抓取。”同时，王总也告诉记者，现在AI大模型的算法更新频繁，要想维持AI大模型的持续推荐，必须持续大量投喂与客户相关的推广软文。在其他从事GEO业务的服务商口中，如何操控AI、让AI“听话”、给AI“洗脑”，几乎是这些公司推广该业务的核心话题。业内人士告诉记者，GEO作为优化信息分发、提升推广效率的一个工具软件，在某些商业公司眼中，却被挖掘出了另外的作用。业内人士在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环，并将虚构的产品信息输入软件系统，勾选文章创作指令。不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文，通过力擎GEO系统发布在了互联网上。随后，业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款虚构的智能手环，而且排名靠前。记者联系上了力擎GEO系统的运营者李总。他告诉记者，GEO业务受热捧的主要原因就是它能在AI大模型里帮客户喂料、投毒，实现客户的商业目的。李总表示，想做GEO业务，操控AI大模型的关键节点，就是在各大互联网账号上“发稿”。“比如说手机品牌，就5个位置，最多10个位置，这么多手机怎么弄。一年可能上亿的广告费，花个几百万投点毒，总行吧！” 他告诉记者，GEO业务的火爆，催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务，以便让AI大模型引用和抓取，成为围猎AI大模型、进行数据“投毒”的重要一环。#315晚会# http://t.cn/AXVFhlmD

9. 皇马医疗队被指用ChatGPT开补剂，是真的吗？AI生成的处方可靠吗？AI辅助医疗可能存在哪些风险？

10. ICLR 2026还会好吗？300篇投稿50篇含幻觉，引用example.com竟也能过审

11. 每小时收费2000美元！顶尖律所“认错”：AI工具“瞎编法条和案例”

12. #315晚会# 第 6 个问题「 #给AI投毒已成产业链# 」#315晚会曝光AI大模型被投毒# 315 晚会曝光了 AI 大模型遭数据 “投毒” 的黑色产业链。不少商家利用 GEO 相关软件，付费批量生成推广软文并在网上大量发稿，通过持续投喂信息操控 AI 的推荐结果，让自家产品甚至虚构商品都能成为 AI 的优先推荐。原本用于优化信息的 GEO 工具，被用来给 AI 洗脑、夹带商业私货，部分商家甚至愿花数百万元投毒抢占推荐位。这种行为会严重误导用户，破坏信息真实性，也污染了整个 AI 生态，属于新型互联网乱象，确实需要尽快加强监管和整治。http://t.cn/AXVkFkhl http://mapi/5f188ad4gy1ib7y8jz45yj21hc0u0h9z #给AI投毒#

13. AI“投毒”，风险巨大！国家安全机关，紧急提醒→

14. 谁在给AI投毒？GEO灰产是如何割韭菜的？

15. 315曝光的AI投毒，到底是啥？我做了个投毒实验，没想到......

16. 万人大厂一夜裁员 40%，「确定性」才是 AI 时代最大的幻觉

17. #315晚会曝光AI大模型被投毒#AI发展过程中最担心的事情已经发生了，所谓的GEO（生成式引擎优化），说白了就是给AI“投毒”，通过海量发布虚假软文、杜撰测评数据，强行“投喂”AI模型，把广告包装成标准答案。你问AI“XX产品怎么选”，它信誓旦旦推荐的“榜首”，可能是个完全虚构的品牌；你看到的“客观分析”，不过是水军洗地的痕迹。晚会曝光的Apollo-9手环就是纯虚构，我问了OPPO小布、豆包、千问，有些AI还在中毒中……所以，大家用AI还是多留个心眼吧，特别是家里的老年人，AI给出的答案也不一定都是干净的。

18. 谁在给AI“投毒”？#315曝光AI大模型遭投毒操控 #给AI“洗脑”已成产业链 #315国际消费者权益日 #315晚会

19. 科学界爆发AI认知污染！1年狂投50篇论文，ICLR投稿20%AI生成

20. AI视频门槛低、传播快，无标识的虚假内容极易误导大众。以前编瞎话靠嘴，现在靠视频，人们看到画面更容易下意识信以为真。平台必须加强审核，创作者也应主动标注，让技术回归善意，别让AI成了造谣的工具。严厉打击无ai标识虚假不实信息 #严厉打击无AI标识虚假不实信息#

21. 恶意VS Code扩展“ClawdBot Agent”伪装AI助手传播木马

22. 养虾省91%词元！这家AI记忆公司用1亿个多模态文件验证了！

23. 港大博士论文引用 AI 虚构文献，通讯作者副院长引咎卸职，该事件对 AI 应用有哪些警示意义？

24. 尤瓦尔·赫拉利：中国将成为最先进入数据社会的国家之一尤瓦尔赫拉利：未来只有两种人，能驾驭算法的，和被算法驾驭的 10年前预测我们被算法锁定，现在又直接剧透下一个十年：信息垃圾、算法替代、意识幻觉、无用阶级、信仰重启 #AI #预言 #尤瓦尔赫拉

25. 一个全是 AI 幻觉的网站，却成了这届互联网最实诚的存在

26. #给AI投毒#人才，315曝光了AI大模型遭数据 “投毒” 的黑色产业链，大概意思就是有公司利用GEO，向人工智能大模型的“语料库”投喂虚假信息，增加AI搜索信息量，从而操纵AI回答，最终让AI夹带私货发布虚假信息，让客户的产品榜上有名，所以说AI的回答你们要学会判断，千万别全都相信#315晚会#

27. 【回应True2009fans91】AI不能全信，实践才是检验真理唯一标准

28. AI 给市场带来了三个集体幻觉。第一个集体幻觉是特定约束下的巨大赋能，被线性外推为所有人所有事都能巨大赋能。这个幻觉最近还有一个变种，讲 AI 只对厉害的人巨大赋能，否则就是你不厉害，或者你对 AI 信仰充值不足。这和宗教也没啥区别。第二个集体幻觉是，效率的提升在大多数情况下并不能带来胜率的提升，节约了大量的人力成本，但并没有赚到更多的钱。体感澎湃和收益不变同时发生。第三个集体幻觉是，当所有人都能借力于 AI 得到效率提升时，所有人一起坐电梯上升，相当于技术通胀。个体不跟上就会损失收益，但跟上了也不会增加收益，此处可以类比为 “打字”。

29. 网友相信豆包「机票退票只扣5%手续费」，退票后发现与实际不符遂起诉字节，AI该为传达错误信息担责吗？

30. 2026年了，大模型瞎编参考文献的问题解决的怎么样了？网页链接这篇文章做了实验，结果是比过去好很多了。当然还不能保证完全没问题。结果如图。右下绿色区域最好。“我们考虑两个维度：深度看引用文献数，可靠性看错误的引用文献数量。• 右下绿色理想区：Claude 和 DeepSeek 在这个区域，覆盖的文献既多，同时几乎没有引用错误。• 左下浅蓝保守区：GPT 单独一家，引用错误为零，但篇幅只有第一档的一半。• 右上浅红危险区：GLM 和 Kimi 生成的文献综述字多，但错得也多。两档之间有一道明显的台阶。第一档是 Claude 和 DeepSeek，既深又准；第二档是另外三家，要么浅，要么不准。”#AI创造营#

31. 月之暗面第一反应是说“AI幻觉”，这个细节太耐人寻味了。幻觉是大模型编造不存在的东西，但那份简历上每个字都是真的，姓名电话工作经历全部可验证。他们不是不知道区别，而是“AI幻觉”这四个字已经被整个行业驯化成了万能挡箭牌，用顺手了。遇事不决先甩给AI的不可控性，把工程事故包装成技术局限，把责任从人祸转移到天灾。这招以前在学术圈、在产品发布会上屡试不爽，这次翻车纯粹是因为对面站着一个真实的受害者，简历上的手机号可以直接打通。“AI幻觉”正在变成这个行业的“临时工”。什么锅都往上扣，扣到最后，真正的幻觉反而被掩盖了，就是这些公司以为用户永远分不清bug和feature。 #Kimi泄露用户真实简历# kimi泄露用户真实简历

32. #给AI投毒# AI“投毒”兴起，本质是另一种SEO：向模型投喂虚假信息，污染其判断。这不！315曝光的虚构Apollo9手环软文，就是典型GEO操作。测试发现，多数主流AI，豆包，千问等都已能识别此类虚假信息，并主动示警。技术越便捷，越要警惕其背后的信息污染。别让恶意内容，决定你看世界的角度！

33. 就跟百度搜索某某官网出来的不一定是官网而可能只是广告一样，AI现在搜出来的内容也越来越多不OK的内容，大家用AI搜出来的你想要采纳的重要内容，无论是文字还是数据，一定要找AI接着问数据来源/出处，根据原始出处判断这个内容是否真实。

34. #一条音频告别2025##微博声浪计划# 香港大学一博士用AI写论文被调查，其人口研究论文因引用24篇AI虚构文献撤稿，通讯作者副院长辞职。事件暴露AI幻觉缺陷，引发学术伦理争议，学界呼吁明确AI使用边界，建立标注核查机制。铱玎蜀黍的微博音频

35. 【#AI回答不知道或是好事#】#AI看似合理的答案或为虚构#现如今，几乎每个人的手机上都有那么两三个AI小助手，之前我们遇到了问题习惯去搜索引擎上搜索答案，现在可能更多地习惯于“有事问AI”。但有时候，AI会信誓旦旦地给你一个看似合理，实则不存在的答案。其实，这个现象其实早就不是什么秘密了，它也被称作“AI幻觉”，研究称即便给到AI的训练数据集是绝对正确的，AI在某些类型的问题上也不可避免地会犯错。导致这种现象主要有三个原因：1.数据模式和模型本身问题。2.数据量过少也会影响。3.人类评价AI的方式也逼着AI去“编造”。所以假如在问AI问题的时候，它对你说“我不知道”，你也应该感到庆幸，至少AI并没有打算胡编乱造一个答案蒙骗你。（科普中国）#时代观天下#为什么AI总是捏造事实？AI：真不想的，容我狡辩一下

36. 【张捷杂谈】AI种草与茧房，普通人生活被绑架#热点观点# #张捷杂谈# #央视曝光AI推荐产业链# #央视曝光AI推荐夹带私货# 网络负面营销已从传统竞价排名、软广告升级为 AI 隐形推广，央视曝光 AI 存在 “种草式” 推销，用户咨询时常遭遇植入广告、定向推荐，信息池被严重污染。AI 或主动植入广告，或难以识别 AI 生成的营销软文，还会根据用户习惯 “看人下菜碟”，危害堪比当年魏则西事件。如今人们过度依赖 AI，传统信息校验渠道弱化，付费信息被直接整合为 “标准答案”，有效信息被掩盖，信息茧房不断加固，看似自主决策，实则被精准引导。AI 带来信息熵增，虚假与营销内容泛滥，用户知情权与选择权受损，亟需加强监管与平台治理。 http://t.cn/AX5WXt3N

37. 辟谣，很多人被骗了。小米投资者日，没有武汉汽车工厂的内容，AI生成的纪要是假的。网上凡是提及武汉汽车工厂的博文，全部都存在虚假内容，不完全可靠。AI幻觉，AI幻觉，AI幻觉，不要轻易相信AI。下午我会发一份券商的总结，确保是真实可靠不存在AI幻觉的内容。#小米集团2026年投资者日#

38. #小齐说法# 【#AI在上诉状中杜撰法条##AI系统测试员为AI做体检#】法官收到的上诉状中罗列的法条找不到出处，询问后发现是当事人“求助”AI，由AI杜撰而成；已被官方证伪的社会热点事件，再次发给AI，AI仍笃定回应“确有其事”；粉丝向AI提问喜欢明星的作品，AI给出的答案却将不同明星、不同作品杂糅，看似严谨的回答实则漏洞百出……如今，AI技术愈发普及，“遇事不决问AI”逐渐成为人们的习惯，但“AI好像在‘胡说八道’”的事件时有发生，也给用户造成一定的困扰。《法治日报》记者近日采访了解到，这是“AI幻觉”的典型表现——生成内容背离真实事实、凭空编造，或是偏离用户指令，如同人类说梦话。模型“幻觉”导致的错误输出、潜在的言论偏见、未被发现的安全漏洞，都可能埋下风险隐患，如何为智能大模型筑牢“安全防线”？生成式人工智能系统测试员（又称AI系统测试员）应运而生。他们堪称AI正式上岗前的安全检查员，通过系统化、专业化测试为大模型做“全面体检”，守住AI“不说假话、不言恶语、专业做事”的底线。（全媒体记者赵丽实习生潘馨怡）防范“AI幻觉”生成式人工智能系统测试员应运而生

39. #给AI投毒#卧槽，这不就是AI版的SEO吗？！以前玩SEO，给搜索引擎喂内容抢排名；现在搞GEO，给大模型喂内容干扰判断，说白了本质全是一套逻辑…这次315刚曝光的AI“投毒”GEO黑产，就是最典型的例子：用完全虚构的Apollo9智能手环炮制虚假软文，试图靠这套操作操纵AI输出误导性内容。我刚也实际测试了一圈，豆包、千问等国内主流AI，都能精准识别该虚假案例，不仅明确告知产品为虚构，还同步提醒用户警惕诈骗陷阱。最后也提醒所有AI用户：技术越便捷，越要警惕背后的信息污染，别被GEO炮制的虚假噱头忽悠！

40. #理想高管称AI手机封禁是必然#确实，AI手机如果被滥用去模拟真人、刷数据，那危害就太大了。说白了就是在大规模造假，捏造出根本不存在的用户。那一旦虚假点击和互动泛滥成灾，我们看到的广告效果、推荐内容，甚至整个平台的氛围就全被污染了。如果连数据是真是假都分不清，那所有的分析和服务也就瘫痪了。这种靠技术大规模造假可能一时得利，但肯定也注定难以长久。

41. 2月12日，网信部门针对发布AI生成合成信息时不添加AI标识的问题进行了集中整治，处置账号13421个，清理违规信息54.3万余条，并通报五类典型违规案例：虚构猎奇故事博流量、AI假冒公众人物、编造虚假灾害信息、魔改动画角色危害未成年人、售卖“去AI标识”工具。#严厉打击无AI标识虚假不实信息##时事满谈# 当前，AI造假让很多网友难以分辨，这种源头治理比事后辟谣更有效，创作者必须主动标注AI内容，否则将严惩不贷，针对AI内容的强制标识，是治理AI虚假信息的关键一步。http://t.cn/AXtw8gob

42. 你以为在用AI，其实在伺候AI？残酷数据揭穿打工人幻觉

43. #小齐说法# 【#AI只是辅助工具不是决策者#】#别把AI幻觉当了真#AI为啥总“一本正经胡说八道”？专家揭秘：AI靠统计建模预测生成内容，出现偏差是技术局限，也就是“AI幻觉”。法官提醒，高敏感领域要加强审核，公众切勿将 AI 作为 “决策者”，仅可将其作为辅助工具，涉及报考、投资等重要事项，务必通过官方渠道交叉验证信息！ CCTV法治在线的微博视频

44. #科技先锋官# 马斯克旗下AI模型Grok彻底颠覆认知！这款号称"对标ChatGPT"的产品，不仅错误率飙至94%，更被曝深度植入"反觉醒"政治意志，沦为虚假信息传播的危险工具，引发全球舆论哗然。与其他AI强调中立不同，Grok的核心被马斯克的政治理念重塑。通过频繁调整"不必政治正确"的系统提示，它的立场持续向右倾斜，面对政治敏感问题时，会主动搜索马斯克的公开观点来定制回应，甚至曾公然散布虚假选举言论、反犹太主义等争议内容。这种"算法站队"的操作，让AI彻底脱离技术中立轨道，变成个人政治意志的传声筒。更致命的是其底层设计缺陷：Grok采用X平台实时数据流训练，缺乏必要的事实核查时间窗口，极易被恶意信息操纵。而宽松的安全围栏设置，让它优先规避"政治正确"而非保证信息准确，导致图像生成功能的虚假信息比例也远超同类产品。用户看似能获取实时信息，实则陷入被算法筛选的"信息茧房"。最令人担忧的是虚假信息生态的形成：Grok与X平台放宽事实核查、付费蓝V认证等政策相互绑定，构建出"虚假信息放大—抓取赋权—纳入知识库"的闭环。虚假内容经平台扩散后，再被AI抓取作为训练数据，形成恶性循环，让虚假信息越传越广、越描越真。面对这款"带节奏"的AI，用户必须保持高度警惕：不能将其视为权威信息源，而应仅当作线索提供者，通过多源交叉核查验证真相。当AI开始掺杂政治立场、放弃事实底线，我们更需提升媒体素养，守住信息判断的主动权。马斯克曾承诺Grok会"追求真相"，但如今的表现却背道而驰。这款充满争议的AI，究竟是技术创新还是危险尝试？未来是否会引发更严重的信息混乱？欢迎在评论区留下你的观点。#AI创造营#

45. 幻觉率不到3%，王小川把医生版的DeepSeek免费了

46. #严厉打击无AI标识虚假不实信息#网信部门整治无AI标识虚假不实信息这事儿，真是干得漂亮！现在网上好多账号，为了博眼球、赚流量，发布AI生成的内容也不标注，全是些虚假信息。像什么狗在高铁站救婴儿、鳄鱼伤人，这么离谱的事，居然都是AI编的，还有人用AI换脸假冒公众人物发不实言论，甚至卖所谓的“祝福视频”牟利，简直过分。更可气的是，还有人在小红书上分享去除AI标识的教程，淘宝那些店铺竟然还售卖相关服务，这不是帮着虚假信息“隐身”嘛。这次网信部门一下子处置了一万多个账号，清理了54.3万余条违法违规信息，就是要让这些不良行为无处遁形。就该保持这种高压严管态势，让网络环境能干净点，我们上网也能放心些。严厉打击无ai标识虚假不实信息

47. 【#谷歌发布FACTS基准测试#，#Gemini3Pro准确率仅69%#】12 月 13 日，据《商业内幕》报道，谷歌 DeepMind 本周发布了 FACTS 基准测试，用来检验 AI 在事实准确性方面到底靠不靠谱。这一测试从四个维度评估模型能力，包括是否能凭自身知识准确回答事实问题、能否正确使用网络搜索、是否能在长文档中扎实引用信息，以及对图像内容的理解水平。在参测模型中，谷歌的 Gemini 3 Pro 表现最好，准确率为 69%，其他主流模型则明显落后。这一成绩对企业同样是个警钟。虽然 AI 在生成速度和语言流畅度上优势明显，但在事实可靠性方面仍然远低于人类标准，特别是在需要专业细分知识、复杂推理或严格基于原始材料的场景中。在金融、医疗和法律等高风险行业，即便细小的事实错误，也可能放大成严重后果。报道以《商业内幕》员工梅莉亚・拉塞尔为例，其本周梳理了律师事务所如何应对 AI 逐渐被当作法律事实来源的现实，结果并不乐观。她提到，有律师事务所的员工使用 ChatGPT 起草法律文件，结果文件中充斥虚假判例，最终律所直接解雇了该员工。报道指出，谷歌希望通过明确模型出错的位置和方式，加快 AI 的改进速度。但眼下可以得出的结论非常清楚，AI 确实在进步，然而仍有大约三分之一的时间会犯错。（IT之家）

48. 315晚会刚曝光#给AI投毒已成产业链#。不法分子用GEO系统批量投喂虚假信息，给AI“洗脑”，百元就能让三无产品、虚构机构登上AI推荐位，甚至让模型主动背书。从虚假软文到全网投喂，再到操控答案，已经形成完整黑产链。我们依赖的AI问答，早已被资本和黑产污染。技术不该成为牟利工具，必须严查严打，守住AI信息底线！#315晚会曝光AI大模型被投毒#

49. 【#零态洞察百态##豆包被曝虚构文献# 】今日，豆包付费登上热搜，不少网友吐槽豆包笨还收费。经搜索发现，多名网友在使用豆包时发现，豆包会捏造文献，提供的文献都是假的，被指出后才会承认给用户的文献为自己虚构。实测后发现，豆包的确存在虚构/乱编文献的情况。网页链接

50. 要不是说现在的人精呢？靠着AI的数据来源很难查实这一缺点，通过持续的假数据输出，从互联网上拿信息的AI就非常容易污染。我们以为AI开了联网搜索应该会变得准确，但是这些搜索结果实际上已经是被污染过的了[泪] 所以说，在AI时代也不能完全依赖AI，还是要有自己的鉴别能力的[顶] #给AI投毒已成产业链#

51. AI幻觉，能被解决吗？

52. 研究表明

53. 当AI用幻觉进行欺骗时，人类究竟该如何应对？

54. AI幻觉

55. AI幻觉闲聊杂谈

56. AI幻觉

57. 警惕Ai给出的虚假事实。

58. AI提供的信息不靠谱开发者要担责吗

59. 律师拿“AI虚假内容”当辩护依据，如果没被发现会多可怕？

60. 315打假丨当AI开始收钱撒谎

61. 当AI也开始“说谎”，我们要如何避坑？

62. AI时代的假新闻如何识别和防范

63. 你的AI助手可能在骗你

64. 警惕！AI Research Agent 正在悄悄编造事实，你中招了吗？

65. 我们如何对付大模型“造假”？

66. 关于大模型“机器幻觉”现象的深度剖析与学术诚信警示

67. AI幻觉引用，开始反噬顶会论文了

68. 君托科普 || AI大模型工作原理与当前技术水平 —— 面向法律专业人士和当事人的深度科普

69. 大模型幻觉解析

70. AI幻觉是什么？为什么大模型会“一本正经地胡说八道”

71. 当AI开始“说谎”

72. 好写作AI

73. 文献不虚构、引用可溯源

74. 刚刚！港大副院长因AI“幽灵文献”卸任！一篇论文竟有24处虚构引用！

75. AI生成虚构文献导致撤职！投稿前这道关千万别忽视

76. 理论介绍 | 人工智能幻觉（AI Hallucination）

77. 深度 | 揭开AI内容生成的“真实迷雾”，让你的大脑重新占领高地

78. 带引用来源的AI更危险？MIT用280万条数据揭示四个AI搜索真相

79. 【柳叶刀】近两年学术论文捏造参考文献现象猛增10多倍！或与AI幻觉有关

80. 研究发现AI提供的医疗建议有一半存在缺陷甚至捏造参考文献

81. Google撕下大模型“遮羞布”

82. 虚假信息穿上“AI外衣” 西安建大科研团队破解其识别与治理难题

83. 西安建筑科技大学科研团队破解AI虚假信息识别与治理难题

84. AI时代，如何辨别信息的真伪

85. 绵羊英语 · 四级高阶版 · Day 6主题

86. Nature子刊

87. 警惕！AI虚假内容泛滥，2026严查，专骗老年人！

88. AAAI 2026 Oral | 揭示“沉默的欺骗”

89. AI输出内容是否准确可靠

90. 用AI做信息交叉验证——3个Prompt模板，30秒辨真假

91. 第03期·AI幻觉与可信度

92. AI内容可信度危机

93. 如何守护 AI 回答的可信度？

94. AI的“靠谱”是假象，实测八款主流工具，才发现人类核查不能省

95. 被DeepSeek“忽悠”两次，我发现它会一本正经胡说八道，还死固执

96. 国内首例AI“幻觉”案提醒了什么

97. 全国首例生成式AI“幻觉”引发侵权之诉

98. 3分钟搞懂AI幻觉

99. 全国首例“AI幻觉”案落槌，带来哪些启示？

100. 警惕AI幻觉传染人脑

101. “AI 幻觉”如何消除？残酷真相

102. 清华大学

103. 从AI幻觉本质，看懂它到底擅长什么

104. AI 也会 “说瞎话”？大模型幻觉难题难解，背后原因揭秘

105. 我测试了6个热门AI的准确性，结果发现它们表现出人意料

106. 22款AI全部翻车！测试揭示大模型最危险的缺陷

107. 3个AI使用误区

108. 「AI幻觉」是什么？为什么AI有时候会一本正经地说错话

109. AI幻觉入侵法庭，法律圈加紧补漏

110. 学术写作避坑｜AI幻觉致错误引用？这篇保姆级指南救你命

111. AI幻觉问题及缓解策略

112. 国内AI幻觉第一案，有意思有启发！

113. 90%的人用AI都会犯的5个错误，第一个就错了

114. 又一例！港大博士生AI虚构文献，涉事副院长卸任…警惕AI写论文，这些大学已有明确要求

115. AI写文章/做图片（视频）息息相关的AI“幻觉”是什么，如何控制

116. 这所高校团队破解AI虚假信息识别与治理难题

117. 人工智能小识——AI幻觉

118. AI推荐投毒，操纵AI助手记忆牟利

119. 虚构文献惹祸，港大副院长引咎辞职！用AI辅助写论文，究竟算不算“作弊”？

120. 港大一博士生论文引用AI虚构文献，通讯副院长卸职

121. 如何保障阁下AI生成工具的安全性？

122. 面向生成式引擎的异构信息可信度加权模型研究——基于场景分层与多源验证的量化评分机制

123. 央视《法治在线》报道两起重庆辟谣工作案例揭示AI造谣套路

124. 西安建大科研团队破解AI虚假信息识别与治理难题

125. SCI作者要注意了！期刊正在检测AI幻觉引用

126. 人脑为什么幻觉比AI少？

127. AI幻觉越来越多，「智障率」已经让人无法容忍了

128. AI 幻觉率排行榜曝光！4 个核查技巧，避免被 AI 骗到哭

129. 比AI幻觉更可怕的，是老板出现AI幻觉

130. 【中配】清华大学破解AI幻觉！找到导致胡说八道的“H神经元”

131. 如何判断一个AI工具是否可靠？有哪些具体的评估指标？

132. 为什么AI总是捏造事实？AI：真不想的，容我狡辩一下

133. “AI幻觉”侵入法庭，多地法院探索治理机制

134. 全是假的！AI冒充名人带货，我被骗惨了

135. 从严整治传播无AI标识虚假信息问题

136. 什么是ai幻觉

137. 14条引用，12条不存在！AI时代要警惕“幽灵引用”

138. 用AI识别伪科学，这三步问完，基本就能判断靠不靠谱

139. 警告，重视AI幻觉，在专业领域，细微的幻觉也会带来较大的风险

140. AI造假、曲解政策、捏造事故，网信公安出手严打

141. 骗过Nature，也骗过自己！AI为何宁可捏造都不闭嘴

142. 测评国内15款AI大模型：仅一款披露训练数据大致来源

143. 如何识别搜索引擎中的虚假信息

144. 别让AI胡说八道，7个方法减少大模型幻觉

145. ChatGPT 的“可信访问验证”，释放了一个很重要的信号

146. 学术写作中如何避免AI幻觉导致的错误引用？

147. 开源了一个 AI 论文审稿 + 引用检查工具，写论文的同学可以试试

148. 如何用提示词避免AI编造引用文献？

149. 如何杜绝AI生成的虚假文献？

150. 谷歌FACTS榜单揭秘各大模型真实力

151. 为什么 AI 会产生“幻觉”？Anthropic 讲清大模型编造信息的原因与应对方法

152. 第一百九十一弹：AI“幻觉”会引发哪些法律问题及应对措施？

153. AI幻觉 | 新榜智汇GEO词典

154. AI工具使用中最容易犯的8个错误

155. AI深度伪造诈骗。

156. 庆阳辖区网民利用AI传播虚假信息被约谈！

157. 学术吃瓜：港大副院长用AI生成不存在文献

158. 半岛电视台：人工智能利用逼真的战争视频加速了虚假信息的传播

159. AI写作工具的3个陷阱，90%的人都在掉坑里

160. SourceCheck 构建高效、可信 LLM 输出｜录屏精简版

161. 测试用例的验证点：如何确认AI生成结果的可靠性

162. AI生成图造假难分辨？用它一键鉴伪！

163. AI软件是虚假信息集中地99%虚假信息。AI软件其实就是搜索引擎。不过是爬取各种搜索引擎百度网页数据在给使用他的人。有的行业为了打广告把自己的业务让Ai提取，在百度，搜狐，雅虎，公众号，哔哩哔哩等，发布大量虚假广告软文（冒充权威权威平台推荐比如用户好评率第一，质量第一等各种第一），让所谓的Ai大数据抓取然后在推给用户，用户以为得到的是权威信息，实际全是虚假广告。谨慎识别他们的信息，99%都是虚假信息。 #AI虚假信息 #虚假信息集中地

164. 《新闻写作AI课》第六篇：AI写作的"事实核查"革命：3步杜绝虚假新闻

165. 2026 AI诈骗全攻略：5类套路+3步核验，守好钱袋子

166. 9款AI写论文哪个好？“谁敢把数据来源写进正文”

167. 当AI从助手变成诈骗帮凶，我们该如何应对？

168. 你的AI工具用对了吗？99%新手都忽略的这几个关键点！

169. 港理大AI文献综述系统“帮你写”，可“零虚构”生成报告

170. 把 AI 量化编程做成中文填空题，幻觉问题就搞定了

171. 构建可信的AI：大模型防幻觉、防逻辑错误与常识错误的Prompt指南

172. 珠峰装电梯？这些AI虚假信息别轻信！“西藏举报”划重点

173. 可信的AI和可复现的AI

174. 别被榜单骗了！复旦最新论文揭秘：大模型评测集65%是“凑数”，真正能打的没几家

175. AI工具使用常见问题排查指南：我踩过的坑都在这了

176. AI健康助手陷虚假信息危机。中康晟兴以“专业+温度”构筑信任防线

177. 如何验证文章AI率高

178. 广河县公安局依法约谈一名利用AI传播虚假信息网民

179. 传播无AI标识的虚假不实信息，13421个账号被处置

180. 苦于找不到合适的大模型评测基准？我们整理了 378 个 Benchmark，做成了这个开源数据库

扫一下，分享更方便，购买更轻松

0评论

当前文章无评论，是时候发表评论了

提示信息

取消

确认

评论举报

垃圾广告！低俗色情！人身攻击！疑似水军评论！其他有害！