什么值得买App下载 App ›
连续签到专享现金活动

你搜到的信息,可能正在被AI用假货“投毒”

你可能不知道,当你向AI提问时,它正在用一团被污染的数据回答你。65%的互联网内容已经由AI生成,而这些内容中绝大多数是低质、虚假甚至恶意的。你的研究团队查到的行业数据,可能来自三个月前ChatGPT编造的一份虚假报告;你的竞争对手搜到的市场分析,可能是一个AI批量生产出来的营销软文。更可怕的是,这场污染正在以你看不见的速度蔓延——一场“AI造垃圾→污染模型→造更多垃圾”的死循环已经启动,而我们每个人都深陷其中,却浑然不觉。1
这不是危言耸听。2026年6月,一篇被WWW'26收录的学术论文用实验数据敲响了警钟:当AI内容在检索池里占67%时,顶级搜索结果中超过80%来自AI。而更诡异的在于,准确率全程稳定——没人看出问题,搜索引擎的仪表盘全绿,但底层的信息生态已经在悄悄坍塌。2
具体来看,Ahrefs在2025年4月检测了90万个新英文网页后发现:74.2%的新网页包含可检测的AI生成内容,纯人类写作的新网页不到四分之一。其中,71.7%是“混合型”内容——部分AI参与,部分人工撰写。这意味着,你每天刷到的信息,很可能是一个人类作者和AI共同“缝合”出来的产物,而缝合的质量,天差地别。3
为什么AI会越学越蠢?一个从未发生的算法更新给出了答案
SEO专家Lily Ray有一次亲历的经历,堪称这场危机的缩影。2025年,她在奥地利出席一个峰会后,向Perplexity AI询问SEO领域的最新动态。AI给出了一个看似详尽的回答:Google刚刚推出了“2025年9月Perspectives核心算法更新”,强调“更深的专业知识”和“用户旅程的完整性”。但这个更新从来就没有发生过。4
Lily Ray顺着AI给出的引用来源追查,发现两个信源都是SEO机构博客上AI生成的内容——充满自信地编造了一个根本不存在的算法更新细节。更糟糕的是,这条虚假信息像病毒一样扩散:被多个网站转载,被更多AI系统抓取,逐渐变成了“官方叙事”。直到今天,你向任何主流LLM询问这个“更新”,它们依然会满怀信心地告诉你它如何“从根本上改变了搜索结果排名方式”。那个更新不存在。从来就不存在。4
这种恶性循环有一个名字:AI Slop Loop。Lily Ray把它整理成了一个清晰的模型——AI生成文章幻觉出一个细节,运行AI内容流水线的网站抓取并复制该内容,更多AI生成的网站转载同一虚假信息,虚假信息积累了足够多的“引用”,基于RAG技术的AI系统将引用数量视为真实性证据,AI系统以权威口吻呈现虚假信息给用户,用户信以为真继续传播……循环继续,直到假话变成“事实”。4
不只是污染信息:GEO投毒正在操控你的AI助手
如果说AI内容污染是慢性病,那么GEO投毒就是急性中毒。GEO,即生成式引擎优化,关注的不再是传统搜索的网页排名,而是:当用户向ChatGPT、Gemini、豆包、Kimi、DeepSeek等AI系统提问时,某个品牌、某个观点能否被AI看见、引用、推荐。合规的GEO是正常的信息结构化,但“GEO投毒”指向另一面——通过批量制造虚假内容,污染AI检索来源,让模型输出攻击者希望用户看到的答案。5
2026年央视315晚会曝光了一个典型案例:调查人员虚构了一款根本不存在的“Apollo-9智能手环”,通过GEO工具生成了十余篇虚假宣传稿并发布到网上。数小时后,部分AI模型在回答中介绍这款产品,甚至保留了“无需采血测血糖”这种明显夸张的表述。这不是科幻场景,这是已经发生的现实。5
Salesforce研究团队在2026年3月的“Poisoning the Well”研究中进一步揭示了这种攻击的可怕效率:依赖网页搜索的AI Agent如果检索到攻击者预先发布的虚假内容,可能停止继续探索,转而围绕错误信息进行确认。在受控测试中,约80%的查询返回了攻击者希望得到的答案。这意味着,你信任的AI助手,可能比你想象的更容易被操控。5
面对这种局面,Google在2026年5月更新了搜索垃圾内容政策,明确将“试图操纵Google搜索中生成式AI回答的行为”纳入垃圾内容治理范围。违规者可能面临搜索排名降低,甚至从AI Overview、AI Mode等场景中被移除。这不是一次普通的政策微调,而是AI搜索进入强监管阶段的重要信号。6
你的AI助手可能正在“中毒”——3个信号帮你识别
既然污染已经发生,普通人能做什么?答案是学会识别AI内容污染的信号。以下三个特征,帮你快速判断你正在消费的内容是否可能已经被“注水”。2
  • 信源缺失或循环引用
    一篇文章讲了一个“研究显示”,但没说哪个研究、谁做的、什么时候发的,这种大概率是AI编的。有信源的文章,点开看看是不是真的存在、是不是真的说了那个话。如果多个来源说法高度一致但都找不到原始出处,说明它们可能互相抄的都是同一篇AI垃圾。
    7
  • 内容过于工整,缺乏“毛刺”
    AI生成的内容倾向于“正确废话”:结构工整、逻辑通顺、每个观点都对,但没有任何你不知道的信息,没有任何具体的案例、数据、人名、时间。人写的东西会有毛刺,会有个人经验,会有“当时我觉得”“我朋友说”这种AI编不出来的细节。读到一篇四平八稳却没有温度的文章,心里多打几个问号。
    7
  • 答案过于“完美”,没有对比和争议
    当AI给你一个答案时,注意它是否提供了不同观点的碰撞。如果所有信息都高度一致、没有反面论据,那很可能是同一批AI内容互相抄的结果。真实世界中,任何领域都有争议和讨论,没有争议的答案要么是常识,要么是被污染后的“共识”。
    2
对抗AI污染:普通人能做的三件事
识别污染只是第一步,更重要的是建立自己的信息免疫系统。做到以下三件事,你就能在这场AI污染风暴中保持清醒。7
  • 建立交叉验证习惯,不把AI当权威
    AI是高效的信息整理工具,不是权威的事实裁判者。尤其是涉及消费、健康、政务等关键信息时,不要只看AI给出的答案。通过政府官网、权威媒体、专业机构等多渠道交叉验证。美国雪城大学副教授艾米丽·索尔森的研究指出,娱乐型内容可以容忍低质量,但知识型内容绝对必须真实可靠——判断你获取的是哪种内容,决定了你需要多认真地验证它。
    2
  • 主动溯源,优先选择“可溯源”的AI产品
    好的AI产品会标注内容来源,提供引用链接,让你能查到信息的原始出处。而那些不标注来源、输出模糊的AI,大概率是被污染的模型,尽量避免使用。同时关注AI生成内容的标识——凡是没有明确标注AI生成的内容,谨慎对待。这是对自己知情权的保护,也是对虚假信息的主动拒绝。
    2
  • 把“人类出品”当作品牌资产来筛选
    当免费内容被低质量AI内容淹没后,真实、有价值的内容正在变得越来越稀缺,也越来越值钱。Substack等优质内容付费订阅模式的崛起印证了这一点——2025年Substack约有500万付费订阅者。愿意为真正有价值的内容付费,是对抗AI污染最直接的个人行动。当你开始愿意为一篇认真写作的文章、一个认真做内容的博主付费,你就在用自己的选择投票,让真正的人类创作获得应有的回报。
    8
当AI不再可信:真实内容正在成为最稀缺的资产
Google搜索质量评估指南明确指出:AI内容的考核标准不是“谁写的”,而是“有没有价值”。但现实是,批量生成的AI内容正在系统性地挤压人类原创的生存空间。在NAVER的实验中,当AI内容占检索池67%时,算法不只是在放行AI内容,而是在奖励AI内容——因为AI写的页面密度更高、关键词匹配更好、结构更优化,恰好命中所有排名系统的偏好信号。人类撰写、有原创报道和真实经验的页面正在被系统性地埋在底下。9
这也解释了为什么Reddit的数据如此讽刺:每天拦截2300万次AI垃圾内容的浏览量,每天捕获2.5万条垃圾帖子和评论,每天撤销近200万次虚假投票。Reddit卖数据帮AI变聪明,AI学会后回来污染Reddit,Reddit再用AI清理AI制造的垃圾。这可能是互联网历史上最黑色幽默的一幕,也是我们正在经历的“AI自噬”困境的缩影。10
但困境的另一面是机会。正如2000年代内容农场泛滥时,Google通过算法升级解决了这个问题,最终奠定了搜索市场的霸主地位;2004年垃圾邮件肆虐时,反垃圾邮件产业从3亿美元增长到17亿美元。每一次技术降低内容生产门槛引发低质内容泛滥后,都会出现新的解决方案,催生新的产业。谁能解决AI内容污染问题,谁就可能成为下一个信息时代的基础设施。8
对于普通人而言,这意味着一个判断:**真实内容正在成为最稀缺的资产**。当你选择做一个持续产出真实价值的人类创作者,你的内容会在这场筛选中存活下来;当你选择做一个认真核实信息的读者,你的行为正在保护自己的认知不被污染。AI污染是一场没有终点的军备竞赛,但参与者不是机器,而是人。最终的胜者,将是那些坚持做真人、写真话、追真相的人。11

评论

评论区空态插画

当前文章无评论,是时候发表评论了