3·15晚会AI灰产GEO事件整理
315晚会曝光了一条利用AI技术操纵信息推荐的灰色产业链。仅需几千元,不存在的产品即可出现在DeepSeek、豆包等大模型的推荐答案中。这一现象背后的核心技术被称为GEO(生成式引擎优化),被视为传统SEO在AI时代的进化形态。该产业规模已达29亿元,处于监管盲区,对AI信息的可信度构成了严峻挑战。
01GEO技术与操作逻辑
GEO(Generative Engine Optimization)即生成式引擎优化,旨在通过特定技术手段提升内容在生成式AI模型回答中的排名。与传统的搜索引擎优化(SEO)不同,GEO针对的是大语言模型的生成逻辑。不法商家利用该技术,将虚假或夸大的产品信息“投喂”给模型,使其在生成答案时倾向于推荐这些并未经过验证的产品。
- 内容定制:制造符合大模型抓取习惯的伪原创内容或虚假评论。
- 平台投放:利用问答平台、博客等渠道大量铺设诱导性内容。
- 权重欺骗:模拟真实用户交互数据,提升虚假信息的信任权重。
02两种污染路径的本质区别
大模型出现幻觉或推荐错误信息,主要源于两种不同的数据污染机制。理解两者的区别对于制定治理方案至关重要。
数据污染路径对比
基础底色被篡改
发生在模型预训练阶段,污染源直接融入模型参数。
具有隐蔽性,错误知识内化为模型的“本能”。
治理成本高,通常需要重新训练或微调模型。


外部检索被劫持
发生在模型推理阶段,利用RAG机制引入外部恶意信息。
具有时效性,随外部数据源的变化而变化。
治理相对灵活,可通过优化检索源和清洗算法缓解。
03产业风险与市场现状
目前GEO已形成完整的产业链,市场规模预估达29亿元。由于该领域横跨AI技术、互联网营销和广告监管,目前尚处于“三不管”地带。这种技术利用了消费者对AI答案的天然信任,极大地增加了辨别真伪的难度。
- 决策误导:用户基于AI推荐购买劣质或不存在的产品,损害消费者权益。
- 信任危机:频繁的推荐错误将导致公众对生成式AI的信任度崩塌。
- 监管滞后:现有法律法规尚未完全覆盖针对生成式AI的操纵行为。
随着大模型应用的普及,GEO技术带来的风险将不仅限于商业欺诈,更可能延伸至舆论引导等敏感领域。区分治理训练数据污染与RAG检索污染,建立针对生成式内容的外部审查机制,是解决这一问题的关键。
当前文章无评论,是时候发表评论了