什么值得买App下载 App ›
连续签到专享现金活动

3·15晚会AI灰产GEO事件整理

315晚会曝光了一条利用AI技术操纵信息推荐的灰色产业链。仅需几千元,不存在的产品即可出现在DeepSeek、豆包等大模型的推荐答案中。这一现象背后的核心技术被称为GEO(生成式引擎优化),被视为传统SEO在AI时代的进化形态。该产业规模已达29亿元,处于监管盲区,对AI信息的可信度构成了严峻挑战。
01GEO技术与操作逻辑
GEO(Generative Engine Optimization)即生成式引擎优化,旨在通过特定技术手段提升内容在生成式AI模型回答中的排名。与传统的搜索引擎优化(SEO)不同,GEO针对的是大语言模型的生成逻辑。不法商家利用该技术,将虚假或夸大的产品信息“投喂”给模型,使其在生成答案时倾向于推荐这些并未经过验证的产品。
  • 内容定制:制造符合大模型抓取习惯的伪原创内容或虚假评论。
  • 平台投放:利用问答平台、博客等渠道大量铺设诱导性内容。
  • 权重欺骗:模拟真实用户交互数据,提升虚假信息的信任权重。
02两种污染路径的本质区别
大模型出现幻觉或推荐错误信息,主要源于两种不同的数据污染机制。理解两者的区别对于制定治理方案至关重要。

数据污染路径对比

基础底色被篡改
  • 发生在模型预训练阶段,污染源直接融入模型参数。

  • 具有隐蔽性,错误知识内化为模型的“本能”。

  • 治理成本高,通常需要重新训练或微调模型。

外部检索被劫持
  • 发生在模型推理阶段,利用RAG机制引入外部恶意信息。

  • 具有时效性,随外部数据源的变化而变化。

  • 治理相对灵活,可通过优化检索源和清洗算法缓解。

03产业风险与市场现状
目前GEO已形成完整的产业链,市场规模预估达29亿元。由于该领域横跨AI技术、互联网营销和广告监管,目前尚处于“三不管”地带。这种技术利用了消费者对AI答案的天然信任,极大地增加了辨别真伪的难度。
  1. 决策误导:用户基于AI推荐购买劣质或不存在的产品,损害消费者权益。
  2. 信任危机:频繁的推荐错误将导致公众对生成式AI的信任度崩塌。
  3. 监管滞后:现有法律法规尚未完全覆盖针对生成式AI的操纵行为。
随着大模型应用的普及,GEO技术带来的风险将不仅限于商业欺诈,更可能延伸至舆论引导等敏感领域。区分治理训练数据污染与RAG检索污染,建立针对生成式内容的外部审查机制,是解决这一问题的关键。

评论

评论区空态插画

当前文章无评论,是时候发表评论了