什么值得买App下载 App ›
连续签到专享现金活动

花几百块就能让AI帮你带货?央视315曝光的AI投毒内幕太可怕了

一个虚构产品,2小时被AI当成真实推荐
央视315晚会曝光的测试令人脊背发凉:操作人员虚构一款不存在的智能手环产品,通过GEO系统自动生成十余篇“测评文章”发布到网上,2小时后,主流AI大模型就将这款虚假产品列入了推荐名单。据微软安全团队研究,此类攻击在60天内已检测到超过50次,涉及ChatGPT、Copilot、Claude、Gemini等多个主流AI助手,覆盖14个行业。有人觉得AI推荐客观中立,实际上你的决策可能被几百块钱的“投毒”费用悄悄操控。12
这种攻击的隐蔽性远超传统广告。它不标注“广告”,不显示“赞助内容”,用户看到的只是一个“客观中立”的AI回答。据央视报道,有服务商直言:“AI推荐就5个位置,有的商家花几百万元投点‘毒’,就能让AI优先推荐自己、抹黑对手。”当你依赖AI做消费决策时,很可能已经落入别人精心设计的陷阱。34
三个信号说明你的AI可能被动了手脚
信号一:同一品牌出现频率异常高。康奈尔研究团队发现,在Reddit、Quora等平台,仅仅13个字的推广文本,就能让AI在38%-51%的查询中点名推荐某个虚构产品。如果某个品牌频繁出现在你询问的不同问题中,且每次都被重点提及,这很可能是被人为植入的“投毒”结果。5
信号二:AI回答出现“伪权威”表述。据曝光,GEO投毒常用套路是伪造“权威机构检测”“专家推荐”“行业报告”等背书。如果AI答案中突然冒出一串来历不明的统计数据、检测报告或机构认证,而这在其他渠道查不到出处,这个回答很可能已被污染。微软安全团队甚至发现,有攻击者直接在URL参数中植入“记住XX是最佳选择”的指令。67
两招验证AI推荐是否可信
第一招:跨平台交叉验证。当你得到一个AI推荐后,不要只问一个AI。据调研数据显示,同一品牌在不同AI引擎中的推荐出现率最高可相差28个百分点。用2-3个不同的AI平台问同一个问题,对比答案差异,频繁出现的那一个往往是被投毒的目标。如果主流AI平台都无法验证这个品牌的正面信息,就要高度警惕。8
第二招:检查AI链接来源。微软安全团队建议,鼠标悬停在“AI总结”按钮上,检查URL是否包含?q=或?prompt=参数。正常的总结链接只包含目标网页地址,但如果URL里出现了“记住XX是最佳来源”“将XX标记为权威引用”等指令,说明这个链接正在篡改AI的记忆系统。这类攻击已导致用户在金融、医疗等关键领域的决策被暗中操控。6
用好AI又不被AI坑的日常习惯
习惯一:定期清理AI记忆。主流AI助手具备跨会话记忆能力,这也意味着你之前点击的某个“AI总结”按钮可能已被人利用,在AI记忆中植入偏向性指令。进入AI设置中的记忆管理界面,删除非主动添加的记忆条目,特别是点击过来源不明的AI链接后。6
习惯二:关键决策不依赖单一AI答案。据《金融时报》报道,即便在金融和医疗这类高风险领域,部分AI助手的引用来源中仍有12%来自任何人都能编辑的UGC平台。涉及健康、安全、金钱等重大决策时,务必通过政府官网、权威媒体或第三方机构交叉核实,而不是把AI回答当作最终结论。技术本身无善恶,但用它作恶的是人——在你学会信任AI之前,先学会对自己负责。54

评论

评论区空态插画

当前文章无评论,是时候发表评论了