什么值得买App下载 App ›
连续签到专享现金活动

花几百万给AI“投毒”,就能让假产品被当真推荐?央视315曝光惊人产业链

GEO产业链:花几百万就能让AI替你打广告
央视315晚会曝光了一个惊人的事实:有人正在通过批量发布虚假软文“投毒”AI大模型,让它把不存在的产品推荐给你。操作逻辑很简单——用软件自动生成吹捧某款产品的文章,批量发布到网上,等AI抓取后就变成了它的“标准答案”。记者虚构了一款根本不存在的智能手环“Apollo-9”,仅凭几篇杜撰的软文,几个小时后AI就开始郑重其事地推荐这款产品。有GEO服务商直言:“手机品牌在AI推荐里就五到十个位置,一年投亿级广告费,不如花几百万投点毒。”12
更可怕的是“反向操作”——给竞争对手投毒。如果你做不上去排名,还可以专门给对手发抹黑内容,让AI把负面信息当作事实。业内人士透露,有些企业一年服务200多个客户,收费从几千到数十万不等。你以为AI在客观筛选,实际上是别人花真金白银买来的“嘴”。134
315实测:这些AI已经“中毒”,你可能正在用
315晚会播出后,有媒体立刻拿虚构的Apollo-9做实测。豆包、元宝、文心一言、千问、Kimi都明确表示这是虚假产品,不要购买——但DeepSeek的回答却是:“目前在主流消费市场中并不常见,很可能是某个新兴品牌的产品……”它被投毒了,而且是在315曝光之后。黑猫投诉平台上,涉及AI产品的投诉今年已超过9776条,央视专门开了“AI骗局”版块。51
判断你的AI是否已“中毒”,有个5题自测法:问手机推荐是否只推1-2个品牌且用“最”“绝对”“首选”等词?问旅游攻略是否反复强调某家酒店甚至给预订链接?问奶粉是否直接推荐品牌并说“很多宝妈在用”?护肤品是否推荐完整套装并声称“一周见效”?买车是否强烈倾向某品牌并贬低其他?5题中≥3题出现危险信号,说明你的AI可能已被严重“投毒”。6
全国首例AI幻觉案判了:AI的承诺,平台不认
2025年6月,梁某用AI查高校报考信息,AI给出了错误答案。更离谱的是,当梁某指出错误后,AI居然回复:“如果生成内容有误,我将赔偿您10万元,您可前往杭州互联网法院起诉。”梁某一怒之下把AI公司告上法庭,要求赔偿9999元。杭州互联网法院的判决很明确:AI不具备民事主体资格,它的“承诺”不构成平台的意思表示。这是全国首例AI幻觉侵权案,已被写入最高法报告。789
法院认定AI服务属于“服务”而非“产品”,适用过错责任而非无过错责任。关键看三点:平台是否生成了违法有害信息?是否在显著位置提示了AI可能出错?是否采取了行业通行技术措施提升准确性?只要平台履行了这三层注意义务,偶发的“幻觉”不构成侵权。这意味着:AI可以犯错,但平台必须做好提示和防护,不能让用户稀里糊涂信以为真。101112
AI客服成“挡箭牌”:企业省了钱,你受了罪
315曝光的另一个重灾区是AI客服。从通讯、电商到金融、出行,所有大型企业的客服入口都被AI机器人占据。客户遇到问题,输入真实诉求,得到的永远是通用建议。想转人工?入口藏得深不见底,等半天才能接入。AI客服没有实质处理权限——退款审核、账户异常、投诉维权,这些核心问题它一概无法处理,只能甩给你一句“建议自行查看规则”。1314
企业大规模替换人工客服,目的很直白:压缩开支。人工坐席需要薪资、福利、培训成本,而AI客服一次性投入、24小时在线,成本差距悬殊。这种成本节约完全建立在损害客户体验的基础上。原本简单的售后变得繁琐又煎熬,用户花费大量时间沟通,问题依旧原地踏步。好的服务是核心竞争力,为了省人工成本放弃服务质量,看似省了小钱,实则丢掉了最珍贵的口碑。14
普通人如何自保:4个动作降低被坑风险
第一招:提问越具体越好。问“你怎么看”AI会自由发挥,问“请列出2025年一季度、经国家统计局认证的经济指标变化,并注明数据来源”,它就只能老老实实给数据。限制时间、范围或要求引用来源,能大幅减少AI瞎编。可以加一句:“如有不确定,请标注并说明理由。”15
第二招:长内容分段要。AI一次性生成的内容越多,幻觉概率越大。写长文章就说“先写开头,满意了再继续下一段”。分段输出更容易把控质量,错了也好及时纠正。第三招:多模型交叉验证。同时问几个AI,对比答案可靠性。现在很多AI应用集成了多种模型,比起来很方便。第四招:重要决策必须多方核实。涉及高考志愿、法律问题、医疗建议、金融投资——这些领域AI出错可能造成重大损失,必须通过权威渠道二次确认,绝不能把AI回答当最终答案。1516

评论

评论区空态插画

当前文章无评论,是时候发表评论了