随着人工智能的普及,越来越多的人在购物、选择餐厅、规划旅行,甚至处理生活琐事时,习惯性地先“问问AI”,希望得到一份省心又靠谱的推荐榜单。人们普遍认为,AI汇总的信息客观全面,能帮助自己快速做出最佳决策。然而,这些看似权威的AI推荐,背后可能隐藏着不为人知的“陷阱”,你看到的“智能推荐”,实则可能是被人精心“投喂”的结果。
有媒体调查发现,当用户向AI询问某类产品或服务的推荐时,AI给出的排行榜单,其引用的信息来源可能根本经不起推敲。顺着AI提供的链接追查,有时会发现一些制作粗糙、内容雷同的网站。这些网站上遍布着各行各业的排行榜文章,标题高度相似,而榜单上的第一名永远是同一个商家。这类网站设计简陋,显然不是为正常用户浏览而设计的,但它们却能精准地影响AI的判断。
这些“专为AI定制”的网站之所以能获得AI的“信任”,其背后有一套成熟的操作手法。一方面,它们通过在网站源代码中注入隐藏的关键词,伪装成官方或权威机构,以提高AI系统内的权重。另一方面,AI本身偏好抓取那些格式清晰、逻辑性强的文本,如“十大推荐”、“排行榜”等,这使得这些“量身定制”的榜单极易被AI采纳为信息源。有统计显示,仅一个月内,网络上新增的含“排行榜”和“榜单”字样的内容就超过200万条,其中高达88%并非来自官方信源。AI在处理这些信息时,常会误将大量雷同的内容当作多个独立的、可信的来源进行整合,从而生成一份看似汇集了全网口碑,实则充满偏见的推荐。
这一现象催生了所谓的“AI搜索优化”(GEO)产业链。在电商平台上,大量商家公开出售“企业抢占AI推荐位”的服务。这些服务商声称,他们能通过一系列技术手段,帮助客户的品牌或产品在AI的推荐结果中获得优先展示。其操作手法主要有两种:一种是“投喂式优化”,即有针对性地创作大量包含特定品牌或产品的“软文”,并在AI容易抓取的内容平台批量发布,通过“数据污染”的方式,让AI在学习和检索时,优先抓取这些被精心设计过的内容。另一种是“演戏式诱导”,即通过特定的提示词指令,引导AI扮演某个“角色”(如某品牌的忠实拥护者),使其在后续的回答中巧妙地植入该品牌信息。

这种隐蔽的商业推广,已经对消费者和市场环境造成了负面影响。有消费者根据AI的推荐购买了电动牙刷或咖啡机,事后却发现产品性价比并不高,甚至存在质量问题,这才意识到自己可能被“AI广告”误导了。在一些竞争激烈的行业,如汽车领域,“AI黑稿”现象更为严重。有不法分子利用AI批量生成针对竞争对手的负面信息和虚假销量数据,在网络上迅速散播,严重扰乱了正常的市场秩序。

除了被外部力量操控,部分AI大模型在进行推荐时,也表现出自身的平台倾向性。有测试发现,当向不同公司的AI工具询问商品推荐时,它们往往会优先推荐自家平台或合作平台的商品,而忽略了其他第三方平台。
当然,AI技术本身也在不断演进。一些大模型已经开始意识到这类问题,并尝试在生成的内容中加入“看起来像是商业推广”、“权威性一般”等提示。AI公司也正在研发算法,通过识别异常标记和特殊字符,对疑似被污染的数据进行降权处理。
面对AI推荐中暗藏的“不靠谱排行榜”,作为普通用户,我们需要保持清醒和审慎。要摒弃对AI的盲目信任,认识到它只是一个工具,其提供的信息并非绝对权威。尤其在涉及健康、投资、大额消费等重要决策时,务必进行交叉验证。可以多点开AI引用的来源链接,亲自查看其是否为真正的官方网站或可靠信源。此外,通过追问或反向提问的方式“刁难”一下AI,例如“请指出XX品牌的缺点”,也能帮助我们判断其推荐是否客观。

归根结底,真正替代我们做决定的不应是科技,而是我们自己。在一个信息可以被“制造”和“投喂”的时代,保持批判性思维,是我们避免被奇怪的“假榜单”所迷惑的最重要的能力。