别再让AI替你花钱了！我差点多付800块买了个“经营异常”

上周三晚上，我躺在沙发上，对着手机里的智能助手下达了指令：“帮我找一台3000元左右、一级能效、带新风功能的壁挂式空调。”

3秒钟后，一个详细的对比表格弹了出来：三款机型，参数齐全，好评率都在98%以上。我美滋滋地选了第一款，点击跳转、下单、付款，全程不超过5分钟。

图片为AI生成

直到第二天，我偶然在国家企业信用信息公示系统上查了一下那家厂商——显示“经营异常”，2024年因产品质量问题被处罚过两次。

01 当“幻觉”开始叠加

2025年2月，某知名AI客服在回答用户关于理财产品的问题时，生成了一款根本不存在的“保本高收益”产品信息，导致多名用户咨询后被第三方诱导投资，造成实际损失。这不是孤例。腾讯研究院2024年发布的《大模型应用安全报告》显示，超过60%的生成式AI在专业领域问答中曾出现过事实性错误，其中约30%的错误会因对话上下文而被系统自我强化，形成“幻觉叠加”。

什么是“幻觉累加”？打个比方：你问AI“买什么空调好”，它说A品牌不错；你再问“A品牌口碑怎么样”，它基于刚才的“A品牌不错”这个“已知信息”继续推理；当你问“那A品牌和B品牌哪个更适合我”时，它已经在一条未经证实的逻辑链上跑了三轮。

这就像传话游戏——第一句“今晚吃火锅”，传到第十个人那里可能变成“今晚去蹦迪”。只不过在AI这里，传话速度是毫秒级的，错误的放大也是。

图片为AI生成

中国信息通信研究院2024年发布的《人工智能治理白皮书》指出，目前主流大模型的幻觉率普遍在3%-10%之间，在涉及时效性信息、小众品牌、地方政策等场景时，错误率更高。而更值得警惕的是，用户往往对AI生成的内容抱有过高信任——一项针对2000名用户的调查显示，68%的人表示“基本相信”或“完全相信”AI助手提供的消费建议。

02 看不见的“信息滤镜”

你可能不知道，当你向AI助手提问时，它给出的答案从来不是“客观中立的全部事实”。

首先是训练数据的偏差。AI的知识来源于它“读过”的互联网信息——而互联网上，付费推广、软文、营销内容占比有多高，不用我说你也懂。某个品牌如果线上声量大、相关内容多，AI就会倾向于认为它“更受关注”，从而在推荐中给予更高权重。

其次是生成机制的局限。AI没有真实的购物体验，它不会告诉你“这台空调安装师傅来了三次才装好”，也不会提醒你“这款的遥控器按键特别反人类”。它能复述的，只是别人在互联网上写过的评价——而这些评价，有多少是真实的用户分享，有多少是商家自己写的，AI判断不了。

更隐蔽的是交互中的“诱导”。北京日报今年3月的一篇报道中提到，有商家通过在问答社区、论坛等渠道大量发布“种草”内容，影响AI对这些信息的抓取和权重判断。当用户向AI咨询相关产品时，这些被“喂”进去的内容就会成为推荐依据。

这不是阴谋论，这是信息生态的自然演化——哪里有流量，哪里就有试图影响流量的手。

图片为AI生成

03 做个“较真”的消费者

聊城市市场监督管理局今年3月发布的AI算法消费提示里，有几条建议值得认真对待：

“多平台交叉验证，不依赖单一信源。” AI推荐的品牌，可以去国家企业信用信息公示系统查一下企业资质；AI引用的“用户好评”，可以去社交媒体搜搜真实用户的吐槽。这套流程听起来麻烦，实际操作熟练后，也就多花三五分钟。

“反向提问测试客观性。” 比如让AI“推荐三款XX价位的产品”之后，可以再问一句“这个价位还有哪些其他选择”或“这几款的缺点分别是什么”。如果AI对缺点的回答含糊其辞，或者翻来覆去推荐同一两个品牌，你就知道它可能已经被某些信息“带偏”了。

“对时效性信息保持警惕。” 促销活动、价格变动、库存状态——这些实时信息是AI最容易出错的地方。遇到“限时秒杀”“最后几件”这类标签，不妨自己打开APP看一眼，别让算法的紧迫感替你按下付款键。

中国消费者协会2024年发布的《数字消费领域问题调查报告》中，有一段话说得很到位：“技术应当服务于人的判断，而不能替代人的判断。在算法推荐日益普及的今天，保持清醒的消费意识，本身就是一种重要的自我保护。”

04 人机协同的正确姿势

我不是在劝你“别用AI”。恰恰相反，我认为AI是这几年最值得用的工具之一——前提是，你得知道怎么用。

把它当助手，别把它当专家。 专家的话你要过脑子，助理的话你更要过脑子。AI能帮你快速搜集信息、整理对比，但最终“做决定”这个动作，必须由你完成。

学会“追问”，而不是“照单全收”。 看到AI推荐的结论，多问一句“这个结论是怎么来的”“数据来源是什么”。现在的AI助手正在变得越来越透明，一些平台已经开始标注信息的来源链接——点进去看一眼，花不了几秒钟，但能避免很多“凭空捏造”的坑。

回归真实的用户社区。 什么值得买这类平台的价值，从来不是因为它“推荐了什么”，而是因为它聚集了大量愿意分享真实体验的人。AI可以告诉你“这款参数很好看”，但只有真正用过的人才会告诉你“这款用半年后风扇开始异响”。参数会过时，营销会过时，但真实的用户体验，永远有价值。

写在最后

那台差点多花800块的空调，最后我买了另一个品牌。

过程是这样的：让AI助手推荐三款→去国家企业信用信息公示系统查企业资质→去社交平台搜“品牌名+问题/投诉/吐槽”→回什么值得买看“值友”的深度评测→确认无误后下单。

多花了30分钟，省了800块，避开了“经营异常”。

这不是“不相信AI”，而是“更相信经过验证的信息”。AI时代，真正的“消费科普”，不是教你如何使用某个工具，而是教你如何在信息洪流中保持那份“再确认一下”的习惯。

3·15来临之际，市场监管总局发展研究中心发起这场科普大赛，背后其实是一个朴素的问题：技术越来越强大，我们该如何守住人的主动权？

我的答案是：保持较真，保持怀疑，保持那个“查一下”的动作。

毕竟，在这个信息真假难辨的时代，较真，是我们最后的护城河。

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～