11月上旬,#汪苏泷投诉小红书AI助手#的话题冲上热搜。事情是:汪苏泷方以"损害个人名誉"为由向平台发起侵权投诉,指其AI助手"点点"把"乐坛杜鹃"这类侮辱性黑称当成事实输出。有律师也提醒:目前"应该是经纪公司拿授权向平台发起侵权投诉,还没有到起诉立案那一步"。但风波够让人琢磨一下了:你问AI要的"结论",有几分是真的?微博微博微博
QuestMobile 2026年三季度报告给了个背景音:AI生活助手的用户规模合计已达3.47亿,同比增长55%。几亿人每天都在问AI"吃什么、买什么、怎么玩",答案却很少有人复核。知乎

为什么AI敢瞎编:它吃的是别人的帖子
“点点被低估"那篇热帖下,有条3819赞的评论把道理讲透了——点点的"聪明”,本来就来自这些UGC沉淀:“是我们在这个平台沉淀了大量人类的知识和经验,小红书可以免费拿这些去做ai训练”。也有用户调侃:喂进去什么数据,就长出什么AI。小红书
翻译一下:AI的回答,是你那个问题挖出来的一堆帖子的加权平均。问得好,它是经验合集;问得偏,它就是谣言二传。还有用户实测它连基础算术都翻车,晒出"我扫题目时100÷4=25她给我的是100"。至于"好物推荐只引优点、分不清刷好评帖、往深了问已读乱回",更是评论区高赞常客。小红书

三条规矩:逼AI把没把握的地方"招"出来
被收藏1.1万次的这组指令,热帖评论区里有网友抄录流传的核心句:“如果你对回答的答案没有把握,请直接说出不确定或者释原因,严禁瞎猜”。归纳起来就三行:小红书
没把握就直说"不确定"并讲原因,严禁瞎编;
回答完给信心打分(满分10),低于7分的部分必须单独标出;
凡是数字、统计、原文引语,必须附可验证的来源。
它的聪明之处在于不试图让AI变强,而是把AI的不确定性摆到台面上——把"你得自己防骗"变成"它先自报家底"。

更野的民间办法:让另一个AI去查它
点点相关热帖下最出圈的一条评论(777赞)只有一个句式,直接@grok问一句"Is that true?"。就是把AI的结论丢给另一家AI先交叉验一遍。招是真招,但别忘了:两家吃的都是网络帖子,也可能一起错。小红书
最后,把"信任分级表"贴在桌上
✅ 放心托付:攻略聚合、行程统筹、蹲消息后续——点点的"蹲后续"提醒,就有上千赞的真实好评:“点点说的东西参考价值不高,但是让他帮我蹲吃瓜后续是真会叫我”。小红书
⚠️ 必须人工复核:金额数字、用药安全、下单扣款、对人的评价——这次的投诉风波,恰好踩的就是最后一条。

把AI当成一个读过一万篇帖子的实习生:它确实读得比你快,但落笔签字这件事,责任在你。