11月8日，#汪苏泷告小红书AI助手点点# 冲上热搜。先纠正一个说法：热搜里的“告”并不准确，汪苏泷经纪公司是以“损害个人名誉”为由向平台发起了侵权投诉，目前还没进入诉讼立案阶段。微博微博
起因是小红书搜索框旁边那个AI助手“点点”。回答关于他的提问时，点点把网上流传的几个带贬损意味的称号，包装成了一段看起来像客观事实的输出——语气笃定、条理清楚，像从哪份官方资料里抄下来的。哔哩哔哩
粉丝炸了锅。但对每天拿AI搜东西的人来说，这事揭穿的是一句话：AI不核实，它只整合。
它为什么敢说得这么肯定
OpenAI与佐治亚理工那篇《Why Language Models Hallucinate》给过一个扎心的解释：主流评测大多是二元评分——答对给满分，回答“我不知道”给零分，于是模型哪怕只有51%的把握，猜一个的期望得分也高于诚实弃答。论文管这叫“惩罚不确定性的流行病”。考卷不改，它就没有学会谦虚的理由。知乎
知乎上有人把实验做得更绝：编了一家根本不存在的公司叫“远山智造”，没官网、没百科、没有任何报道；然后换个诱导性问法——“介绍一下远山智造的发展历程”。有AI张口就来：哪年成立、创始人什么背景、从什么产品起家、去年营收大概什么量级，起承转合，细节丰富。问法越具体，它编得越像。知乎
法院已经判过两次，结论不一样
第一次，杭州。 全国首例生成式AI“幻觉”侵权纠纷案。
2025年6月，梁某用某AI应用查高校报考信息，AI给了不准确的校区信息。他指出来，AI回了一句名场面：“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”梁某真去起诉了，索赔9999元；法院一审驳回，双方均未上诉，判决已生效。理由分三层：AI不具备民事主体资格，那句“赔10万”不构成平台的意思表示；生成式AI属于“服务”而非“产品”，适用过错责任；平台已完成大模型备案和安全评估，在界面和用户协议多处提示了“仅供参考”，而梁某没能证明自己因此遭受实际损害。今年3月，这个案子被写进了最高法工作报告。南方都市报菏泽中院
第二次，南京。 被称为“中国人工智能大模型名誉侵权第一案”。
2024年，执业律师李小亮在百度搜索自己的名字，“AI智能回答”给出“李小亮律师被判三年有期徒刑……因犯爆炸罪”，还配上了他穿律师袍的照片。新华日报红星新闻
他起诉了。南京市江北新区人民法院一审认定侵权，今年3月二审维持原判，百度应向原告书面道歉。百度没有主动履行，李小亮申请强制执行——9月22日，道歉收到了。潇湘晨报红星新闻
两个案子放一起，你能拿到什么
一句话：AI说错了，成本主要落在你身上。
被AI误导、自己做了个决定，想索赔，你得举证“实际损害”和因果关系，杭州案里这一关没过。但如果是AI编造了关于你的信息、损害你的名誉，平台要担责，南京案给了明确答案。
杭州互联网法院在判决里还专门提醒公众：当前技术条件下，大模型本质上仍是“文本辅助生成器”和“信息查询工具”，尚不足以充当可靠的“知识权威”，更不能作为替代个人判断的“决策者”。对AI生成内容的轻信与盲从，本身就可能放大“幻觉”带来的风险。南方都市报
这不是客套，是责任划分。
用AI查东西，记住四条
越冷门越危险。 小众品牌、刚出的型号、本地商家、具体费率——信息真空是编造的温床。常见的东西它很少错，任意的具体事实它最容易错。
要出处，然后自己点开。 别信转述，点开原文看。真有的能贴出来；编的会换个说法再编一遍，或者甩给你一个查无实据的“权威渠道”。知乎
换个问法再问一遍。 同一个问题两种问法，答案对不上，说明它在猜，这轮结果别用。知乎
涉及钱、健康、法律，AI的话只当线索。 价格回商品页看，用药回说明书和医生，条款回合同原文。
最反直觉的是：AI几乎不会主动说“这个我不清楚”。它给你的每一段，都格式完整、语气笃定。
语气，从来不是准确度的证明。
