你有没有发现：「AI幻觉」这个词，最近很少被人提了。微博上有人感慨"半年前大家还在讨论AI幻觉问题，现在已经好多了，很少听人说这个问题了"。体感不是错觉——2026年9月豆包2.1 Pro新版本把"幻觉显著减少、强化证据溯源"当成正经卖点来宣传，AI搜索产品也都在拿"压幻觉"打擂台。微博知乎
但10月20日中午，知乎问题"如何看待《Science》称大模型「幻觉」难根除？"下的回答冲上了热榜，这条问题的浏览量已经跑到28万+，而它给出的结论恰恰相反：大模型的幻觉，很难根除。
重度用户今晚真正要面对的其实就一个问题：AI给我的数字、引用、规则，到底还能不能信？答案不是信或不信，而是三笔账要分开算。
一、机制账：幻觉不是厂商没修好的bug，是三层层层锁死的结构性问题
第一层：训练和评估在系统性奖励"猜"，不奖励"承认不知道"。
OpenAI与佐治亚理工的论文《Why Language Models Hallucinate》（arXiv:2509.04664）把话说得很直：MMLU-Pro、GPQA、SWE-bench这些主流基准全是二元评分——答对满分，说"我不知道"零分，猜一个至少有个非零命中率。也就是说，模型哪怕只有51%的把握，“猜"的期望得分也高于诚实弃答。论文把这叫"惩罚不确定性的流行病”。评估考卷不改，模型就没有学会谦虚的理由。知乎微博
第二层：有些事实，数学上就难记。
同一篇论文用Good-Turing估计器指出"单例率"是幻觉的下界——训练语料里只出现过一次的信息（某个人的生日、某档机票的退改费率、某篇文献的DOI），没有模式可提取，模型只能靠"文字接龙"补全。这解释了一个很准的现象：AI几乎不会拼错常见单词（高频、有模式），但在生日、电话号、具体费率这类"任意事实"上错得最欢。微博
第三层：两项研究把结论锁得更死。
一篇AAAI 2026论文把大模型形式化为概率图灵机，用对角线构造、停机问题不可判定、参数容量上限（类比：用JPEG硬压一张RAW）三条数学边界论证幻觉在数学意义上不可根除；而2025年初另一篇概率视角论文（arXiv:2502.12187）给出工程侧的平衡结论——幻觉的存在性不可避免，但概率可以被足够多、足够好的数据压到统计上可忽略。
拼起来就是：数学上修不掉，工程上能压低，商业上没人愿意修到根。谢菲尔德大学学者魏星那句"如果把幻觉彻底修好，将会杀死这个产品"，是这条链的生意版注脚：如果ChatGPT动不动说"我不知道"，用户会流向那个看起来全知的对手。知乎
二、代价账：“幻觉少了"不等于"安全了”，被坑的换了形状
工程账上厂商确实在压低幻觉率，这是你体感的那半边真相。但把央视网、微博热搜、各地曝光过的案例横着摆一遍，藏着另半边规律：幻觉变低频之后，中招的恰恰是你不核验的场景。
退机票：豆包笃定回答手续费扣5%，实际航司按40%扣费，三张票一共亏600元，用户一怒之下在互联网法院起诉了字节（5月）。微博
买保险：用户问AI怎么买保险，AI一本正经生成了一个收款二维码，扫码付了1620元，查无保单（4月）；
买东西：央视曝光AI推荐产业链，哈尔滨张女士按AI推荐下单电动牙刷，到手发现根本不是性价比最高的；
农资和医疗：问AI种芝麻怎么打药，150亩芝麻苗一夜枯死；问AI孩子咳喘要不要紧，家长拒绝了进一步检查，两天后孩子确诊严重肺炎住院（央视网《AI观察局》）。央视网
学术和职场：虚构DOI、编造假文献已在海外高校造成真实事故；南京一位律师用AI核查"自己"的信息，AI说他"被判过3年刑"。
这些案例有个共同点：没有一条是"一眼假的胡话"，全都是细节具体、逻辑自洽、语气笃定。当时#AI为啥一本正经地胡说八道#热搜讨论给的专业领域误差率口径在15%-30%上下。微博
还有一条规则账已经落地：9月7日，最高法发布审理涉AI纠纷案件的意见，5部分24条，把"AI幻觉"侵权直接写进了裁判规则。对普通人来说，法律变没变先放一边，没变的是——AI答错时，账单落在点"发送"的人头上。微博
三、自信账：今年最大的变化不是模型变准了，是你变敢信了
有个比论文更值得普通用户知道的实验：巴黎高师、罗马第一大学、米兰比可卡大学的研究团队做了5轮实验、3132名参与者，7月公布结果——没有AI时，44%的人会坦率承认"我不知道"；AI在场时，说不知道的比例骤降到3%，答对率从27%跌到9%，可自信心从30%飙到76%。实验甚至故意选AI必错的题（全是电影里的视觉细节，《高速路上一只猫》里Monica开的车，正确答案是2008款蓝色丰田Aygo，GPT-5.5编出"她骑小踏板送披萨外卖"的完整剧情，Claude、Gemini各有各的编法），并且设置答错罚钱——人们照样照单全收。36氪
翻译成人话：模型幻觉率降了，但人对幻觉的敏感度降得更快。"很少听人提了"不是幻觉消失了，是它被一层自信吸收了。这也解释了#豆包对低认知人群有权威性#那场争论——AI给出的从来不只是信息，还有"说得很顺"这个包装，而顺，听起来就像权威。微博
四、今晚就能用的：三档信任分级 + 三件套核验
把知乎、B站、微博这半年实践者攒下的经验合并同类项，比纠结"AI能不能信"实用得多：
绿档，放心用：文字润色、摘要、翻译、代码脚手架、头脑风暴、以及你自己本来就懂的内容再整理。这里的幻觉顶多让你返工，不让你赔钱。
黄档，用了必须核：一切数字、费率、规则、日期、版本号、地址、引用文献——这类"单例事实"正是幻觉下界的重灾区。核验三件套：要出处、点原文、对日期，三样缺一样，就把这一条拿回自己查。哔哩哔哩
红档，别整包交出去：医疗决策、支付转账动作、诉讼合同引用、学术文献。最高法把"AI幻觉"写进裁判规则，不等于AI能替你出庭、替你签字。
两个习惯级修正也便宜：长对话开新会话，防止第一次跑偏污染后面全部回答。提问时逼它列证据，并加一句"不确定就直说"——在二元评分训练出来的模型身上，这句话是你唯一能改的"考卷"。知乎
五、继续盯什么
这事会不会真的一路归零，看三个信号：一是主流基准是否开始给"我不知道"计分（评估考卷一变，模型行为才会变）；二是厂商会不会把幻觉率像电池健康度一样做成公开指标；三是最高法"AI幻觉"侵权的第一批具体判例，怎么划分平台和用户的责任。三个信号亮几个，信任账就能公开算几个。
在那之前，留一句就够：活可以交给AI干，决策不能交给AI扛。豆包那600块的机票退款，已经替所有人交过学费了。
