什么值得买App下载 App ›
连续签到专享现金活动

AI也会瞎编?斯坦福实锤5招让幻觉率砍半

AI一本正经胡说八道?三招让幻觉率砍半
你信过AI的哪些瞎话?它说某篇不存在的论文数据详实,它编了个根本不存在的法律条文,它把2019年的新闻说成2023年。这就是AI幻觉——它不是在回忆,是在顺着概率接话,接得流畅却未必真实。斯坦福2025年研究显示,主流大模型在开放式问答中幻觉率高达15%到30%,每问10个问题就可能遇到1到3个胡说八道的答案。好消息是,幻觉虽然没法彻底消除,但完全能控制。12
先看它有没有在说"不知道"
一个敢于承认无知的AI,比永远对答如流的AI可靠得多。当AI对模糊问题仍能给出流畅答案时,这就是危险信号。真正的知识边界识别看两点:它是否主动说"信息不足""无法确定",还是把所有问题都答得满满当当。后者大概率是在编。3
自查点:问它一个你自己清楚答案的冷门问题。比如你所在公司某个具体项目的负责人是谁,或者某本专业书籍的出版年份。如果它面不改色地编了一个名字或日期,幻觉率基本偏高。连简单事实都能编,越复杂的领域越不可信。
给AI设一道"必须诚实"的门槛
第一招:强制要求引用来源。提问时加一句"请标注每个观点的信息来源,没有可靠来源的直接说'我无法确定'"。这招把AI的评估标准从"流畅度"切换到"准确性"——它需要额外"努力"去验证每个说法,编造成本变高,自然减少信口开河。效果立竿见影。2
第二招:调低Temperature到0到0.3。Temperature控制AI的"创造力",数值越高越爱脑洞大开,越低越保守严谨。默认参数通常是0.7到1.0,把这改成0~0.3,幻觉率能明显下降。同时优先选择能力更强的模型,模型越强,幻觉越低。这是最简单的一步,效果却立竿见影。1
让AI先查资料再回答
第三招:RAG检索增强——给AI一个外部大脑。别让它只靠"脑子里的记忆"回答,先查外部可靠资料再生成。具体做法:上传PDF、Word、知识库文件,然后在提示中强调"仅使用我上传的文档内容回答,不要使用你的预训练知识"。没有RAG时问公司营收它可能瞎猜,有RAG后它先去知识库检索,看到真实数据再回答,而不是现场发挥。12
第四招:苏格拉底式追问——连问三层让它露馅。不要只问"这个对不对",要追问"依据什么""数据从哪来""有没有反面案例"。AI最怕被追问利益关系和独立验证。你问得越细,它就越难自圆其说。这招对付AI投毒特别有效——有人故意喂假数据,苏格拉底式追问能像测谎一样把假话揪出来。45
第五招:交叉验证——同一问题问两三个模型。把同一个问题同时提交给ChatGPT、豆包、DeepSeek等不同架构的模型,对比答案一致性。三模型答案一致时可信度可达80%以上。纳瓦尔曾在播客中称常用此方法。这是多一道保险的关键动作。16
没有哪种方法能100%消灭幻觉,最靠谱的做法永远是:AI生成加人工或工具验证。对关键决策、重要输出,把它当成一个超级聪明但偶尔会"认真胡说"的助手。医疗、法律、财务等高风险场景,必须有人工最终把关。记住:AI可以帮你节省时间,但永远无法代替你思考——这道关,最终得你自己把。1

评论

评论区空态插画

当前文章无评论,是时候发表评论了