AI也会瞎编?斯坦福实锤5招让幻觉率砍半
AI一本正经胡说八道?三招让幻觉率砍半
先看它有没有在说"不知道"
一个敢于承认无知的AI,比永远对答如流的AI可靠得多。当AI对模糊问题仍能给出流畅答案时,这就是危险信号。真正的知识边界识别看两点:它是否主动说"信息不足""无法确定",还是把所有问题都答得满满当当。后者大概率是在编。3
自查点:问它一个你自己清楚答案的冷门问题。比如你所在公司某个具体项目的负责人是谁,或者某本专业书籍的出版年份。如果它面不改色地编了一个名字或日期,幻觉率基本偏高。连简单事实都能编,越复杂的领域越不可信。
给AI设一道"必须诚实"的门槛
第一招:强制要求引用来源。提问时加一句"请标注每个观点的信息来源,没有可靠来源的直接说'我无法确定'"。这招把AI的评估标准从"流畅度"切换到"准确性"——它需要额外"努力"去验证每个说法,编造成本变高,自然减少信口开河。效果立竿见影。2
第二招:调低Temperature到0到0.3。Temperature控制AI的"创造力",数值越高越爱脑洞大开,越低越保守严谨。默认参数通常是0.7到1.0,把这改成0~0.3,幻觉率能明显下降。同时优先选择能力更强的模型,模型越强,幻觉越低。这是最简单的一步,效果却立竿见影。1
让AI先查资料再回答
没有哪种方法能100%消灭幻觉,最靠谱的做法永远是:AI生成加人工或工具验证。对关键决策、重要输出,把它当成一个超级聪明但偶尔会"认真胡说"的助手。医疗、法律、财务等高风险场景,必须有人工最终把关。记住:AI可以帮你节省时间,但永远无法代替你思考——这道关,最终得你自己把。1
当前文章无评论,是时候发表评论了