AI常会产生“幻觉”给出错误答案。摩根大通AI研究院通过分析37万提问发现,改变提问方式能有效降低出错率。这项研究揭示了语言特征与AI可靠性间的深层联系,为人机高效协作提供了实用指南。
智能速览
AI出错概率与问题的语言表达方式直接相关。
模糊、复杂和否定句式是增加AI幻觉风险的主要因素。
意图明确、可回答性强的问题能显著提升回答可靠性。
抽象式任务(如总结分析)的风险远高于提取式任务(如查找信息)。
增加具体约束、明确意图是优化提问的有效策略。
精华内容
与AI沟通不仅是技术,更是语言艺术。研究团队通过大数据分析,绘制出了一张清晰的风险地图,指引我们如何构建更优质的问题。
识别高风险问题
研究表明,某些语言特征会显著增加AI犯错概率。
首先是缺乏具体性,例如询问“关于特斯拉的信息”,会让AI因指代不明而编造内容。
其次是句子结构过于复杂,多层嵌套从句会干扰AI对核心意图的理解。
此外,使用“不是”、“没有”等否定句式,也容易让AI在逻辑推理中出现偏差。
构建高可靠性问题
想让AI回答更可靠,可以从问题设计入手。
意图明确的问题能大幅降低错误率,例如在问题中直接使用“总结”、“比较”、“提取”等指令动词。
可回答性是另一个关键保护因素。基于事实、有明确答案的问题,如“《路》的作者是谁”,AI几乎不会出错。
相比之下,需要主观判断或预测未来的问题,风险则要高得多。
任务类型的风险差异
不同类型的AI任务,其出错风险模式截然不同。
提取式任务因为有明确的参考材料,风险最低。
选择题任务因存在干扰项,风险处于中等水平。
风险最高的是抽象式任务,这类任务完全依赖AI的内部知识,缺乏外部约束,研究显示有44.5%被标记为高风险,更容易产生“天马行空”的错误内容。
三大提问优化原则
基于研究发现,可以遵循三个简单有效的原则来优化问题。
第一是增加消歧约束,明确问题中的时间、地点和实体信息,例如将“关于Java”改为“Java编程语言的主要特性”。
第二是明确表达意图,直接告诉AI需要做什么。
第三是预先解决多义性,对可能产生歧义的词汇提前澄清。这些策略无需改动AI模型,只需调整提问习惯即可见效。
这项研究证明了优化提问是提升AI可靠性的有效途径。未来,智能问题评估与重写工具或将成为标配。掌握提问的艺术,将是AI时代的关键技能,你准备好改变自己的提问方式了吗?