Google Research的一项最新研究揭示了一个反常识现象:简单地将提示词重复一遍,就能显著提升大语言模型的性能。这个看似“多此一举”的操作,在非推理任务中能让模型准确率最高提升76%,且几乎不增加任何计算成本。这一发现为优化AI交互提供了一个全新且极易上手的思路。
智能速览
重复指令能显著提升非推理型大语言模型的准确率。
在70项基准测试中,该技巧取得47胜0负的战绩。
其原理是弥补了因果语言模型容易“遗忘”上下文的特性。
此方法几乎零成本,不会增加模型的响应延迟。
该技巧仅适用于信息提取等任务,对复杂推理无效。
精华内容
这个发现背后,其实是利用了大语言模型自身架构的一个小特性。让我们深入探究其原理、效果边界以及最佳实践,看看这个简单的技巧如何发挥巨大作用。
原理探秘
当前主流的大语言模型大多是因果语言模型,其处理文本的方式是严格从左到右。这种特性导致模型在处理长文本时,可能会“忘记”前面读过的信息,从而影响对后续问题的理解。重复指令相当于给了模型第二次机会来完整地“温习”整个上下文,从而更准确地捕捉到问题与答案之间的关联。
数据说话
研究团队在7个主流模型上进行了7大类基准测试,总计70场对比。结果显示,重复指令的策略赢了47场,平了23场,未尝一败。效果最惊人的是“NameIndex”任务,要求从50个名字中找出第25个,模型准确率从单次指令的21.33%飙升到重复指令后的97.33%,提升了76个百分点。
零成本优势
大模型的处理分为预填充和生成两个阶段。预填充是并行处理输入,速度极快;生成是逐字输出,是延迟的主要来源。重复指令只增加了预填充阶段的工作量,对生成阶段毫无影响。因此,用户几乎感受不到延迟增加,相当于获得了免费的性能提升。
适用边界
该技巧的关键局限在于,它只对非推理任务有效,如信息提取、实体识别、简单问答等。当任务需要复杂推理,或模型已经启用“思维链”进行逐步思考时,其效果便会消失。因为在推理过程中,模型自身已经隐式地复述了问题,外部的重复指令就显得多余了。
重复指令这一技巧的价值在于其极致的简单与高效,它提醒我们,在追求复杂方案时,不应忽略最朴素的可能性。未来,这种策略或许会被内置到模型或系统中。面对AI时,下次遇到信息提取不准确,不妨试着将指令再说一遍。