最近,一项来自 Google Research 的研究发现了一个简单到令人意外,却又极其有效的技巧:只要将输入给大语言模型的提示词“复制粘贴”一遍,就能显著提升其在特定任务上的准确率。最惊人的案例是,在一次测试中,谷歌 Gemini 模型的准确率因此从 21.33% 飙升至 97.33%。这一发现不仅为我们揭示了当前大模型的一个底层运作奥秘,也为所有 AI 用户提供了一份几乎没有成本的“免费午餐”。
一个简单操作带来的巨大飞跃
这个技巧的具体操作非常简单,就是将原始的输入内容 `` 变换为 ``,相当于把同样的话再说一遍。
为了验证其效果,研究人员在 Gemini、GPT-4o、Claude 3 等七种主流模型上进行了广泛测试。在一项名为“NameIndex”的自定义任务中,模型被要求从一个包含 50 个名字的列表中找出第 25 个名字。在常规测试中,轻量级的 Gemini 2.0 Flash-Lite 模型表现不佳,准确率仅有 21.33%。然而,当研究人员将包含名字列表和问题的提示词重复一遍输入后,它的准确率奇迹般地跃升至 97.33%。

这一效果并非孤例。在涵盖多个标准基准的 70 组测试中,这种“提示词重复”策略在非推理任务上取得了 47 次显著的性能胜利,且没有出现任何一次性能下降。
为什么“再说一遍”如此神奇?
这个现象的背后,与大语言模型的核心架构——Transformer 的一个固有缺陷有关,即“因果盲点”(Causal Blind Spot)。
目前主流的大语言模型大多是“因果语言模型”(Causal Language Models),它们严格按照从左到右的顺序处理文本。这意味着,当模型处理文本开头部分时,它无法“看到”或“注意”到后面尚未出现的内容。这就好比一个人在阅读一篇长文时,如果问题在文章末尾,他在读开头时并不知道要重点关注哪些信息,导致对上下文的理解缺乏针对性。
而“提示词重复”这一技巧,巧妙地“欺骗”了模型的注意力机制。当模型开始处理第二遍重复的内容时,它的注意力机制已经可以回顾并关注到第一遍输入中的所有信息。这相当于给了模型一次“回头看”和“重新审视”整个输入序列的机会,在处理上下文时已经知道了问题,在处理问题时也已经预习了上下文,从而模拟出了一种类似“双向注意力”的效果,让模型能够更精准地定位和提取关键信息。
几乎零成本的性能提升
更令人兴奋的是,这种准确率的提升几乎不增加用户感知的延迟和成本。人们通常会认为,将输入内容加倍会导致处理时间加倍,但事实并非如此。
大模型处理信息分为两个阶段:预填充(Prefill)和解码(Decode)。解码阶段是逐字生成答案,必须串行处理,是延迟的主要来源。而预填充阶段负责处理用户输入的内容,这一过程在现代 GPU 上可以高度并行化。即使输入内容翻倍,对于强大的硬件来说,增加的计算时间也微乎其微。由于该技巧不改变模型最终输出的答案长度,因此解码阶段的耗时不增,用户几乎感觉不到等待时间的变长。
这对我们意味着什么?
这一发现为 AI 的使用者和开发者带来了多重启发:
它提供了一个立即可用的实用技巧。当你在处理长文档提取、信息分类或简单问答等任务,感觉模型“记性不好”或抓不住重点时,不妨试试把你的问题和上下文再说一遍。
它揭示了提升模型表现的新路径。开发者不再需要仅仅依赖升级到更大、更昂贵的模型来追求高准确率。通过这个简单的策略,一些更小、更快的模型在特定任务上的表现,甚至可以媲美未经优化的顶级模型,这为开发高性价比的 AI 应用提供了可能。
当然,这个技巧并非万能。研究表明,它主要适用于非推理任务。对于需要模型进行一步步逻辑推导的复杂任务(如数学题),传统的“思维链”(Chain of Thought)等方法依然是更好的选择。因为在推理过程中,模型自身往往会先复述和分解问题,额外的重复输入反而可能显得多余。
这一机制也带来了新的安全思考。更强的注意力可能是一把双刃剑。攻击者或许能通过重复恶意指令来提高“越狱”的成功率;反之,防御者也可以通过重复安全规则来加固模型的“护栏”。
这个看似“笨拙”的“复制粘贴”技巧,不仅为我们提供了一种打破现阶段大模型内在局限的低成本钥匙,也深刻地提醒我们,在通往更强人工智能的道路上,有时最简单的改进反而蕴藏着最大的潜力。