同一个问题,新开窗口常常就对了:AI 越聊越笨,先分清「模型」和「上下文」

源自193位全网作者

09:28

一个窗口从上周用到这周。先改简历,再挑冰箱,最后算报销。你回头问简历里那句自我评价,它把冰箱的预算套了进去;你提醒它“不要用第一人称”,它回一句“好的”,下一段照旧。

你大概会骂一句“又降智了”,然后打开模型列表,准备换一个。先别。多数时候,问题不在模型,在你递给它的那一长串上下文。

模型被换掉的情况不是没有,只是普通人很难验证。上下文这一层能验证,也更常见:窗口远没满,AI 已经开始犯糊涂。

Chroma 在 2025 年 7 月测了 18 个主流模型,GPT-4.1、Claude 4、Gemini 2.5、Qwen3 都在里面。任务难度不变,只把输入拉长,性能就往下掉,而且掉得不均匀。Chroma

最能说明问题的是“抄单词”实验:给模型一串重复的词,让它原样复述。这几乎不需要推理,可输入一长,照样抄错。问题不在难度,在注意力怎么分。

同一个问题,新开窗口常常就对了:AI 越聊越笨,先分清「模型」和「上下文」

2026 年 1 月的一篇论文给了个刻度:拿 Qwen2.5-7B 测,上下文用到窗口的 43.2% 左右,性能会断崖式下跌。

五种方法交叉验证,区间落在 40%–50%;越过这个点,F1 从 0.556 掉到 0.302,少了 45.5%。知乎

为什么是断崖,不是慢慢变差?因为注意力有限。

Anthropic 在 2025 年 9 月的工程博客里管它叫“注意力预算”:上下文是有限资源,边际收益递减。Anthropic

n 个 token 之间有 n² 条关系,每多塞一段,都是从同一份预算里划走一块。

更麻烦的是,吃掉预算的常常不是“垃圾”,是“相关但没用”的内容。Chroma 的干扰项实验里,离正确答案语义越近的干扰项,越能把模型带偏;完全无关的内容,反而影响小。知乎

你之前试过但失败的方向、已经推翻的结论、聊到一半的另一个任务,都属于这一类。看着都和正事有关,所以都还在抢注意力。

同一个问题,新开窗口常常就对了:AI 越聊越笨,先分清「模型」和「上下文」

还有个反直觉的结果:把上下文打乱,模型反而更准。结构清晰的文本会把它“吸引”去理解论证线,目标信息被埋住;句子各自独立时,那根“针”更突出。Chroma

同一个问题,新开窗口常常就对了:AI 越聊越笨,先分清「模型」和「上下文」

不过,“长度”本身是不是元凶,学界还有争议。

2026 年 6 月的一篇预印本用固定探针测了四个模型,没有观察到长度驱动的退化。更稳妥的说法是:单轮“大海捞针”和多轮、渐进累积的真实对话,是两种病。知乎

你遇到的“越聊越乱”,多半是后一种。

同样的问题,换个干净窗口再问一遍,答案常常就回来了。别急着换模型,先换窗口。

三个习惯就够。

一是“一事一窗”。写简历、挑冰箱、算报销,分开开三个对话。做完一个关掉,别让它继续坐在会议室里。

二是“开工先给背景包”。新窗口第一条消息只放三样:要做什么、有什么硬约束、哪些事实已经确认。别把整段聊天记录搬过去,那是把杂物间挪进了新房间。

比如:“把这份简历改成投产品岗,控制在 800 字,别用第一人称。已确认:3 年运营经验,不带团队。”

三是“看到信号就交接”。三个信号:开始重复上一轮、忘了你最早定的约束、同一问题前后两个答案。出现任意一个,让它先写“当前结论 + 未完成事项 + 下一步”,贴进新窗口,再关掉旧的。

这套办法不花钱,也不用等模型更新。那位把 639 条聊天压到最近 200 条的 UP 主,每句输入的 token 从约 3.6 万降到 1 万出头,AI 对“示教室电脑密码”的回答也跟着变了。哔哩哔哩

模型当然会继续变强,窗口也会继续变大。但“装得下”和“用得出”是两件事。下次觉得 AI 变笨,先看看你们聊了多久。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章