AI突然“失忆”的真相:大模型不是被绕晕,是主动选择了偷懒

源自63位全网作者

01:46

精选参考来源

1
百万Token白烧?Claude官方下场:5招治好上下文腐烂
2
大模型失忆之迷 当把一份几万字的文档丢给大模型,或者跟它连续聊上几十轮之后,它就开始“胡言乱语”了? 明明开头定好的规则,它忘了;文档中间的关键细节,它死活找不着。 很多人以为是 AI 的智商不够,其实,你可能遇到了大模型的一个“隐形杀手”——上下文腐烂(Context Decay)。 你可以把大模型的“上下文窗口”想象成一个浴缸。 早期的 AI 浴缸很小,只能装几千个字;现在的 AI,比如 Gemini 或者 Claude,号称能装下几十万甚至上百万字,像个大游泳池。 但是,水装得越多,水质就越浑浊。 所谓的“上下文腐烂”,就是当信息量大到一定程度时,AI 的注意力会被极度稀释。 它就像一个考试前临时抱佛脚的学生,虽然把整本书都翻了一遍,但真正考试的时候,只记得书的第一页和最后一页,中间的内容全成了“背景噪音”。 技术层面,这主要由三个原因造成: 迷失在中间(Lost in the Middle):这是学术界公认的难题。AI 对长文本的两头记忆深刻,但对中间部分的检索准确率会呈 U 型下降。 注意力稀释:Transformer 架构的本质是给每个词分配权重。当词太多时,核心信息的权重会被大量无关的废话分走,信号被噪声淹没了。 为了让你用得起、跑得快,后台会对你的对话记忆进行“压缩”。这种压缩是有损的,聊得越久,误差累积就越多,AI 的“脑子”也就越糊涂。 既然“腐烂”不可避免,目前有三招可能比较有用: 第一,重要指令后置:如果你有核心要求,不要只在开头说,记得在 Prompt 的最末尾再重复一遍,那是 AI 记忆最清醒的地方。 第二,定期清理缓存:如果是长对话,发现它开始犯错,别犹豫,开启一个新对话。 第三,摘要大法:不要一次塞 10 万字,先让它分段总结,再基于总结进行推理。 上下文不是越大越好,懂如何管理上下文的人,才能真正驾驭大模型
全部
来源
内容由AI生成

精选参考来源

1. 百万Token白烧?Claude官方下场:5招治好上下文腐烂

2. 大模型失忆之迷 当把一份几万字的文档丢给大模型,或者跟它连续聊上几十轮之后,它就开始“胡言乱语”了? 明明开头定好的规则,它忘了;文档中间的关键细节,它死活找不着。 很多人以为是 AI 的智商不够,其实,你可能遇到了大模型的一个“隐形杀手”——上下文腐烂(Context Decay)。 你可以把大模型的“上下文窗口”想象成一个浴缸。 早期的 AI 浴缸很小,只能装几千个字;现在的 AI,比如 Gemini 或者 Claude,号称能装下几十万甚至上百万字,像个大游泳池。 但是,水装得越多,水质就越浑浊。 所谓的“上下文腐烂”,就是当信息量大到一定程度时,AI 的注意力会被极度稀释。 它就像一个考试前临时抱佛脚的学生,虽然把整本书都翻了一遍,但真正考试的时候,只记得书的第一页和最后一页,中间的内容全成了“背景噪音”。 技术层面,这主要由三个原因造成: 迷失在中间(Lost in the Middle):这是学术界公认的难题。AI 对长文本的两头记忆深刻,但对中间部分的检索准确率会呈 U 型下降。 注意力稀释:Transformer 架构的本质是给每个词分配权重。当词太多时,核心信息的权重会被大量无关的废话分走,信号被噪声淹没了。 为了让你用得起、跑得快,后台会对你的对话记忆进行“压缩”。这种压缩是有损的,聊得越久,误差累积就越多,AI 的“脑子”也就越糊涂。 既然“腐烂”不可避免,目前有三招可能比较有用: 第一,重要指令后置:如果你有核心要求,不要只在开头说,记得在 Prompt 的最末尾再重复一遍,那是 AI 记忆最清醒的地方。 第二,定期清理缓存:如果是长对话,发现它开始犯错,别犹豫,开启一个新对话。 第三,摘要大法:不要一次塞 10 万字,先让它分段总结,再基于总结进行推理。 上下文不是越大越好,懂如何管理上下文的人,才能真正驾驭大模型

3. 真正限制大模型的,不是上下文大小,而是“上下文腐烂”

4. 🌋 大模型长上下文|正确率暴跌❗️。🔥大模型集体翻车!平均正确率仅17.2%!颠覆认知的CL-Bench测试结果: 🔗• 测的不是“模型会做题”,而是“模型能不能从复杂上下文里学新知识、做任务” 🔗• 10个前沿大模型(含GPT-5.1、Claude Opus 4.5)平均正确率仅17.2% 🔗• 最长正确率的GPT-5.1也才23.7%,大多数模型卡在13%-18%之间 📍最扎心的发现: 🔗• 长上下文就是硬瓶颈!32K+ tokens的正确率直接跌到5%-10% 🔗• 模型最常见的错误不是算错,而是忽视/误用上下文(顶级模型也有55%+犯这个错) 🔗• 推理强度拉满,收益也只有2.5%左右,“多想几步”救不了上下文学习能力 📍核心启示: 未来大模型的下半场,不是拼“更长的上下文窗口”,而是拼“更强的上下文学习能力”——就像入职当天读完手册就能干活的同事,才是真的能落地。 #大模型研究#AI硬核干#长上下文瓶颈#CLBench测试#人工智能前沿

5. 上下文腐烂:为什么AI Agent工作时间越长,表现越差

6. 你给大模型喂的资料越多,它反而回答得越差?这不是错觉

7. 上下文腐烂 (Context rot) 其实是两种病 大家都在抱怨 agent 越改越烂、开一个新对话就一次改对了 —— 这件事过去半年被反复说,叫 context rot。但我读了一堆论文之后发现,这个名字其实是个陷阱 —— 它把两种机制完全不同的病塞在了一个壳里:一种是 distraction,context 太长、信号被稀释,大厂整套现代 stack 主要就是治这个;另一种是 poisoning,context 不长但里面有毒,早期一个错误判断进去、被反复引用,模型在错误地基上越走越远 —— 目前基本无解,最有效的方法就是清空重开。如果你不把它们分开,永远治不对。 #contextrot #上下文腐烂 #上下文管理 #AIAgent #大模型

8. 新闽江网 | Harness 刚火就成过去式?AI 长上下文 “偷懒” 真相被揭开

9. AI变蠢了?上下文腐烂?六大解药专治Context Rot

10. AI上下文窗口越大越好吗?最新数据说:它可能越看越糊涂

11. Claude Code 1M上下文时代来临!Anthropic重磅教学:如何玩转会话管理,彻底告别“上下文腐烂”?

12. 多 Agent 跑 30 步就崩 是因为上下文腐烂

13. 上下文腐烂:AI写代码越写越“烂”?

14. [译] MIT 提出的递归语言模型(RLMs):彻底解决大模型「上下文腐烂」

15. LLM上下文腐烂(Context‑Rot):旧恋情缓存侵蚀全新的亲密语境

16. 长程搜索 Agent 中的“上下文腐化”:诊断与治理

17. 大模型上下文工程:技术现状梳理和探讨

18. 大模型应用开发-2 上下文工程

19. Hermes上下文腐烂?只因你调错了阈值,这组配置直接解决

20. AI大模型系列第四站:大模型的上下文窗口

21. 大家都在狂吹“百万 token 上下文”,一位工程师却说了一句大实话

22. AI和大模型——上下文腐坏

23. 为什么AI越聊越笨——上下文腐烂讲透 你有没有发现,AI 聊到第 20 轮,连你最开始提的要求都忘了?不是错觉——它真的在"腐烂"。 AI 越聊越笨不是它变蠢,是"上下文腐烂"——对话越长,关键信息被稀释淹没得越厉害;解法不是换更强的模型,而是学会管上下文:该翻篇就翻篇、压缩重启、拆子任务。 #AI #人工智能 #大模型 #LLM #ChatGPT

24. 长上下文必崩?LLM 最大隐患「Context Rot」终于被根治了!

25. 为什么大模型都在卷上下文窗口?更大上下文真的有用吗?

26. 上下文衰退(Context Rot):输入Token增加对大语言模型性能的影响

27. 通俗易懂:上下文腐烂

28. 长上下文越多,AI协作越差

29. AI Agent 为什么不是上下文越长越好|生成式AI|第六讲

30. AI 上下文越长,越考验人的判断力

31. Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文

32. 创新Transformer!面壁基于稀疏-线性混合架构SALA训练9B模型,端侧跑通百万上下文

33. 姚顺雨在腾讯首个研究:在“上下文”这事上,在座的各位都不及格

34. Vercel推Agent Browser:让AI自己控制浏览器,比Playwright省93%上下文

35. 万字解读:为何长上下文治不了多模态 AI 的「健忘症」?丨GAIR Live 031

36. GLM-5.2来了,Claude Code百万上下文怎么配?

37. 智能体上下文工程:为什么文件系统成了AI记忆的最佳载体?

38. 大模型上下文工程指南

39. 使用 Claude Code:会话管理与 100 万上下文

40. AI 术语通俗词典:上下文

41. GPT-5.6 惊现 150 万上下文窗口,将如何影响大模型竞争格局?

42. Kimi-K3、GLM-5.2中文超长上下文多轮检索测评结果发布!

43. 相约 GenAICon 北京站:聊聊从环境工程出发,如何“简化”多源实时上下文?

44. 【AI 原生研发范式:从“代码中心”到“文档驱动”的演进】本文讲述在 AI 编程时代,通过 SDD解决上下文腐烂、审查瘫痪、维护断层三大工程失序问题,并提供一套轻量、可落地的人机协作 SOP。https://developer.aliyun.com/article/1710667?utm_conte

45. 【做AI产品三年复盘,我看到的变与不变】 本文以AI产品工程师视角,分“看自己、看行业、看世界”三部分,剖析AI巨变中不变的本质:人机协作需强化沟通力、工程判断力与责任担当;营销与金融正被生成式技术重塑;ClaudeCode等智能体虽形态演进,但“上下文(Context)”始终是决定效果的核心。ht

46. Agent 开发范式演进:从环境工程出发,“简化”多源实时上下文

47. 在AI智能体开发中,MCP工具注册常采用"功能枚举"模式,当工具数量超过30个时会引发严重性能问题:上下文窗口被元数据挤占、大语言模型注意力分散、推理速度降低30%-50%、token消耗呈指数级增长,甚至导致工具选择错误。某电商团队注册42个工具后,订单查询场景错误调用物流工具,成本激增2.8倍。

48. 【Agent 开发范式演进:从环境工程出发,“简化”多源实时上下文】本文基于阿里云沈林在2026中国生成式AI大会的分享,指出企业级Agent落地瓶颈不在模型,而在上下文供给能力。文章从“环境工程”视角,提出信息完备性、感官管理、知识对账、变更治理、普惠门槛五大维度,探讨如何让Agent低成本、可靠

49. Claude 4.6 百万 Token 上下文正式开放,不加钱,这 3 个使用场景效率直接翻倍

50. 铭凡 N5 MAX 首发评测!这才是真正的AI(O) NAS!120W 满血释放,16核32线程,本地AiAgent + 本地视频生成

51. 神秘霸榜模型现真身:小米MiMo-V2 Pro,国内首个万亿参数+1M上下文,为Agent而生!

52. 提示词工程、上下文工程都过时了,现在是 Harness Engineering 的时代

53. Anthropic让Claude AI"做梦"优化工作,突破上下文限制实现持续进化

54. Copilot 如何使用技能? 技能 Skills 采用渐进式披露(Progressive Disclosure)来高效加载内容,仅在需要时加载。 这种三级加载系统确保你可以安装许多技能而不会占用上下文: 第一级:技能发现 Copilot 始终通过读取 YAML 前置元数据中的 name 和

55. Databricks CEO:我们不需要AI更聪明,只需要更长上下文

56. 更好的上下文,更好的 GitHub Copilot

57. ChatGPT 200 万 Token 长上下文实测|真能用还是噱头?

58. 2026年AI办公智能体处理长文档与表格的实操限制与避坑指南

59. 实测揭秘:大模型处理长文本出现漏内容与虚假完整版问题的根源!

60. 和WorkBuddy搭档干活一个月,我踩过的8个大坑!

61. 7 个坑我替你踩烂了:写 Agent 的人,90% 第一个就栽在这

62. 日常用 AI,选 GPT 还是 DeepSeek?普通人真实体验分享

63. 长文本之王是谁?实测 Claude 3.5、GPT-4o 与 Kimi 的上下文理解上限

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章