装得下≠用得好:RAG和长上下文的正确选型姿势

源自58位全网作者

10:55

内容由AI生成

精选参考来源

1. 论文精读:《Lost in the Middle》—— 为什么 LLM 会”迷失在长上下文的中间”

2. 大模型的“注意力稀释”到底是什么?为什么上下文一长,它就开始装作自己看过

3. AI 术语通俗词典:RAG

4. 快手 GoLongRL 开源:训练长上下文模型,不能只奖励“答对”

5. 每天讲透一个 AI Agent 知识点:Lost in the Middle 是什么?

6. 1M+模型长上下文,真的能用吗

7. 长上下文 vs RAG:什么时候该用哪个?

8. 长上下文模型:能塞更多不等于更聪明

9. Lost in the Middle:上下文变长后,模型真的会用到中间信息吗?

10. 长上下文处理的技术挑战与LongCat-2.0性能分析

11. 短数据也能练出128k能力!Meta提出位置蒸馏新范式,让端侧小模型也能学会长上下文

12. 长文本推理成本爆炸怎么办?ICLR 2026四种推理优化方案让短模型也能玩转长上下文

13. 【算法霓虹】长上下文与 Context Rot

14. 长上下文推理别再喂随机噪音了

15. #科研上新# ICLR上新 | LoongRL:面向长上下文高级推理的强化学习(Oral) 论文链接:https://openreview.net/forum?id=o29E01Q6bv 长上下文推理是大语言模型的重要挑战之一。现有模型在长文本场景下往往更擅长浅层检索,但对跨文档、多跳、需要规划与逐步定位的信息整合能力仍然不足。同时,高质量的长上下文复杂推理数据较为稀缺,而直接在 128K 等超长上下文上开展强化学习训练又会带来很高的计算开销。 对此,本篇ICLR 2026的Oral论文提出了一个面向长上下文复杂推理的强化学习框架LoongRL。其核心是KeyChain数据合成方法:从短文本多跳问答出发,通过在大量干扰文档中插入基于 UUID 的键值链,将真实问题隐藏在长上下文中,从而构造出需要“路径追踪-问题定位-信息检索-多步推理”才能完成的高难度任务。基于此,LoongRL 使用 GRPO 进行多阶段强化学习,并结合双向子串精确匹配的规则式验证奖励,在 16K 长度的混合训练数据上完成训练。 图:KeyChain 数据构建概览 实验结果表明,LoongRL 学到了一种具有规划、检索、推理与复核特征的推理行为模式,并展现出较强的长度泛化能力:尽管训练仅在 16K 上进行,但模型在 128K 长上下文任务上仍能取得显著提升。在 Qwen2.5-7B 和 Qwen2.5-14B 上,其长上下文多跳问答准确率分别提升 23.5% 和 21.1%;其中 LoongRL-14B 在相关长上下文推理基准上达到 74.2,接近 o3-mini (74.5) 和 DeepSeek-R1 (74.9) 等更大模型。同时,该方法在长上下文检索测试(如 128K needle-in-a-haystack)上表现稳定,并基本保持了短上下文推理能力。

16. RAG 与长上下文大模型:统一技术视角与方法综述

17. ReContext:不压缩原文,只把关键证据重新播放给模型

18. 【ICML2026】面向长上下文大语言模型的训练-推理一致性分段执行

19. AI模型也需要睡觉——CMU新论文颠覆长上下文竞赛

20. 长上下文会消灭harness吗?

21. 他造出了魔杖

22. 大语言模型(LLM)全套评测清单

23. vlm大模型长文训练

24. 大语言模型关键13—长上下文

25. 无需改模型!用gist token实现高效稀疏注意力,降低长上下文LLM推理成本 【大模型优化】【LLM长上下文】

26. 本地知识库问答 RAG 项目:不用大模型也能先跑通技术逻辑

27. 企业RAG系统的技术深水区:从向量化索引到知识图谱的工程实现

28. 985文科生自学AI产品经理| RAG技术拆解

29. 大模型 RAG 跨切片查询技术详解

30. 知识库搭建的RAG技术解析

31. 百万图片的RAG搜索不靠多模态:索引时描述、检索时纯文本的方案让成本降低95%

32. RAG_技术原理(数据层、索引层)

33. RAG新SOTA,还在5亿条数据上跑进秒级,只有它了

34. 追求 AI 记忆力的路线下,RAG 是否终将被抛弃?

35. 多模态 RAG 才是企业知识库低效瓶颈的解药?

36. Kimi K3 已提前亮相?神秘模型「Kivine」现身,百万上下文能力惊艳全球

37. RAG退潮,“文件系统+grep”回归,智能体检索的返璞归真

38. 万字解读:为何长上下文治不了多模态 AI 的「健忘症」?丨GAIR Live 031

39. GLM-5.2来了,Claude Code百万上下文怎么配?

40. 大模型上下文工程指南

41. 一篇讲清RAG、LangChain、Agent三者关系!

42. Agentic Search 和 RAG RAG 是“先检索再生成”的固定流程;Agentic Search 是“由智能体自主规划与多轮搜索”的动态流程。 RAG:一次或少量检索,把文档喂给模型回答,简单、稳定、成本低。 Agentic Search:会拆解问题、改写查询、迭代检索、比较来源、必

43. AI 术语通俗词典:上下文

44. 2026年程序员不懂RAG+Agent,将会落后于职场

45. 在AI智能体开发中,MCP工具注册常采用"功能枚举"模式,当工具数量超过30个时会引发严重性能问题:上下文窗口被元数据挤占、大语言模型注意力分散、推理速度降低30%-50%、token消耗呈指数级增长,甚至导致工具选择错误。某电商团队注册42个工具后,订单查询场景错误调用物流工具,成本激增2.8倍。

46. GPT-5.6 惊现 150 万上下文窗口,将如何影响大模型竞争格局?

47. P99延迟降72%、成本降83%!字节跳动Agent上下文平台首度公开

48. 【Agent 开发范式演进:从环境工程出发,“简化”多源实时上下文】本文基于阿里云沈林在2026中国生成式AI大会的分享,指出企业级Agent落地瓶颈不在模型,而在上下文供给能力。文章从“环境工程”视角,提出信息完备性、感官管理、知识对账、变更治理、普惠门槛五大维度,探讨如何让Agent低成本、可靠

49. Claude 4.6 百万 Token 上下文正式开放,不加钱,这 3 个使用场景效率直接翻倍

50. QECon2026 深圳站丨云原生专家团拆解 AI Agent 工程化落地的 4 个关键环节

51. 提示词工程、上下文工程都过时了,现在是 Harness Engineering 的时代

52. Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文

53. 刚刚,OpenClaw史上最猛更新!AI记忆可自由插拔,开发者等了半年

54. 开发者冲爆了!全球前十AI Lab无限免费,一周烧出3.12万亿Token

55. 使用 Claude Code:会话管理与 100 万上下文

56. Anthropic让Claude AI"做梦"优化工作,突破上下文限制实现持续进化

57. Agent 开发范式演进:从环境工程出发,“简化”多源实时上下文

58. ContextSearch:为 Agent 构建可进化的上下文层

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章