记忆即行为骨架:智能体如何靠“记住”实现连贯行动

源自25位全网作者

01-25 09:29

精选参考来源

1
AI智能体之所以强大,核心在于它们的“记忆系统”。没有记忆,智能体只能盲目行动,无法学习和适应。记忆让它们能够跨时推理、优化决策,真正实现智能。短期记忆(工作记忆)负责暂时存储任务相关信息,帮助智能体追踪当前用户问题、对话上下文和任务中间步骤,从而做出连贯且有针对性的回应。长期记忆则保存跨任务的知识与经验,积累事实和规律,使智能体随着时间变得更高效、更准确。情景记忆像人类的经历记录,存储状态、行为、结果和奖励,助力强化学习中识别哪些行为带来成功或失败。语义记忆包含结构化的世界知识——概念、规则、语言和领域信息,支持智能体推理和理解新信息。检索机制根据上下文、关键词或相似度精准调用所需记忆,避免信息混乱和过时。记忆还支持多步规划,智能体能记住子目标、进展和障碍,提升长远策略,而非仅解决眼前问题。多任务环境中,智能体为每个任务维护独立记忆,防止任务混淆,提升切换效率,并跟踪用户偏好。强化学习中的经验回放机制,通过反复利用历史经验,稳定训练过程,避免重复错误。记忆系统是动态演进的,智能体通过反馈、奖励和新交互不断更新,持续优化表现。记忆不仅是AI智能体的“知识库”,更是其“成长引擎”。理解短期、长期、情景和语义记忆的区别与协作,是构建高效智能体的关键。未来,记忆与检索机制的进步,将推动AI从“会思考”向“会记忆、会学习、会进化”迈进。原文:x.com/e_opore/status/1994331859661000712
2
梦想照进现实!AI大模型全屋智能居然成了?!
全部
来源
内容由AI生成

精选参考来源

1. AI智能体之所以强大,核心在于它们的“记忆系统”。没有记忆,智能体只能盲目行动,无法学习和适应。记忆让它们能够跨时推理、优化决策,真正实现智能。短期记忆(工作记忆)负责暂时存储任务相关信息,帮助智能体追踪当前用户问题、对话上下文和任务中间步骤,从而做出连贯且有针对性的回应。长期记忆则保存跨任务的知识与经验,积累事实和规律,使智能体随着时间变得更高效、更准确。情景记忆像人类的经历记录,存储状态、行为、结果和奖励,助力强化学习中识别哪些行为带来成功或失败。语义记忆包含结构化的世界知识——概念、规则、语言和领域信息,支持智能体推理和理解新信息。检索机制根据上下文、关键词或相似度精准调用所需记忆,避免信息混乱和过时。记忆还支持多步规划,智能体能记住子目标、进展和障碍,提升长远策略,而非仅解决眼前问题。多任务环境中,智能体为每个任务维护独立记忆,防止任务混淆,提升切换效率,并跟踪用户偏好。强化学习中的经验回放机制,通过反复利用历史经验,稳定训练过程,避免重复错误。记忆系统是动态演进的,智能体通过反馈、奖励和新交互不断更新,持续优化表现。记忆不仅是AI智能体的“知识库”,更是其“成长引擎”。理解短期、长期、情景和语义记忆的区别与协作,是构建高效智能体的关键。未来,记忆与检索机制的进步,将推动AI从“会思考”向“会记忆、会学习、会进化”迈进。原文:x.com/e_opore/status/1994331859661000712

2. 梦想照进现实!AI大模型全屋智能居然成了?!

3. Google又发布了一篇可能改变AI未来的论文,这次它教AI拥有了记忆。

4. 论文 Fundamentals of Building Autonomous LLM Agents,系统性地梳理 “如何构建一个真正具备自主性的 LLM 智能体”,也就是从「语言模型」走向「智能体」(而不仅仅是增强的聊天机器人/工具调用系统)。论文提出希望解答以下几个研究问题(RQs): (1)设计空间(Design space):核心子系统(感知/推理/记忆/执行)有哪些可选方案?如何系统化组织? (2)子系统整合(Integration):在现实软件环境(比如 GUI、web 任务)中,这些子系统如何闭环协作? (3)推理效能(Reasoning efficacy):不同推理策略(如 Chain-of-Thought、Tree-of-Thought、并行规划等)对任务成功率、效率、成本有什么影响? (4)记忆影响(Memory impact):短期/长期记忆机制(例如 RAG、上下文管理)怎样提升模型在长时程任务或大上下文任务中的表现? (5)失败模式与缓解(Failures & mitigation):代理在哪些方面容易失败(如幻觉、GUI误定位、重复循环、工具误用)?有哪些缓解技术? (6)评估与泛化(Evaluation & generalization):有哪些基准/指标适用于评估此类代理?代理能在多任务、多界面条件下泛化吗?★ 核心架构论文将一个具备自主能力的 LLM 智能体拆解为以下四大模块:1. 感知(Perception)系统2. 推理/规划(Reasoning/Planning)系统3. 记忆(Memory)系统4. 执行(Execution)系 统★ 感知系统感知系统是智能体“看/听/感知环境”的部分。论文提及四种主要方式:文本感知、多模态感知、结构化数据/信息树感知、工具辅助感知。- 文本感知(Text-Based):环境以纯文本形式输入,LLM 直接处理。这种方式代价最低,但只适用于文本驱动的场景。- 多模态感知(Multimodal):环境包含图像/视频+文字,使用视觉‐语言模型(VLM)或多模态 LLM(MM-LLM)将视觉输入编码为与文本兼容的向量。- 结构化数据/信息树(Information Tree / Structured Data):例如 GUI 的 Accessibility Tree、HTML DOM 树,将界面元素结构化地输入模型。- 工具辅助感知(Tool-based):智能体调用外部 API/工具获取环境信息(如网页检索、数据库查询、传感器数据等)然后将结果反馈给 LLM。论文还指出感知系统的关键挑战:例如图像识别中模型可能“幻觉”对象、上下文窗口受限、高计算/延迟成本、数据收集困难等。★ 推理系统推理系统是智能体“思考/规划/决策”那部分。论文讨论了多种方法:- 任务分解(Task decomposition):把大任务拆成子任务。包括“先分解再规划”(Decomposition first)和“交错分解”(Interleaved decomposition)两类。- 多方案生成与选择(Multi-plan generation & selection):代理生成多个可能方案(如通过 Tree-of-Thought, Graph-of-Thought, LLM-MCTS 等)然后选择最优一个。- 反思(Reflection):智能体在执行后或执行途中反思自己的决策/行动,识别错误并改进。甚至“预反思”(anticipatory reflection)在执行前预测失败。- 多智能体系统(Multi-agent systems):将推理分为多个“专家”模块(Planning Expert、Memory Expert、Error Handling Expert 等),各司其职、协同完成。★ 记忆系统记忆系统使智能体不仅“即时反应”,还能“记住过去、用过去指导未来”。论文区分短期记忆与长期记忆。- 长期记忆(Long-term memory):如将经验固化、使用 Retrieval-Augmented Generation(RAG)从外部知识库检索、将结构化数据(如 SQL 数据库)用于查询。- 短期记忆(Short-term memory):通常是 LLM 的上下文窗口中的“当前任务状态”。- 应存储的数据类型:成功经验、失败经验、动作轨迹、环境反馈等。将“失败”经验也显式记录有助于避免重复错误。- 记忆系统的挑战包括:上下文窗口限制、检索噪声、长期记忆如何更新与维护、如何避免“记忆漂移”等。★ 执行系统执行系统是智能体“将内部决策落实为环境动作”的部分。论文谈到执行系统要支持工具调用、API/代码生成、物理操作、GUI 控制等。具体维度包括:- 工具与 API 集成(Tool and API Integration)- 多模态行动空间(Multimodal Action Spaces)——例如 GUI 控制、视觉界面操作、机器人控制、代码执行等。- 整合挑战(Integration Challenges)——例如如何让决策结果真正映射到动作、如何反馈结果、如何监控执行失败/成功。论文:arxiv.org/abs/2510.09244#ai创造营##程序员#

5. Leonie Monigatti深入剖析了AI代理中的记忆演进,从最初的RAG(检索增强生成)到Agentic RAG,再到具备读写能力的Agent Memory,厘清了这一系列技术的核心逻辑与突破。RAG诞生于2020年,其核心是将离线存储的外部知识检索进LLM上下文,解决模型记忆有限带来的问题。但其“单次检索”与“只读”限制导致复杂场景下仍有误导风险。Agentic RAG引入了“工具调用”机制,允许智能体主动判断是否需要检索、选择检索工具,并评估检索结果相关性,显著提升了灵活性和准确性,但仍无法动态学习和更新信息。Agent Memory则迈出关键一步:支持智能体不仅读取,还能写入和管理外部记忆,实现基于历史交互的持续学习和个性化体验。它将记忆从“静态”转变为“动态”,但也带来了记忆管理和遗忘机制的新挑战。这三者共同体现了信息“存储-检索-编辑-删除”的完整闭环,也反映了AI系统从单点知识调用向复杂记忆体系演进的趋势。未来,如何设计高效的多源、多类型记忆管理策略,将是提升AI智能和人机交互体验的关键。详细内容及代码示例请见原文:leoniemonigatti.com/blog/from-rag-to-agent-memory.html

6. 《Making Sense of Memory in AI Agents》AI代理记忆的最大难题,不是教它们“记住”,而是教它们“忘记”。核心挑战是:大语言模型(LLM)天生无状态,每次对话都是全新开始,既不记得五分钟前说了什么,也不记得上周的内容。那么,如何让代理“记住”呢?记忆类型分两大类:• 短期记忆:LLM上下文窗口里的当前对话信息• 长期记忆:外部存储的历史对话、用户偏好、学习事实等不同框架对记忆分类也不尽相同:CoALA(类人认知架构):- 工作记忆(当前对话)- 语义记忆(用户事实)- 情景记忆(过去经历)- 程序记忆(指令和行为)Letta(架构导向):- 消息缓冲(最近消息)- 核心记忆(主动管理的上下文块)- 回忆记忆(对话历史)- 档案记忆(显式存储的知识)最难的部分是忘记。如何自动判断哪些信息过时了?哪些依然相关?这正是大多数实现的难点。Leonie的文章不仅讲清了各种记忆类型,还分享了实践中如何管理记忆(生成、存储、检索、更新、删除),并介绍了mem0、Letta、zep等新兴记忆框架。社区专家提到:- 让代理自己判断哪些记忆该删,比用复杂的衰减机制更靠谱。- 记忆管理不能只是简单的“先进先出”,需要智能逻辑。- 忘记不仅是存储问题,更是时间、情境和价值判断问题。- 合规需求(如“被遗忘权”)让删除机制变得更复杂。总结:AI代理记忆设计的核心,是如何在短期上下文与长期外存之间高效流转信息,同时智能决策何时更新、合并或删除信息。忘记难题不仅关乎技术,更关乎对时间和情境的理解以及用户隐私的尊重。文章:leoniemonigatti.com/blog/memory-in-ai-agents.html

7. AI应该像个会成长的伙伴,而不是只会复述的机器。 #大咖观察 #红衣聊AI #智能体

8. 理解 AI 智能体中的记忆 (Making Sense of Memory in AI Agents) 1. LLM 天生就是“健忘”的 LLM,在其核心交互设计上是“无状态”的(stateless),天生没有对话记忆。 LLM 在训练阶段已经将海量知识以“参数化知识”(parametric knowledge)的形式存储在其模型权重中,但这是一种静态的、背景性的记忆。 对于你和AI的实时对话,每一次互动本质上都是一个全新的开始。模型本身并不会内置任何关于你们过去对话的记忆。 我们感受到的所谓记忆,其实是一种技术上的实现:开发者将你之前的对话内容,在每一次你发送新消息时,都重新“喂”给模型。 正是因为这种机制,开发者才必须专门为 AI 构建外部的记忆系统,因为它并非底层模型自带的功能。 2. 我们应该用“人脑”还是“计算机”来类比 AI 记忆? 关于如何定义和分类 AI 记忆,业界尚未达成共识。 但要理解这场有趣的辩论,首先需要掌握一个核心框架:几乎所有的 AI 记忆系统,都在最高层面上区分了两种基本类型——短期记忆(上下文内记忆)长期记忆(上下文外记忆)。 1) 短期记忆 (In-context memory): 指的是当前在 LLM 的“上下文窗口”中可用的信息,也就是模型能直接“看到”的对话历史。 2) 长期记忆 (Out-of-context memory): 指的是存储在外部数据库(如向量数据库)中的信息,模型需要通过特定检索操作才能访问。 在这个基础框架之上,业界形成了两大思想流派,它们试图用不同的模型来进一步细分记忆的类型。 第一派倾向于使用人类记忆进行类比。例如,一篇名为 CoALA (Cognitive Architectures for Language Agents) 的论文就借鉴了人类认知模型,将 AI 记忆分为四种: 1) 工作记忆 (Working memory): 当前对话的上下文内容,例如“你好,我叫山姆。” 2) 语义记忆 (Semantic memory): 事实性知识,例如关于用户的信息“他的狗叫亨利。” 3) 情景记忆 (Episodic memory): 过去的经历或行为,例如“在没有使用计算器的情况下,计算 1+1 失败了。” 4) 程序记忆 (Procedural memory): 指令或技能,例如系统提示中的指令“在回答问题前,总是先提出追问。” 然而,另一派则认为这种类比并不恰当。 Letta 公司的 Sarah Wooders 认为,将 AI 类比成大脑会产生误导。她强调: an LLM is a tokens-in-tokens-out function, not a brain, and that, therefore, the overly anthropomorphized analogies are not fit. 因此,他们提出了一个更侧重于系统架构的分类方法,它同样建立在短期和长期记忆的区分之上: 1) 消息缓冲区 (Message Buffer): 存储当前对话中最近的消息。 2) 核心记忆 (Core Memory): 由 AI 自身管理的关键上下文信息,例如与当前对话相关的用户生日。 3) 回忆记忆 (Recall Memory): 原始的、未经处理的对话历史记录。 4) 存档记忆 (Archival Memory): 明确表述并存储在外部数据库中的信息。 这两种模型并非完全独立,而是对同一问题的不同剖析。例如,CoALA 模型中的“工作记忆”在 Letta 的模型中被更精细地拆分为“消息缓冲区”和“核心记忆”。 3. 让 AI 学会“遗忘”比“记忆”更难 在 AI 记忆设计中,最复杂的挑战并非如何“记住”,而是如何进行有效的“记忆管理”,尤其是如何“遗忘”。 首先,我们需要区分管理“上下文窗口”(短期记忆)和管理“外部存储”(长期记忆)的挑战。 对于上下文窗口,挑战在于避免因对话过长而超出token限制,开发者通常会采用对话摘要等方法来精简信息。 而真正的难题在于管理外部的长期记忆。如果一个 AI 从不遗忘,就会导致“记忆膨胀”(memory bloat)。 大量低质量或不相关的存储信息会像噪音一样干扰 AI,最终降低其性能。 记忆管理系统的四种核心操作: 1) ADD (添加): 将新信息存入长期记忆。 2) UPDATE (更新): 修改现有信息以反映最新情况(例如,更新用户的地址)。 3) DELETE (删除/遗忘): 识别并永久移除过时或无关的信息,这是防止记忆膨胀的关键。 4) NOOP (无操作): 这也许是最微妙也最困难的决策——判断当前信息既不新、也无矛盾,因此不值得存入记忆。 教会 AI 何时该“遗忘”(DELETE)以及何时该“无视”(NOOP),是自动化记忆管理的最大障碍。除此之外,开发者还面临一个难题:何时执行这些操作? 是在与用户对话的实时路径中(hot path),还是在对话结束后的后台批处理中(background)?这些决策都深刻影响着系统的延迟和效率。 #ai创造营# #程序员#

9. AI 智能体上下文工程 4 大核心策略,拯救大模型的「金鱼记忆」!

10. 谷歌最新研究推出了Titans架构与MIRAS理论框架,革新了AI长时记忆能力。传统Transformer虽然引入了注意力机制,但随着序列变长计算成本激增,难以处理超长文本或基因组数据。此前Efficient RNN和状态空间模型虽能线性扩展,却因固定大小记忆压缩丢失丰富信息。 Titans结合了RNN的速度与Transformer的精度,开启了“测试时记忆”能力——模型在运行中实时学习和更新参数,无需离线重训。其创新在于用深层多层感知机作为长时记忆模块,远超传统RNN固定向量的表达力,不仅存储信息更是理解和总结文本全貌。 核心机制“惊喜度”衡量输入与记忆预期差异,低惊喜跳过,保持效率,高惊喜则优先永久记忆,类似人类更记得突发事件。Titans还引入动量机制捕捉上下文连续性和自适应遗忘门控,平衡信息更新与存储,保证性能稳定。 MIRAS理论统一了各种序列模型设计,定义了记忆结构、注意偏向、遗忘调节与记忆算法四大要素,突破传统均方误差限制,探索更丰富的非欧几里得目标和正则化。基于此,衍生出YAAD(鲁棒抗噪)、MONETA(严格数学范数)、MEMORA(概率映射稳定性)等无注意力新模型,进一步提升记忆稳健性和泛化能力。 实验表明,Titans及MIRAS变体在语言建模、零样本推理、基因组和时间序列预测等多任务中均优于Transformer++、Mamba-2等先进模型,且具备高效并行训练和线性推理速度。特别是在BABILong长上下文推理测试中,Titans超越包括GPT-4的大型模型,并能扩展至超过200万token的上下文窗口。 这项工作不仅突破了长序列建模瓶颈,也揭示了在线优化与联想记忆的深层联系,为AI长时记忆和实时适应打开新纪元。未来,结合深度记忆神经网络与非欧几里得优化,AI将在超长文本理解、复杂推理等领域实现质的飞跃。 原文:research.google/blog/titans-miras-helping-ai-have-long-term-memory/

11. 在开发AI解决方案时,传统向量数据库或记忆API常面临延迟高、成本昂贵等问题。OpenMemory是一款开源、自托管的AI记忆引擎,通过独特的分层记忆分解架构,实现了长期、语义、情境记忆的高效存储与检索。它不仅支持多种嵌入模型,还能为AI助手、代理和协同工具提供持续、透明的记忆服务。 主要特点包括:- 结构化记忆:利用分层设计,实现多领域记忆存储,无数据冗余 - 高效检索:多向融合检索机制提供更低延迟的记忆回溯 - 开放自托:源代码公开,自行部署,100%数据归属用户 - 跨平台支持:兼容OpenAI、Gemini、Ollama等多种嵌入方案 GitHub:github.com/CaviraOSS/OpenMemory通过OpenMemory,开发者能为AI系统赋予更丰富、灵活的记忆能力,实现更智能、高效的交互体验。

12. 你还在用旧思维与AI打交道吗? #大咖观察 #红衣聊AI #AI时代 #智能体 #大模型

13. 说实话,我认为记忆力是目前持续学习的最大障碍。让我夜不能寐的问题是:我们如何利用记忆避免重蹈覆辙?我们如何教会模型有选择地记忆和遗忘?何时呈现正确的背景信息?人类通过记忆巩固、干扰管理和情境绑定自然而然地做到这一点,然而,我们尚未找到复制这种机制的方法。人类海马系统与当前LLM记忆架构之间的差距揭示了一个根本性的挑战:我们基本上构建了两个极端:要么是将所有信息都硬编码到参数中的模型(刚性模型),要么是使用RAG(随机数生成器)机械地检索信息(模糊模型)。真正的持续学习要求我们破解智能检索的密码;不仅要知道存储什么,还要知道抑制什么、何时强化,以及如何让旧知识优雅地消退而不造成灾难性的干扰。非常喜欢这篇调查,因为它从宏观角度展现了 LLM 和多模态模型中的记忆架构(也很喜欢其中受大脑启发的分类法,很棒!)。我会尽我所能系统地绘制出它的图谱。三部分框架:他们围绕新皮层-海马体-前额叶皮层的类比来构建记忆:内隐记忆/新皮层涵盖了嵌入模型权重中的参数知识,包括记忆编辑技术(如 ROME 和 MEMIT,它们通过精确修改权重来更新事实)、通过 LoRA 等适配器注入知识,以及通过记忆遗忘来删除有害内容。显性记忆/海马体研究外部检索系统;RAG架构、向量数据库、知识图谱。它们详细阐述了如何在不同的粒度(文档、组块、句子、图结构)和优化时间(无训练、联合预训练、SFT等)下组织记忆。智能体记忆/前额皮层探索自主智能体如何维持短期记忆(CoT++)与长期记忆(外部事实数据库、历史轨迹、用户反馈等)。我非常喜欢这个关于记忆的思考框架,但我认为除了分类之外,这项调查最大的贡献在于指出了尚未解决的问题:记忆污染/幻觉、大规模检索的计算负担、何时应该检索信息而不是依赖参数化知识,以及长时间交互过程中记忆一致性的挑战#科技先锋官##ai生活指南##ai创造营#

14. 《Making Sense of Memory in AI Agents》 AI智能体的“记忆”其实是指它们跨多轮对话,记住并调用重要信息的能力。这让智能体能从反馈中学习,适应用户喜好,提升体验和效果。但目前驱动这些智能体的语言模型(LLM)本身是无状态的,每次交互都是“重头开始”,没有内置记忆功能。要实现记忆,必须借助外部存储或上下文管理,帮它们回顾之前的对话内容。“记忆”既是信息的存储位置(如数据库、Markdown文件),也是一种信息管理机制。研究中区分了“智能体记忆”(agent memory)和“自主记忆”(agentic memory)——前者是赋予智能体访问记忆的能力,后者是智能体主动写入和管理记忆的系统。智能体记忆大致分为短期和长期两类: - 短期记忆存在于模型的上下文窗口里,保存当前对话内容; - 长期记忆储存在外部系统,如向量数据库,保存更稳定、广泛的信息。模仿人类记忆结构,有四种记忆类型:工作记忆(当前对话)、语义记忆(事实)、情景记忆(经历)、程序记忆(指令)。另一种设计思路则划分为消息缓存、核心记忆、回顾记忆和档案记忆,分别对应不同存储和管理策略。智能体记忆管理的关键,是如何在上下文窗口和外部存储间高效传递信息,着重解决以下难题: - 如何避免上下文过长导致响应变慢和成本飙升; - 如何判断哪些信息需要被记住、更新或者删除,防止记忆膨胀和信息质量下降。这里涉及“显式记忆”(智能体主动识别和保存重要信息)与“隐式记忆”(系统自动定时更新或批处理记忆)的区分。实现时,当前对话通常用列表形式保存,指令用文本文件,其他信息则根据检索需求存数据库。技术挑战主要集中在延迟控制和“忘记机制”的设计:如何精准判断哪些信息该被遗忘,防止系统负担过重,保持记忆的相关性和有效性。目前,围绕智能体记忆管理的开发框架快速涌现,如mem0、Letta、Cognee、zep,以及LangChain、LlamaIndex等通用智能体开发工具,都在积极推动技术成熟。总结来看,AI智能体记忆设计是连接短期对话和长期知识存储的桥梁。它不仅关乎记忆的保存,更涉及记忆的更新和遗忘,是打造更智能、更贴心AI的核心难题和发展方向。原文:leoniemonigatti.com/blog/memory-in-ai-agents.html

15. Agent Infra到底是什么?【AI基建】

16. 免费电子书《The Context Engineering Guide》Context Engineering(上下文工程)远非简单往提示词里堆数据,而是设计智能系统,在恰当时间、用合适格式,动态提供精准信息。关键不在于单纯扩大模型上下文窗口,而是如何高效利用有限的“活跃上下文”。真正的挑战是“编排”——让系统内部各模块(提示设计、检索增强、代理协作、记忆管理等)无缝协作,抵御人类和模型本身的错误。只有这样,AI系统才能突破模型固有限制,变得稳健且实用。这就是为什么Context Engineering将成为AI应用开发的核心复杂性。你需要让系统智能决定:- 什么信息放入活跃上下文- 何时总结压缩节省空间- 什么内容外部存储并按需调取- 如何精准路由查询到合适工具- 代理之间如何协同完成专业任务Victoria团队发布了完整电子书,详解如何构建这样的高效系统:从代理(Agents)、记忆系统(Memory Systems)、查询增强(Query Augmentation)、检索策略(Retrieval)到工具调用与提示循环(Tools & Prompting)。书中包含实战案例和架构图,直击从模型到生产级应用的瓶颈。业内反馈一致认为,单纯扩大上下文窗口是“懒办法”,真正难点在于设计类似人类记忆的动态、分层记忆系统。Context Engineering是连接理论与落地的桥梁,是AI技术走向成熟的必由之路。这不仅是技术细节,更是AI系统设计的艺术和哲学。掌握它,才能构建出既聪明又稳健的智能应用。电子书下载(含架构详解与实操指南):weaviate.io/ebooks/the-context-engineering-guide——思考:信息的力量不在于量多,而在于何时何地以何种方式被激活。未来AI的竞争,不是单纯模型大小,而是对“上下文生命线”的精妙编排。设计智能系统,就是设计未来人与机器共舞的节奏。

17. TRAE中国版白送SOLO,一人指挥一支AI大军 重磅消息!SOLO终于上线TRAE中国版了,Waitlist免费开放中 本期视频实测TRAE的新版本,亮点很多 1、先规划再动手的 Plan 模式 2、带专家团一起干活的 Subagent 子智能体 3、DiffView 差异视图 4、多任务并行 5、上下文智能压缩长时运行不掉链子 SOLO终于把AI从“瞎干活的外包”变成了“懂协作的队友” #AI #人工智能 #TRAE #AI编程 #vibecoding

18. 第三天《Context Engineering: Sessions & Memory》,一个Agent做得好,80%看上下文管理!这个pdf有72页,系统讲述了如何让LLM在交互中形成“状态”“个性”与“持续学习“,想做好AI Agent的别忘记深读一下这个文档。划线点:1. 上下文工程的核心理念 传统的 Prompt Engineering 只关注如何写出一个最优提示,而 Context Engineering 则是更高维度的概念。它要求开发者在每次模型调用前,动态地拼装完整的上下文——包括系统指令、工具定义、few-shot 示例、外部检索内容、长期记忆以及当前对话历史。 白皮书中有个比喻:如果 Prompt 是食谱,那么 Context Engineering 就是备料,决定了模型能否稳定地产出理想结果。2. Session vs. Memory Session 是一场对话的“工作台”,保存着事件日志和临时状态;Memory 是长期的“档案柜”,从这些对话中提炼出可复用的知识。 Session 负责连贯性,Memory 负责持续性。3. 多智能体系统中的会话共享 多个 Agent 协作时,Session 的设计变得更复杂。不同框架(如 ADK、LangGraph)内部的数据结构差异较大,直接共享会导致互操作问题。 文档提出用框架无关的 Memory 层作为共享语义中枢,各 Agent 通过抽象化的记忆数据交换信息,从而实现真正的跨框架协作。4. 长上下文的管理与压缩 模型上下文窗口有限,随着会话增长,成本、延迟和注意力衰减都会出现。有三种压缩策略: (1)保留最近 N 轮(滑动窗口); (2)基于 token 数截断; (3)递归摘要,用 LLM 生成对旧内容的总结。 这些方法共同目标是保留必要、舍弃冗余,让模型始终聚焦关键信息。5. 记忆系统的设计与生命周期 记忆并非简单存储,而是一套动态的 LLM 驱动工作流,涵盖提取、整合、存储、检索与遗忘(有点像一个ETL系统)。 提取阶段从原始对话中识别有意义的信息;整合阶段解决重复与冲突;存储可采用向量数据库、知识图谱或混合架构;检索阶段结合语义相似度、时间衰减与重要度评分挑选最合适的记忆。 文档还提出“遗忘”机制——旧记忆会随时间或置信度衰减被归档或删除,以保持知识库的健康。 划重点:真正的智能不在于保存全部信息,而在于知道何时、为何、记什么、忘什么。一个理想的 Memory 系统,像人脑的海马体,既能在短期保持上下文,又能在长期过滤、压缩、抽象出模式。 AI Agent的设计应该把动态遗忘作为标准功能来设计,而非可有可无的能力。6. 触发策略与 Memory-as-a-Tool 模式 记忆生成可在会话结束、固定回合、实时、或用户显式命令下触发。频繁触发可保留更多细节,但计算成本高;批量触发更经济,却易失真。 白皮书提出 Memory-as-a-Tool 模式:让 Agent 自行判断何时、为何生成记忆,将“记忆何时发生”的控制权交给模型逻辑本身(划重点!)。7. 信任、来源与隐私 文档专门讨论了 Memory 的来源溯源(Provenance):每条记忆应携带来源类型、时间戳、置信度与可信层级。系统需依据来源权重解决冲突,并对个人敏感信息在写入前脱敏,确保隔离与合规。8. RAG 与 Memory 的对比 RAG 让模型更懂世界, Memory 让模型更懂你。 前者检索外部事实,后者积累用户语境。Agent 需要二者结合,既具世界知识,又具个人连续性。#ai创造营# #程序员#

19. Weaviate的免费电子书:《上下文工程(Context Engineering)》你是否也遇到过这样的问题?用强大的大语言模型(LLM)做应用时,模型能写能总结能推理,但面对你的专属数据却无能为力,甚至自信地“胡编乱造”。问题不在模型智能,而是它被“孤立”了——没有访问你的私有文档,没有实时信息,没有记忆。这正是“上下文工程”(Context Engineering)的核心挑战:设计系统,让模型在合适的时间获得正确的信息,连接外部知识库和工具,赋予它记忆,帮它在真实世界中可靠工作。这本电子书详细讲述了如何打造这样的系统:1. 智能代理(Agents):它们不再盲目执行固定流程,而是动态判断、选择工具、调整策略,甚至修正错误,像个有头脑的“指挥官”。2. 上下文窗口的限制与管理:模型的工作记忆有限,不能简单扩容。要懂得剔除无关信息、压缩摘要、防止信息冲突和错误积累,才能保持“思路清晰”。3. 查询增强(Query Augmentation):通过重写、扩展、拆解查询,提升检索准确度,让模型更懂你的问题。4. 文档切片(Chunking)策略:如何拆解文档成既精确又完整的小块,是检索表现好坏的关键。预切片和后切片各有利弊,复杂文档更需要层级和语义切片。5. 记忆管理:短期记忆为即时推理服务,长期记忆保存事实和经验。高效的记忆管理防止信息污染,支持多层次记忆结构,提升连贯性和智能度。6. 工具集成(Tools):模型借助外部API和功能调用,才真正能够“动手”解决问题。精确的工具描述和合理的调用逻辑,是提升系统可靠性的秘诀。7. 编排挑战(Orchestration):让代理知道何时用什么工具、如何构造参数、如何根据结果调整策略,形成“思考-行动-观察”的闭环。8. 未来趋势:Anthropic提出的“模型上下文协议”(Model Context Protocol,MCP)将实现AI应用与工具的标准化连接,告别碎片化集成,迈向模块化、组合式AI系统。总结来说,打造智能AI应用的关键不再是更大更复杂的模型,而是更精妙的上下文系统设计。上下文工程让我们从“给模型写提示词”升级为“构建模型的世界”。掌握代理、查询增强、检索、记忆和工具的协同,才能让AI真正“活”起来。🔗 weaviate.io/ebooks/the-context-engineering-guide这就是我们,构建未来AI的工程师,正在重新定义智能的边界。你准备好了吗?

20. 大模型更像人的大脑,智能体是大模型的手和脚。 #大咖观察 #红衣聊AI #智能体 #大模型

21. AI 智能体记忆机制详解

22. 人大高瓴-华为诺亚:大语言模型智能体记忆机制的系列研究

23. 伊利诺伊大学香槟分校打造AI助手:让机器像人一样记住你的偏好

24. 构建有记忆的 AI Agent:SQLite 存储 + 向量检索完整方案示例

25. 构建有记忆的 AI Agent:SQLite 存储 + 向量检索完整方案示例

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章