图解智能体,第4章 记忆——Agent 如何"记住事情"
记忆是智能体从单一交互工具演变为个性化伙伴的关键跨越。一个缺乏记忆机制的 Agent,每次对话都如同初次相遇,无法积累上下文,更难以理解用户偏好。通过构建多层次的记忆体系,Agent 能够在跨会话场景中保持连贯性,并根据历史行为提供个性化服务。目前,业界主流的记忆架构通常分为感知记忆、短期记忆、长期记忆和程序记忆四个层级,各层级在持续时间、技术实现及管理策略上均有明确分工。
四种记忆层级架构
感知记忆
毫秒级,自动消散
- 人类类比:视觉残像或扫过文字的原始印象。
- 技术实现:当前时刻正在流入的 Token 流,即流式输入中尚未完全进入上下文窗口的部分。
- 特点:极为短暂,通常不需要主动管理。
短期记忆
秒至小时级,会话内有效
- 人类类比:工作桌上正在处理的文件或当前的思考内容。
- 技术实现:上下文窗口和对话历史缓冲。
- 特点:受限于窗口大小,是管理难度最高的一层,需要压缩或过滤策略。
长期记忆
天至永久,跨会话持久化
- 人类类比:日记本或个人档案中记录的重要事件与知识。
- 技术实现:向量数据库(如 ChromaDB)或键值存储(KV Store)。
- 特点:支持语义检索,需要主动进行写入、更新和遗忘管理。
程序记忆
永久,内化技能
- 人类类比:骑自行车的肌肉记忆,无需思考即可执行。
- 技术实现:模型通过预训练、微调学到的技能,或 Few-shot 示例注入的行为模式。
- 特点:烘焙在模型权重中,不是动态存储,修改成本较高。
01短期记忆管理策略
尽管主流模型的上下文窗口已扩展至 100K+ tokens,但窗口限制依然存在。Token 数量的增加会直接导致推理成本上升和响应速度下降。因此,在有限的窗口内保留最有价值的信息,是短期记忆管理的核心任务。目前主要有三种处理策略,在实际生产中通常组合使用。
| 策略 | 机制 | 优点 | 缺点 |
|---|---|---|---|
| 滑动窗口 | 仅保留最近的 N 条消息,超出部分自动丢弃。 | 实现极简,零额外开销。 | 开头的重要信息(如用户身份)一旦超出窗口即永久丢失。 |
| 摘要压缩 | 调用 LLM 将旧对话压缩成摘要,替代原始消息。 | 保留语义信息,避免遗漏关键偏好和约束。 | 存在信息损失,无法还原原始细节,需额外 LLM 调用成本。 |
| 重要性过滤 | 基于规则或模型给消息打分,仅保留高分内容。 | 精准保留高价值信息,压缩率高。 | 实现复杂度较高,需额外维护评分标准或模型。 |
三种短期记忆管理策略对比
02长期记忆与向量检索
长期记忆使 Agent 能够跨会话存储和检索信息,其核心技术基础是向量数据库。通过将文本转化为向量,系统能够基于语义相似度而非精确关键词进行检索,从而理解用户意图的关联性。长期记忆的运作包含写入和读取两个闭环路径。
- 写入路径:新信息首先经过 LLM 提取关键内容,剔除无价值的闲聊(如“好的”);随后通过 Embedding 模型将文本转化为高维向量,并附上时间戳、用户 ID 等元数据写入数据库。
- 读取路径:当新对话开始时,系统使用与写入相同的 Embedding 模型将当前查询向量化;在向量库中计算余弦相似度,检索出 Top-K 条最相关的记忆;最后将这些记忆拼接到系统提示词中,为 LLM 生成回答提供依据。
长期记忆在内部逻辑上可进一步区分为情节记忆和语义记忆。情节记忆记录具体的事件、对话和操作历史,带有明确的时间戳;语义记忆则记录抽象的事实、规则和偏好,不依赖特定时间背景。这种区分有助于 Agent 更精准地管理不同类型的信息。
03个性化记忆实现与工具选型
2025 年以来,个性化记忆已成为 Agent 产品的核心竞争点。OpenAI 的 Memory API、Claude 的记忆系统均致力于解决 AI 积累用户认知的问题。构建个性化系统时,应遵循被动积累、区分临时与长期偏好、保障画像可编辑以及防止多用户画像污染等原则。在工具选型方面,开发者需根据具体场景在易用性与灵活性之间做出权衡。
| 工具 | 定位 | 特点 | 适用场景 |
|---|---|---|---|
| Mem0 | 智能记忆框架 | 上手简单,支持个性化记忆自动管理。 | 快速构建具备长期记忆和个性化能力的对话 Agent。 |
| Zep | 长期记忆服务 | 专门优化了记忆提取与检索,支持情节/语义记忆区分。 | 需要高性能、结构化长期记忆存储的生产级应用。 |
| ChromaDB / Milvus | 向量数据库 | 底层数据存储,定制灵活性极高,需自行封装记忆逻辑。 | 需要深度定制存储策略或处理大规模向量数据的场景。 |
主流记忆工具对比
当前文章无评论,是时候发表评论了