AI Agent 智能体 Memory 记忆模块的架构和流程 #AI #Agent #智能体 #架构 #程序员
AI Agent智能体的核心能力建立在大型语言模型之上,但原始大模型本身是无状态的,无法在多轮对话中保持上下文的连贯性。记忆模块正是为了解决这一基础架构问题而设计,通过区分短期记忆与长期记忆,并配合相应的存储与检索策略,赋予智能体跨会话的记忆能力。
01基础概念:大模型的无状态特性
在未引入记忆机制的情况下,大模型在对话中处于“无状态”模式。这意味着每一次交互都是独立的,当前的输入与输出无法影响后续的对话。例如,用户在第一句告知姓名,但在后续询问时,模型无法回忆起之前的交互内容。为了实现连续的对话体验,必须引入记忆模块来维护和管理上下文信息。
02短期记忆:Session内的上下文维护
短期记忆主要针对单次会话,确保当前对话窗口内的上下文连贯性。其基础实现形式是将Message List(消息列表)作为历史记录随每次请求一同发送给大模型。然而,随着对话深度的增加,直接传输全量历史记录会面临Token长度限制和性能瓶颈。因此,需要采用压缩机制来优化存储与传输效率。
- 消息列表(Message List)
作为短期记忆的载体,记录当前Session内的所有交互历史,确保模型能理解上文逻辑。 - 长度压缩策略
当历史记录超过Token限制时,采用大模型摘要的方式对全量历史进行语义压缩,保留核心意图并减少数据量。 - Redis存储应用
利用Redis的高速读写能力和内存存储特性缓存压缩后的消息。设置自动过期时间(如30分钟),符合短期记忆的生命周期管理。
03长期记忆:跨Session的信息持久化
长期记忆旨在跨越单一会话的生命周期,持久化存储用户画像和重要历史片段。这使得智能体能够根据用户的历史偏好或过去的对话内容提供个性化服务。实现长期记忆通常结合结构化数据库与向量数据库,分别处理用户画像和语义检索需求。
- 用户画像(User Profile)
存储用户的基本属性(如年龄、性别)及动态偏好(如技术栈、近期关注点)。数据通常存储在常规数据库中,并在每次对话时注入到Prompt中。 - 向量数据库与语义检索
用于存储历史对话中的重要记忆片段。通过将对话历史向量化,实现基于语义而非关键词的检索,能够根据当前输入智能关联历史相关话题。 - 数据积累机制
在Session结束或每隔N条消息时,利用大模型对历史对话进行语义总结,将生成的记忆片段写入向量数据库,供未来对话检索使用。
04核心区别:Data与Memory的界定
在架构设计中,必须严格区分“数据”与“记忆”。数据指的是所有聊天历史的原始记录,主要用于防止信息丢失和复盘,通常存储在常规数据库中但不直接参与实时计算。记忆则是指经过筛选、压缩和提炼后,实际需要在大模型推理时被加载和使用的上下文信息。记忆研究的核心在于决定“下一次要往LLM中发送什么”,而非单纯地存储所有信息。
| 维度 | Memory (记忆) | Data (数据) |
|---|---|---|
| 核心定义 | 下一次往LLM中发送的内容 | 所有存储的原始聊天记录 |
| 存储介质 | Redis (短期), 向量库/DB (长期) | 常规数据库 (持久化备份) |
| 参与计算 | 是,直接参与推理上下文构建 | 否,仅作为备份或审计 |
| 生命周期 | 依策略动态调整 (如短期自动过期) | 长期保存,直到人工删除 |
记忆与数据的架构差异
当前文章无评论,是时候发表评论了