1. 背景
一句话理解：Agent 不能只做“会回答问题的模型”，还要做“能记住用户、任务与世界的长期服务者”，Agent Memory 就是让这种连续性成为可能的工程层。
为什么 Agent 不能只靠 Prompt？
早期的大模型应用基本可以归结为：
text
用户提问 → 模型根据 Prompt 生成回答这时的“记忆”就是一次请求的上下文窗口。只要对话一结束，所有信息就烟消云散。进入 Agent 阶段后，单次调用远远不够，因为 Agent 需要：
- 多轮推理：ReAct 循环中每一步都要基于历史 thought、action、observation 做决策。
- 跨会话保持：用户昨天提到的偏好，今天应该还能影响回答。
- 任务经验复用：之前成功完成过的任务，下次遇到类似场景应该更快、更稳。
- 个性化服务：不同用户、不同租户、不同角色需要不同的默认行为。
- 长时任务：任务可能持续数分钟到数小时，中间状态必须持久化。
如果把这一切都塞进 Prompt，很快会遇到三个天花板：
- 上下文长度限制：再长的窗口也装不下数年积累的用户偏好与任务历史。
- 成本与延迟：每次调用都塞满历史记录，token 消耗和推理时间会线性增长。
- 信息检索低效：模型需要在海量历史文本中“自行回忆”，命中率低、幻觉风险高。
因此，Agent 需要一个显式的记忆系统，把重要信息结构化地存下来，在需要时按需检索。
演进：从“无状态 LLM”到“长期记忆”
Agent 记忆的发展大致经历了三个阶段：
text
无状态 LLM → 上下文历史 → 显式记忆系统阶段一：无状态 LLM
每个请求独立，模型看不到之前说过什么。适合一次性问答、文本生成，但无法完成复杂任务。
阶段二：上下文历史
把多轮对话作为 messages 列表传给模型，形成“工作记忆”。这是 ChatGPT、Claude 等对话产品的标配。
优点：
- 实现简单，直接复用模型 API。
- 对当前会话的短期依赖效果好。
局限：
- 受窗口长度限制。
- 跨会话无法保留。
- 没有显式检索机制，模型容易遗忘早期信息。
阶段三：显式记忆系统
把 Agent 运行过程中产生的关键信息提取出来，分类存储，按需检索。这是 Agent Memory 的核心。
Agent Memory 与相关概念的区别
| 概念 | 核心问题 | 与 Memory 的关系 |
|---|---|---|
| Prompt / 上下文窗口 | 当前请求能看到多少历史 | Memory 把超出窗口的内容持久化，按需回注 |
| RAG | 从外部知识库检索固定知识 | RAG 读企业文档；Memory 读 Agent 自身运行中积累的用户偏好与经验 |
| Cache | 避免重复计算、加速响应 | Cache 是短期、命中即用的；Memory 是长期、可检索、可遗忘的 |
| Agent Runtime | 如何执行 Agent 任务 | Runtime 在循环中读写 Memory；Memory 负责存储、检索、压缩本身 |
| 数据库 / KV 存储 | 通用数据持久化 | Memory 是面向语义检索与生命周期的专门抽象，底层可以用 KV/向量/图数据库 |
| 知识图谱 | 实体关系结构化表示 | 可作为长期记忆的一种实现形式，与向量记忆互补 |
一个常见误区是：把 Memory 等同于“给 Prompt 多塞点历史”。真正的 Memory 系统要解决的是：
- 什么值得记？
- 怎么编码才能检索？
- 什么时候回注？
- 什么时候遗忘？
- 多用户之间如何隔离？
为什么 Memory 现在变得重要？
- Agent 任务越来越长：从一次性问答发展到小时级研究、数据分析、代码生成，必须持久化中间状态。
- 用户对个性化期待提高：真正的助手应该记得用户习惯，而不是每次重新适应。
- 多 Agent 协作需要共享上下文：不同 Agent 之间需要共享事实、任务状态与经验。
- 模型上下文成本仍然显著：即使长上下文模型越来越便宜，把所有历史塞进 Prompt 仍不是可持续的做法。
- 企业场景对隐私与审计要求更高：记忆系统必须支持租户隔离、TTL、敏感信息过滤与审计。
主流记忆系统 / 框架
| 项目 | 定位 | 核心抽象 | 适用场景 |
|---|---|---|---|
| Letta（原 MemGPT） | 面向 Agent 的分层记忆系统与有状态 Agent Runtime | core memory / archival memory / recall memory、sleep-time compute | 长对话、需要显式记忆管理与后台记忆整理的 Agent |
| Mem0 | 面向 AI 助手的记忆中间件 | user / session / memory，ADD/UPDATE/DELETE/NOOP 事实操作 | 个性化助手、用户偏好记忆，快速集成 |
| Zep / Graphiti | 时序知识图谱记忆引擎 | 双时序（bi-temporal）知识图谱、episode/entity/community 三层子图 | 事实随时间变化的关系型记忆、企业级治理 |
| LangGraph Persistence / Store | 生产级状态与记忆持久化 | checkpoint / store / memory | 有状态工作流、跨会话记忆 |
| OpenAI Agents SDK Sessions | OpenAI 生态的会话管理 | session / state / memory | OpenAI-only、快速落地 |
| MemOS（MemTensor） | “记忆操作系统”（Memory-Augmented Generation） | MemCube 抽象、MemScheduler、记忆生命周期管理 | 需要统一管理多类型记忆与跨 Agent 共享记忆的平台 |
| LangMem | LangGraph 原生的记忆 SDK | 扁平 KV + 向量记忆、prompt 优化 | LangChain 生态内的个性化与长期记忆 |
| Chroma / Weaviate / Milvus / pgvector | 向量数据库 | collection / index / embedding | 语义检索、长期记忆存储后端 |
这三类代表性的记忆系统代表了三种不同的设计哲学：
- Agent 管理型（Letta）：记忆编辑暴露为工具，Agent 自己决定记什么、忘什么，配合 sleep-time compute 在空闲时后台整理记忆。
- 自动抽取中间件型（Mem0）：LLM 管道自动把对话蒸馏成事实与偏好，对上层 Agent 透明，接入成本最低。
- 时序图谱平台型（Zep/Graphiti）：以双时序知识图谱为核心，擅长“事实何时为真”的推理与治理。
2025–2026 年的关键演进
进入 2025 年下半年后，Agent Memory 从一个“加分项”变成了 Agent 基础设施的共识组件，出现了几个值得关注的趋势：
- 混合记忆成为默认架构：生产 Agent 普遍采用“向量（快速模糊召回）+ 图（实体/时序推理）+ 情景缓冲区”的组合，而不是押注单一存储。Mem0g 在向量层之上叠加 Neo4j 图谱，Graphiti 以时序图谱为核心，都是这一趋势的体现。
- 记忆评估基准成型：LoCoMo、LongMemEval 及其扩展 LongMemEval-V2、BEAM 成为评估记忆系统的事实标准；ICLR 2026 还开设了 MemAgents（Memory for LLM-Based Agentic Systems）专题研讨会。同时厂商自报基准分数屡有争议（如 Zep 公开反驳 Mem0 的 LoCoMo 配置），社区共识是“自己跑 bake-off，不信厂商数字”。
- 记忆管理走向后台化（sleep-time compute）：Letta 把“睡眠时计算”从论文（arXiv:2504.13171，可降低约 5 倍测试时计算量）产品化，后台 Agent 在空闲时扫描历史、整理与升降级记忆，记忆整理不再占用用户请求的延迟。2026 年 9 月，中间件路线的 Mem0 也发布了 Dream 功能，用 Merge / Supersede / Synthesize 三种后台操作做记忆整合——“后台记忆整理”从单一框架的特性变成了跨路线的共识标配。
- 记忆服务协议化：Graphiti 的一等公民 MCP Server、Mem0 成为 AWS Agent SDK 的独家记忆提供方，说明记忆层正在从“内嵌库”演变为可通过 MCP 等标准协议接入的独立服务。2026 年下半年 Graphiti 的 MCP Server 补齐了与核心库的能力对齐（双时序、saga、社区、过滤器），并支持按 group_id 路由实现多租户隔离；Mem0 也发布了 Claude Connector（2026 年 9 月），让 Claude 对话直接获得持久记忆。
- “记忆操作系统”出现：MemOS 提出 MemCube 抽象，把参数记忆、激活记忆与明文记忆统一纳管，并配套 MemScheduler、MemLifecycle 等“OS 级”组件，代表了把记忆提升为第一类基础设施资源的探索。
- 评测范式从“问答准确率”走向“行动 + 成本 + 可遗忘”：2026 年 9 月 Mem0 发布 DolphinBench，不再用问答评测记忆，而是用 600 个依赖记忆的工具调用动作任务（三个模拟多年历史的 persona，每人约 50 万 token 历史）同时考察准确率、成本与延迟，并引入“可解性认证”。同期 arXiv 上的 FEB-30（2610.22209）指出下游 QA 会把记忆质量与检索/生成能力混为一谈，Bemula（arXiv:2610.18052）则首次系统评测“记忆删除权”——结论是没有系统能端到端通过超过 1.5% 的遗忘请求，合规遗忘成为公认短板。
本章小结
Agent Memory 的产生是 Agent 从“一次性问答”走向“长期服务”的必然结果。它既不是 Prompt 的无限延长，也不是 RAG 的别名，而是一个独立的工程层：负责把 Agent 运行中产生的上下文、事实、偏好与经验结构化地保存、检索、压缩与遗忘。理解 Memory 与 Prompt、RAG、Cache、Agent Runtime 的边界，是设计生产级 Agent 的基础。
参考来源
- MemGPT: Towards LLMs as Operating Systems
- Steve Kinney — Agent Memory Systems
- Letta Documentation
- LangGraph Persistence
- OpenAI Agents SDK Sessions
- Mem0 Blog — State of AI Agent Memory 2026
- Mem0 Blog — Dream: Background Memory Consolidation（2026-09）
- Mem0 Blog — DolphinBench（2026-09）
- Bemula: Memory Unlearning Benchmark（arXiv:2610.18052）
- Graphiti GitHub（Zep 开源引擎）
- MemOS GitHub（MemTensor）