Agent记忆（Memory in Agent）

【AI大模型入门教程】Agent记忆系统：6大核心操作全景解读，自LLM进入Agent时代，如何处理人机交互的历史信息和状态，一直是学术前沿思考的核心问题。因此，记忆模块（Memory）也就成为了研究重点。

Agent记忆（Agent Memory）是指AI Agent在执行任务过程中存储和管理信息的能力和机制。它类似于人类的记忆系统，使Agent能够记住过去的交互、经验和知识，并在后续任务中利用这些信息做出更好的决策。这种记忆机制对于实现持续学习和处理长期任务至关重要。

当对话太长时，把早期内容压缩成摘要，节省 Token。prompt = f"""请将以下对话历史压缩成一段简洁的摘要，保留关键信息（用户需求、已做决策、重要结论）：上下文窗口是"工作台"，记忆系统才是"档案柜"。工作台放不下的，必须有地方存。短期记忆管当前任务，长期记忆管跨会话复用。没有记忆的 Agent，注定是一次性的助手。一个最小可用的记忆系统只需要：对话缓存 + 摘要模块 + 持久化存储 + 记忆管理器。

当前大语言模型（LLM）本身无状态，受 Transformer 上下文窗口限制，存在短期遗忘（对话超出窗口长度会丢失初始信息，影响连贯性）、无法长期学习（不能从与特定用户交互中积累偏好等信息，每次对话如与陌生人开始）、缺乏个性化（难以形成独特个性和建立长期用户关系，服务较通用）等问题。为打破 “金鱼困境”，实现持续学习、演化和提供个性化体验，记忆机制至关重要。

如果什么时候，可以不断流式的接受外界的输入token，KV Cache一直在GPU内存或者临时换出到CPU内存，这样KV Cache就是AI Agent的工作记忆，或者说AI Agent的状态，这是的Agent或许就是不断进行的“半神”存在。大模型的输入：包括角色设定（system prompt）、最近对话、全局记忆概要（即角色对用户的核心记忆 b.2）、经过RAG的聊天记录分段总结（a.）和分类总结（b.1）。，每次API调用还是无状态的，需要带上前面所有的聊天记录，重复计算所有的KV Cache。

第三章：Memory System 摘要 本章深入探讨了 AI Agent 记忆系统的核心架构与实现技术。重点解析了三层记忆体系：Session Memory（会话级短期记忆）、Daily Memory（日常中期记忆）和 Long-term Memory（长期知识库），揭示其分层存储与分级检索机制。详细介绍了滑动窗口压缩、向量检索与 RAG 技术集成等关键技术，以及多层记忆查询调度算法。通过与传统 Chatbot 的对比，阐述了记忆系统对 Agent 智能连续性和个性化能力的关键作用，并提供了各层存储的性能

Claude Code采用三层记忆架构提升AI Agent的实用性：1）In-Context Memory作为临时工作台；2）memory.md索引+领域文件实现模块化持久记忆，支持自我更新；3）CLAUDE.md存储稳定项目知识。该设计通过分离记忆类型、实现透明化存储和自主维护，解决了传统Agent记忆易丢失、效率低的问题，体现了结构化系统设计比单纯追求模型能力更重要。架构支持Agent持续学习项目知识，同时保持记忆可审计和可干预。

做 AI Agent 这几年，不管是面试候选人还是线上故障复盘，我发现一个共性问题：**90% 的人对记忆系统的认知还停留在两三年前的 "短期 + 长期" 两层架构**。但真实线上环境里，纯两层架构早就不够用了。

在之前的文章我们有讲过状态可以由 checkpointer 在图形执行的每一个步骤写入线程，从而实现状态持久性。而图形执行时这只是其中一个线程，但如果我们想跨线程保留一些信息怎么办？加入有一个聊天机器人，我们希望在机器人与该用户的所有聊天对话（例如，线程）中保留有关该用户的特定信息！这种情况下仅使用 checkpointer，我们无法跨线程共享信息。例如，我们可以定义一个 InMemoryStore 来跨线程存储有关用户的信息。

本文系统介绍了9种AIAgent记忆管理技术。从基础的顺序记忆到复杂的混合分层系统，每种方法各具特点：顺序记忆简单但成本高；滑动窗口节省资源但可能丢失信息；摘要方式平衡成本与连贯性；基于RAG的检索最优但实现复杂；知识图谱擅长关系推理。文章指出，选择策略需权衡任务需求、预算和工程复杂度，建议根据智能体的具体功能（如短命机器人选滑动窗口，专家系统用知识图谱）采用合适方案，甚至组合多种技术。这些记忆策略是构建真正具备持续学习能力智能体的关键技术。

继续看**Agent记忆进展**，看10种Agent记忆方案对比总结，可以借此机会，看看这些记忆系统在设计的时候都有哪些组件，有哪些优化策略，以及有哪些经验。【我们已经陆陆续续讲了多个了，也有一些综述，但拉到一个框架上，做抽象的回顾，其实也蛮有必要】

记忆模块的应用虽然目前还处于探索阶段，但和其他模块简单的读写过程会不断让Agent存储其关键的事实、偏好和改进建议，从而能得到更好的表现、准确率和稳定性。记忆模块也是Agent学习以及经验的基础，在记忆之上，Agent不仅能够变得更加聪明，更能够具备“智慧”，如同长者一般解决“年轻”Agent难以解决的问题。希望未来，AI在通往AGI之路上，能够更多地研究记忆模块的各类妙用，探索其对模型能力的加持。

斯坦福《Generative Agents: Interactive Simulacra of Human Behavior》论文解读。

记忆（Memory）模块负责存储信息，包括过去的交互、学习到的知识，甚至是临时的任务信息。对于一个智能体来说，有效的记忆机制能够保障它在面对新的或复杂的情况时，调用以往的经验和知识。例如，一个具备记忆功能的聊天机器人可以记住用户的偏好或先前的对话内容，从而提供更个性化和连贯的交流体验。它分为短期记忆和长期记忆：a. 短期记忆，所有的上下文学习都是利用短期记忆来学习；b. 长期记忆，这为智能体提供了长时间保留和回忆。

AI智能体（Agent）是结合大模型、工具调用和自主行动能力的AI系统，能像人类一样拆解并执行复杂任务。其四大核心模块包括：LLM大脑负责推理决策，记忆库存储短期/长期信息，规划引擎分解任务，工具箱连接现实工具。相比传统聊天机器人，智能体具备多模态感知、自主规划、工具调用和记忆增强能力，能完成旅游规划等实际任务。随着AI技术快速发展，2025年AI领域人才缺口预计达1000万，学习大模型技术成为把握新兴机遇的关键。

在一系列的教育辅导对话中，学生可能会提出不同的数学问题或理解难题（如“我不太理解二次方程的求解方法”）。ConversationSummaryMemory 可以帮助 AI 总结之前的辅导内容和学生的疑问点，以便在随后的辅导中提供更针对性的解释和练习。

本文深入探讨了 Agent 缺乏记忆系统的痛点，区分了上下文窗口与记忆系统的概念，详细介绍了短期记忆和长期记忆的机制及其在 Agent 架构中的位置。通过一个客服 Agent 场景，阐述了记忆系统如何提升用户体验。文章还提供了一个最小可用的记忆系统实现方案，包含对话缓存、摘要模块、记忆存储、记忆管理器等组件，并指出了常见的记忆设计误区。最后强调记忆系统对 Agent 规划与反思能力的重要性。

Agentic memory 不是单一组件，它更像一套幕后系统：不同类型的存储、不同检索方式、以及智能管理策略，让 Agent 能真正跨时间携带上下文。说白了，记忆同时在做三件有区别的事。连续性（Continuity）关乎身份。Agent 如何知道你是谁、你偏好什么、以及你们已经一起建立了什么。没有它，每次交互都像从零开始。上下文（Context）关乎当前任务。刚发生了什么、用了什么工具、返回了什么结果、以及下一步需要做什么。它让多步骤工作流不至于崩掉。学习（Learning）关乎变得更好。

文章介绍了AI Agent实现连续任务处理的9种主流记忆策略，分为基础款(顺序记忆、滑动窗口)、优化款(摘要优化、压缩整合)、进阶款(RAG、内存增强Transformers、分层优化)和专业款(知识图谱、操作系统式记忆)。文章针对不同应用场景提供选择建议，强调强大的Agent往往会混搭多种策略，核心是根据需求选择合适的记忆术。