构建 AI Agent 时，Memory 机制通常如何分层设计，短期上下文、长期记忆和检索注入分别解决什么问题？

60 秒回答模板

我会把 Agent 的 Memory 设计理解为分层状态系统，而不是单纯把历史对话塞进向量库。第一层是短期上下文，也就是当前对话窗口和当前任务状态，它解决的是“模型此刻正在做什么”的问题，包括用户最新意图、最近几轮对话、工具调用结果、临时约束和待完成步骤。它的优点是即时、准确、实现简单，缺点是受上下文长度和 token 成本限制，长任务中需要摘要、压缩和状态结构化。 第二层是工作记忆或会话状态，主要保存一个任务过程中需要跨步骤保留的信息，例如计划、子任务进度、已验证结论、工具返回的关键事实、失败重试记录。它比短期上下文更结构化，通常可以放在状态对象、数据库或任务运行日志中，避免模型每一步都重新推理。这里的关键是区分临时状态和可长期保存的信息，任务结束后不一定都写入长期记忆。 第三层是长期记忆，解决跨会话的持久化问题，例如用户偏好、项目背景、稳定事实、常用工作流、历史决策和可复用经验。长期记忆不能见什么都存，要有写入门槛：是否稳定、是否可复用、是否经过用户确认、是否涉及隐私、是否有过期时间。长期记忆通常需要结构化字段、来源、时间戳、置信度、作用范围和删除机制，否则很容易出现过期记忆、冲突记忆或跨用户污染。 第四层是检索注入，也就是 RAG 或 Memory Retrieval。长期记忆和外部知识库并不会自动进入模型上下文，需要通过关键词、向量、混合检索、rerank、权限过滤和相关性阈值选出少量内容，再注入 prompt。它解决的是“需要时拿出来用”的问题，核心权衡是召回和精度：召回太低会遗漏关键记忆，召回太高会把噪声塞进上下文，引发幻觉、成本上升和任务偏航。 实际设计中还要考虑写入、更新和遗忘机制。一个可靠的 Agent 应该先从对话或任务中抽取候选记忆，再做去重、冲突检测、权限检查和必要的人类确认；对于长期不用、明显过期或被用户否定的记忆要支持衰减、归档或删除。安全上要防止 prompt injection 把恶意内容写入记忆，也要避免把敏感信息跨会话暴露。 评估时不能只看“有没有记住”。我会看记忆命中率、检索 precision/recall、任务成功率、因错误记忆导致的失败率、平均注入 token、延迟、用户纠错率和隐私事件。做实验时可以用 ablation 对比无记忆、只短期记忆、长期记忆加检索的效果。一个好的 Memory 设计应该让 Agent 更连续、更个性化、更少重复询问，同时不明显增加错误、成本和隐私风险。