- 文档首页
AgentKit
AgentKit
用户指南
会话与记忆管理
AI 对话系统的三层记忆架构:Session、短期上下文与长期记忆的分工与协同
会话与记忆管理
AI 对话系统的三层记忆架构:Session、短期上下文与长期记忆的分工与协同
AI 对话系统的三层记忆架构:Session、短期上下文与长期记忆的分工与协同
在大模型对话系统、智能客服、AI 助手等产品落地中,Session(会话)、多轮对话上下文(短期会话资源)、长期记忆是 AI 对话系统的三层核心能力:Session 是对话的“容器”,负责生命周期与资源隔离;短期上下文是对话的“实时大脑”,保障单场多轮交互连贯;长期记忆是对话的“长效认知”,实现跨会话个性化延续。三者层层依托、互补配合,既保障了单次对话的实时流畅性,又实现了用户认知的长期沉淀,是智能对话产品个性化、场景化、持续化落地的核心基础。
本文将从核心概念、核心特征、适用场景、差异化对比、联动机制、落地案例及使用规范七个维度,清晰区分三者,并明确三者的配合逻辑,为功能设计、技术开发、产品迭代提供统一标准。
Session 仅为会话唯一身份标识与挂载凭证,以 SessionID 作为单场对话的唯一隔离主键。
能力边界(重点):
- 不处理任何业务数据:不存历史问答、不存任务状态。
Session 只做一件事:“定义、标记、隔离一个会话实例”。AgentKit 的所有会话管理、持久化存储、资源管控能力均由外部承载,存储侧走会话管理模块,调度侧走业务应用层。
核心特征:
- 唯一标识:每个 Session 拥有唯一 SessionID,区分不同用户、不同场景的独立对话。
- 被动生命周期:仅标记会话活跃 / 失效 / 超时状态,生命周期由业务应用层通过 SDK 发起、会话管理模块负责存储侧回收。
- 纯挂载关系:作为短期上下文与运行态资源的挂载点,本身不存储、不运算、不调度。
短期上下文(也叫多轮对话上下文 / 多轮会话资源)是Session 生命周期内的实时交互数据集合,属于会话临时资源,专门承载单次对话内的多轮交互信息,是大模型实时应答的核心依据。
- 依附性:100% 依附于 Session 存在,Session 销毁则上下文同步清空。
- 时效性强:仅保留当前对话的多轮问答记录、临时指令、场景状态。
- 容量有限:受模型上下文窗口限制,超出阈值会触发裁剪、 摘要压缩(summarization)。
- 实时生效:每一轮对话都会实时更新,直接参与模型本轮推理。
- 典型内容:历史问答对、临时人设、当前任务指令、对话中间结果、本轮场景约束等临时数据。
- 承载模块:短期上下文的持久化由会话管理负责(RDS MySQL / PostgreSQL)。
长期记忆是脱离单次 Session 独立持久存储的用户结构化信息,是跨会话、跨设备、跨时间的用户资产沉淀,用于实现 AI 个性化、持续化认知。
- 独立性:不依附任何 Session,生命周期与用户账号绑定,永久留存(可手动删除/更新)。
- 结构化沉淀:非原始对话流水,而是经过提取、过滤、结构化整理的有效信息。
- 可复用性:所有新会话均可调用,实现跨对话的认知延续。
- 非实时推理:不会全部灌入上下文,仅按需检索、增量加载。
- 典型内容:用户基础信息、偏好习惯、历史需求、个人设定、常用规则、关键事件、知识沉淀。
- 承载模块:长期记忆的持久化由记忆库负责(Viking / mem0)。写入时使用预置策略——会话摘要 / 语义记忆 / 用户偏好,或自定义策略。
- 会话隔离:区分同一用户的多开对话窗口,避免不同场景对话内容串扰;
- 状态管理:识别会话活跃、超时、关闭状态,实现超时重连、会话重置;
- 资源绑定:为单次对话绑定专属上下文、临时人设、场景模型参数;
- 数据统计:基于 SessionID 统计单场对话轮次、时长、交互效果。
- 单任务多轮交互:文案改写、代码调试、方案打磨、问答追问等连续对话场景;
- 临时任务约束:单次对话内临时设定的语气、格式、输出规则,无需长期留存;
- 实时逻辑延续:模型需要基于上一轮对话内容、中间结果,完成本轮应答;
- 短期交互溯源:用户在当前会话内查看历史问答、回溯对话过程。
- 跨会话个性化适配:用户多次对话统一适配偏好(如固定输出风格、禁用词汇、常用格式);
- 用户信息留存:记忆用户职业、需求、习惯、关键诉求,无需用户重复输入;
- 长期任务跟进:学习规划、写作连载、项目跟进等跨天数、跨会话的持续性任务;
- 用户资产沉淀:汇总用户历史提问、核心需求、知识积累,形成专属用户画像。
Session、短期上下文、长期记忆协同配合机制
三者形成「顶层容器承载+实时资源支撑+长效认知赋能」的层级联动体系,是 AI 对话系统正常运行的核心逻辑,完整协同流程如下。
- 顶层载体:Session 作为对话唯一身份挂载点,标识本次对话;生命周期由业务应用层通过 SDK 发起,会话管理模块负责存储侧的落盘与回收。
- 实时支撑:短期上下文依附 Session,提供当前对话的实时交互数据,由会话管理模块持久化到会话资源。
- 长效赋能:长期记忆独立于 Session,由记忆库模块持久化到 Viking / mem0,为所有会话提供跨场景、跨时间的个性化认知补充。
- 会话初始化:用户打开对话窗口,业务应用层通过 AgentKit SDK 发起创建;会话管理模块生成新的 Session(唯一 SessionID)并落盘,初始化空的短期上下文。
- 长期记忆检索加载:根据当前用户账号,从记忆库中检索匹配的结构化长期记忆,筛选与本次对话场景相关的内容,轻量化注入到短期上下文。
- 实时对话迭代:用户每一轮提问,会话管理模块更新短期上下文;模型结合“历史多轮 + 已注入的长期记忆”完成本轮推理;本轮结果写回短期上下文(RDS 落盘)。
- 长期记忆增量沉淀:该轮对话结束后异步触发预置或自定义策略(会话摘要 / 语义记忆 / 用户偏好),把结构化后的有效信息写入记忆库,单次对话内不阻塞主链路。
- 会话结束销毁:业务应用层通过 SDK 关闭会话;会话管理模块按策略清理或归档 Session 与短期上下文;记忆库中的长期记忆不受影响。
- 短期不沉淀长期:会话管理里的原始流水不直接写入记忆库;必须经过预置或自定义策略结构化后再写。
- 长期按需注入:长期记忆不全量灌入上下文,采用“检索 + 相关性阈值 + 选择性注入”模式。
- 会话强隔离:不同 SessionID 的短期上下文相互独立;不同用户的长期记忆相互隔离。
- 记忆更新可控:记忆库支持人工修正 / 删除;敏感数据不写入会话管理与记忆库。
- 长期记忆预置:记忆库中通过“用户偏好”策略已沉淀:新媒体运营 / 简约文风 / 分段配图 / 拒绝冗余话术 / 短视频文案风格。
- 会话创建:用户打开新的写作对话窗口,业务应用层通过 AgentKit SDK 发起创建;会话管理模块生成 Session 并把 Session 元信息与初始短期上下文落到 RDS。
- 短期上下文启动 + 长期记忆检索:会话管理模块初始化空短期上下文;系统检索命中“简约文风、分段配图、拒绝冗余、短视频文案“等条目,注入短期上下文。
- 多轮协同交互:用户提出“写一篇夏季饮品推广文案”,会话管理模块记录本次需求、初稿、修改意见的多轮上下文,模型结合已注入的长期偏好实时输出。
- 增量记忆更新:本次对话中用户新增“文案需加入口语化短句”的偏好,会话结束后按“用户偏好”策略异步抽取并写入记忆库(Viking / mem0)。
- 会话收尾:业务应用层通过 SDK 关闭会话;会话管理模块按策略清理或归档 Session 与短期上下文;记忆库中更新后的偏好永久留存,下次新建会话可直接复用。
- 严格分层:Session 管身份、短期上下文管实时交互数据、长期记忆管长效认知;承载模块层面:会话管理模块存 Session + 短期上下文,记忆库模块存长期记忆。
- 术语准确:Session ≠ 会话管理;长期记忆 ≠ 记忆库。前者是数据/概念,后者是平台模块,二者严格分开。
- 按需选型:会话管理后端按业务规模选 MySQL / PostgreSQL;记忆库后端按语义精度 / 成本选 Viking / mem0。
- 策略优先:记忆库写入优先用预置策略,有场景差异时再自定义;写入前判断是否具备长期价值。
- 敏感数据豁免:不要把高敏数据(长期 Token、密钥、身份证、卡号)写入会话管理或记忆库;关键操作另建外部审计留痕。
附录:Runtime 运行态上下文、 Knowledge 与三层记忆的边界
最近更新时间:2026.08.11 17:51:54