← 返回系列首页

EP05 · 记忆层:短期上下文与长期记忆

总时长 13:00 · 段数 7 · 净字 3912 · 字幕 104 条
播完后
开场记忆的三个动作:存、取、排序两个错项:一条是维度错误,一条是红线超长输入:窗口为什么赢过截断长期记忆:按语义找东西状态管理:记忆的总账本这一集带走的判断

EP05 · 记忆层:短期上下文与长期记忆

一句话概要:记忆分两层、手段分三种、账本有三笔——短期上下文缓存管快,向量数据库管准,事件序列时间戳管全;隐私是记忆设计本身的一部分。 时长见文末声明 | 素材锚点:多6、单2、单14、多23 | 所属:第一季·核心范式

一、知识框架

本集讲智能体的记忆层,回答四个问题:

  1. 记忆机制包含哪些手段(多6):三个正选——短期上下文缓存(管快)、向量数据库检索(管准)、事件序列时间戳(管全);两个错项——硬件寄存器读写(维度错误:裸机编程混进软件设计)、用户隐私明文存储(合规红线:加密、脱敏、可删除是记忆设计的一等公民)。
  2. 超长输入怎么处理(单2):优先滑动窗口注意力。原样保留胜过有损压缩:截断丢后半段重点,摘要压缩失真且误差叠加,拒绝服务是推诿。
  3. 长期记忆用什么存(单14):向量数据库。长期偏好的检索方式是语义相似度,向量库天生对口;Redis 管当下、关系库不擅长语义、文本日志无检索能力。
  4. 状态管理管什么(多23):三笔账——环境观测编码(统一格式)、内部信念更新(新观测修正旧认知)、目标优先级排序(多目标撞车时谁让谁);电池电量与外壳温度是硬件监控,不是认知账本。

二、题面锚点

多选 6:智能体的记忆机制可包含()

A. 短期上下文缓存 B. 向量数据库检索 C. 事件序列时间戳 D. 硬件寄存器读写 E. 用户隐私明文存储

单选 2:部署对话型智能体时,处理用户超长输入的优先方案是()

A. 直接截断前 N 个字符 B. 分段摘要再整合 C. 拒绝服务并报错 D. 使用滑动窗口注意力

单选 14:智能体需要长期记忆用户偏好,适用的存储方案是()

A. Redis 缓存 B. 向量数据库 C. 关系型数据库 D. 本地文本日志

多选 23:智能体的状态管理涉及()

A. 环境观测编码 B. 内部信念更新 C. 目标优先级排序 D. 电池电量监测 E. 外壳温度传感

三、答案要点讲透

多选 6 答案:A、B、C(D、E 不选)

单选 2 答案:D(使用滑动窗口注意力)

单选 14 答案:B(向量数据库)

多选 23 答案:A、B、C(D、E 不选)

四、延伸思考

  1. 记忆设计的第一性问题不是存,是删:缓存要淘汰、摘要要有损取舍、偏好要覆盖更新、隐私要可删除。记忆系统的成熟度不看能存多少,看能不能干净地忘。被遗忘权从法理上把「删」变成了硬需求,记忆架构从第一天就要为删设计。
  2. 「有损压缩」与「原样保留」的路线之争:单2 的四个选项其实是两条技术路线——滑动窗口代表原样保留派,分段摘要代表有损压缩派。业界成熟系统常混用:窗口内保真、窗口外摘要加检索兜底。题库把「优先方案」判给窗口,判据是超长输入场景下关键约束的保全率优先于覆盖长度。
  3. 与语音链路测试的连接(作者实践注脚):对话型智能体的超长输入处理,直接决定长会话 ASR 测试的设计——转写文本动辄数万字,滑动窗口与摘要的切分方式影响错误定位粒度;记忆层的「时间戳」要求,对应测试数据里每条 utterance 的时间轴完整性。
  4. 状态管理是协同的地基:第一集讲多任务协同的前提是统一记忆与状态管理。三个正选正是这个前提的展开:观测编码让多模块说同一种话,信念更新让全系统对世界的认知一致,目标排序让并行的努力不互相拆台。

五、术语表

白话术语一句话解释
脑子正想着的事短期上下文缓存存当下对话的临时信息,求快,会话结束即清,配淘汰策略
按意思找东西向量数据库检索内容转向量,按语义相似度召回,非逐字匹配
事情有先有后事件序列时间戳记录事件发生时间,让记忆有因果、可判新旧
装不下也不失真滑动窗口注意力每步只看窗口内完整上下文,算力线性可控,保留原始内容
三年后还记得你长期记忆跨会话存活的用户偏好与历史,靠向量库按语义检索
脑子里的账状态管理环境观测编码、内部信念更新、目标优先级排序三笔账

*本集音频:ep05-记忆层.mp3 | 下一集:EP06 规划层:目标分解、搜索与抗干扰*