您的位置首页 >人工智能 >

Anthropic 拆分 Agent 记忆机制,错误笔记会持续注入每一轮会话

Anthropic 新研究把 Agent 的记忆和对话上下文拆开独立存储,这套机制带来一个很突出的隐患,只要 Agent 写下一条错误笔记,这条错误信息就会被自动加载、注入后续每一轮会话里,模型会持续采信这条错信息不断循环犯错,就算中间对话里出现了相反事实,也很难自动推翻已经存好的笔记,官方用宝可梦游戏导航实验直观展示了这个记忆陷阱,同时提出了名叫 “Dreaming(梦境复盘)” 的方案用来自动校验、修正这些错误记忆。传统 Agent 方案是把所有信息全部塞进上下文窗口,优点是所有对话记录都放在一起,缺点是 token 消耗高、长任务容易上下文过载;所以 Anthropic 改成拆分式架构,让 Agent 可以把关键结论写到独立记忆文件里,之后每一轮启动都会读取这份笔记,不用重复加载全部历史对话,以此降低 token 开销、拉长任务时长。但这个设计自带短板,记忆文件本身没有自带真伪校验能力,一旦 Agent 在某一步写错一条事实,这条错误内容就会固化在记忆里,每一轮推理都会带上它,形成闭环错误,在宝可梦实验中,Claude 记错地标方位,之后反复踩同一个陷阱,多次失败之后依旧没有怀疑笔记本身,只会调整自己的行动判断。Dreaming 修复思路就是在任务间隙,让模型回放历史会话记录,对照原始对话自动核验笔记对错,发现矛盾就修改或者删掉错误笔记,打破这种持续污染的循环。

一、拆分式 Agent 记忆架构是什么

  • 架构改动:记忆不再全部放在对话上下文窗口,拆成「实时对话上下文」+「持久化笔记文件」两块
  • 运行逻辑:Agent 在任务过程中把重要结论、事实写入笔记;后续每一轮会话启动,自动读取笔记合并进本轮 prompt
  • 设计初衷:减少上下文里冗余历史,降低 token 成本,支持持续跑几天的超长 Agent 任务
  • 核心缺陷:笔记一旦写错,会反复注入每一轮会话,形成顽固错误

二、宝可梦实验里错误笔记的完整复现过程

  1. Agent 在导航时写下错误笔记:宝可梦中心在月见山东侧,实际位置是西侧
  2. 后续每一轮读取这条笔记,以此作为行动依据出发赶路
  3. 走到单向悬崖掉落,回到起点,导航工具没有提示这个陷阱
  4. Agent 不怀疑笔记,而是判定自己走过头,继续按照错误笔记重复行动
  5. 多次循环失败之后,Agent 甚至主动终止任务,始终没有发现源头是笔记写错

三、Dreaming 梦境复盘修复方案说明

  1. 触发时机:Agent 任务暂停、空闲间隙自动执行,不占用主线任务算力
  2. 执行步骤:回放完整会话日志,逐条比对笔记内容和真实交互记录
  3. 处理动作:发现笔记和事实冲突,自动修改、删除错误笔记
  4. 实验效果:开启 Dreaming 之后,Agent 识别方位错误,修正笔记,顺利完成导航

四、两种记忆方案对比

方案优点风险
传统全上下文记忆所有历史一起带入,不容易固化单独错误token 消耗巨大,长任务容易上下文衰减
拆分独立笔记记忆省 token、支持超长任务错笔记每轮注入,持续污染会话,容易陷入死循环

五、这件事带来的工程影响

  1. 做长周期 Agent 开发时,不能只靠自动记忆,必须加人工校验记忆的入口
  2. 记忆文件是高风险单点,任何写入记忆的动作都要留日志,方便溯源
  3. 只靠模型本身很难自主发现记忆错误,需要配套事后复盘校验机制
  4. 对于代码、运维、金融这类高风险 Agent 场景,记忆污染会带来实际业务损失

六、整件事最终结论

Anthropic 拆分 Agent 记忆,是为了解决长任务上下文太贵的问题,但这个架构引入了新风险:错误笔记会自动注入每一轮会话,让 AI 持续重复同一个错误;Dreaming 复盘机制是对应的解法,靠离线回放核对记忆,不过这个方案还属于研究阶段,还没有完全解决所有记忆污染场景。

【常见问题】

问题 1:Anthropic 拆分 Agent 记忆之后,错误笔记为什么会注入每一轮会话?

回答 1:Anthropic 拆分 Agent 记忆,笔记是独立持久存储文件,每一轮会话启动都会自动读取这份笔记拼入 prompt,只要笔记里面有错误,这条错误信息就会持续注入每一轮会话。

问题 2:Anthropic 用来解决 Agent 错误笔记持续污染的 Dreaming 机制是什么?

回答 2:Dreaming 是 Anthropic 针对拆分 Agent 记忆设计的离线复盘机制,在任务空闲时回放会话记录,比对笔记和真实交互,自动修正会注入每一轮会话的错误笔记。

问题 3:拆分 Agent 记忆这个方案,是不是所有 Claude Agent 都默认开启?

回答 3:拆分 Agent 记忆属于 Anthropic 最新研究方案,目前还在实验验证阶段,不是线上所有 Claude Agent 默认启用的能力。

问题 4:拆分 Agent 记忆带来的错笔记问题,模型自己在对话里能发现吗?

回答 4:很难,拆分 Agent 记忆模式下,模型优先采信持久化笔记,就算对话出现相反线索,模型更容易怀疑自己当前判断,而不是怀疑笔记,错笔记会持续注入每一轮会话反复出错。

【参考资料】

[2026-11-07](Anthropic Agent 记忆研究:错误笔记会持续污染会话,Dreaming 可修复)AI 前线

[2026-11-06](Components of agent memory)Anthropic 官方工程博客

[2026-11-07](Claude dreaming fixes wrong memory notes)The LA Globe

[2026-11-07](Agent memory: how Claude repairs wrong notes with dreaming)DEV Community

【免责声明】

本文内容基于 Anthropic 公开 Agent 记忆研究论文与实验案例整理,拆分 Agent 记忆、Dreaming 复盘机制目前属于前沿研究成果,尚未大规模商用落地;该记忆架构存在的错笔记注入风险,仅为实验观测结论,不代表线上 Claude 产品存在同类问题,内容仅作技术学习参考,不构成 Agent 开发落地指导。

今日大家都在搜的词: