Anthropic:AI记忆的关键是知道忘什么
让 AI 智能体跨会话「记住事」,Anthropic 给出的答案有点反直觉:关键不是存得多,而是舍得删。Anthropic 在一篇研究博文中拆解了 Claude 的记忆机制——模型把笔记写进一个文件夹,下次会话再读回来;模型本身不变,靠笔记延续记忆。
难点在于「当场选什么记」。写下每条笔记时,智能体并不知道接下来会发生什么,每一条记录都是对未来的一次押注。Anthropic 用《宝可梦 红》做了对比测试:较旧的 Claude Sonnet 3.7 把什么都当宝贝,打了约一万步游戏后建出 225 个文件夹、413 个文件,甚至给每场战斗单独立档;由于游戏状态不断变化,这些档案很快过时,模型有一阵子干脆放着游戏不打、专心整理笔记。而较新的 Claude Fable 5 只保留几个文件,就拿到了四枚徽章——它不记录屏幕上已经可见的信息,只写下计划、策略和验证过的规则。当然,这次对比每个模型只跑了一遍,样本有限。
记错的笔记比不记更危险。为此 Anthropic 引入了一种叫「Dreaming」的补救机制,思路源自 Letta 与 UC Berkeley 的研究:趁休息时回放早前会话的完整记录,逐条核对笔记。测试里 Claude 曾把一处地标错记在山的另一侧,结果照着错误笔记三次掉进同一个陷阱,一度想放弃并错过目标;跑完一次 Dreaming 之后,它对照记录发现了错误,找到了正确路线。

Dreaming 还能整理大型知识库:Anthropic 让 Claude 把被收购的软件公司 Stainless 约 35 万份内部文档编成带互链的 wiki,在补洞、去重、修死链的同时生成新页面,而与搜索配合使用时收益最大。在另一项法律测试中,对于答案分散在多份文档的问题,带 wiki 的 Claude 得分 87%,纯搜索只有 73%;至于简单查询,两者不相上下,甚至出现过 wiki 越长越大、体量超过原始文档的情况。
Anthropic 也坦承几个未解问题:边干活边记笔记会分散智能体注意力;Dreaming 要额外消耗算力,结果还有延迟;wiki 和笔记需要持续维护,否则错误和幻觉会越积越多。此外,把太多记忆自动塞进每次会话会挤占上下文,还可能把坏笔记一路带进去。操作建议也很务实:给模型讲清楚记忆的用途、让它自己决定怎么记,效果最好——「只记错误」这类死板指令会抵消强模型的大部分优势,而较弱的模型反而需要明确指令,比如每次回答前先读一遍笔记。
Dreaming 早在今年 5 月就作为研究预览随 Claude Managed Agents 平台上线:它读取现有记忆库和最多 100 个历史会话,在不动原件的前提下重组出一个新库,当时支持 Opus 4.7 和 Sonnet 4.6。顺带一提,OpenAI 今年 6 月改造 ChatGPT 记忆时也用了「Dreaming」这个名字,那次改造把时间相关问题的准确率从 52.2 提到 75.1。看来在「AI 怎么记事」这件事上,两家公司的判断一致:会遗忘、会纠错,才算会记忆。
编译自 The Decoder,原标题:"Anthropic says the key to agent memory is knowing what to forget, not how much to store"
