AI Agent的“记忆”到底怎么实现？感觉总是记不住上下文

我一般把最近几轮对话留着，老的摘要成一句话再存向量库，省token还不容易跑偏。

我最近也在踩这个坑，后来发现关键是别把记忆当“存档”而是当“工作台”。我的做法是短期记忆只保留最近3轮对话加一个当前任务状态摘要，长期记忆用向量库存关键实体，比如用户忌口、预算这种。每次新任务先检索相关记忆，再跟短期上下文一起拼进prompt，token省很多。清空的话，任务完成或者话题切换超过两轮就主动丢掉短期缓存，不然模型真的会串线。

短期记忆用滑动窗口截最近几轮，长期记忆存向量库按任务召回，关键还是每步把相关记忆动态拼进prompt。

我也卡在这块，后来用摘要压缩历史对话，短期只留最近几轮，感觉token省了不少。

这个坑我也踩过，全塞历史里模型确实会飘。我现在的做法是短期记忆只留最近三四轮，再单独维护一个“任务状态”对象，比如天气结果、餐厅候选这些，每步更新而不是重复塞原文。长期记忆用向量库存用户偏好，但只在需要时检索，别每轮都查。清空的话，任务完成或者话题明显切换就可以重置短期缓存了。

我也踩过这个坑，把历史全塞prompt里确实不行，模型注意力会被稀释。我的做法是短期记忆只保留最近两三轮的摘要，加上当前任务的状态字段（比如已确认的餐厅、时间），用结构化JSON存着，每次只带这些进prompt。长期记忆才丢向量库，但检索时一定要跟当前任务意图做过滤，不然召回一堆无关的反而干扰。清空时机我一般看任务切换或者摘要里出现矛盾信息就重置，别等token爆了再处理。

我之前也踩过这个坑，全塞历史确实不行，token烧得快还容易跑偏。后来我是在每步任务完成后让模型自己总结一句“当前状态”存下来，下一步只带这个摘要加最近两三轮对话，效果好了不少。短期记忆就放最近交互，长期的就按任务类型打标签丢向量库，等新任务进来先检索相关的。至于清缓存，我一般是一个子任务闭环了就清掉中间过程，只留结论，不然越滚越乱。

我之前也踩过这个坑，ReAct框架下确实容易丢上下文，尤其是任务链一长，模型就开始自己编了。我的经验是别把整段对话历史都塞进去，而是每步执行完让Agent自己总结一句“当前状态”，比如“用户要订望京附近的川菜馆，已确认天气晴”，只把这种结构化摘要带进下一轮prompt，token省很多，模型也不容易跑偏。短期记忆我一般就放最近两三步的原始输出加这个摘要，长期记忆才丢向量库，但检索时一定要带上当前任务意图做过滤，不然召回一堆不相关的历史反而干扰。清空缓存这块，我是任务完成或者用户明确切换话题时清短期记忆，长期记忆不清但打时间戳，太旧的降权。还有个土办法挺管用，就是给Agent一个显式的“记忆写入”动作，让它自己决定这步值不值得记，比无脑全存效果好不少。

短期记忆别全塞prompt里，我一般只保留最近3-5轮对话，再额外抽一个任务状态摘要（比如“用户要订XX附近的餐厅，已查天气”），这样token省很多。长期记忆用向量库存关键实体和偏好就行，检索时按当前任务相关性召回，别一股脑全拉出来。至于清空时机，我是在任务完成或话题明显切换时重置短期缓存，保留长期偏好就够了。实际跑下来比硬塞历史对话稳不少。