AI Agent的多步任务中，怎么让大模型别“忘记”之前的上下文？

我搭Agent也踩过这个坑，全塞历史确实会稀释注意力。后来改成每一步只传结构化的关键变量，比如把查到的userId存成一个state字段，后面步骤直接引用，效果稳很多。向量库适合做长期记忆，但多步任务里状态传递用显式变量比语义检索更靠谱，不然召回一堆没用的反而干扰。另外可以试试让模型每步输出个简短的“进度摘要”，下一步只带摘要加当前指令，能省不少token还聚焦。

我踩过这个坑，全塞历史记录确实不行，token一多模型反而抓不住重点。后来我是把中间结果结构化存起来，比如用户ID单独放一个变量，后面步骤直接引用变量名而不是重新读全文，效果稳很多。现在基本是每步只传“当前任务+相关变量”，历史摘要精简到一两句话就够。向量库我也试过，适合跨会话的长记忆，单次任务里反而有点重。

这个问题我踩过不少坑，说点实际感受。全量塞历史记录基本是条死路，token一长模型注意力就散了，而且中间那些工具调用的原始返回（比如一大坨JSON）特别容易干扰后面的推理。我现在更倾向于把“状态”和“历史”分开处理：用一个结构化的state对象只存关键槽位，比如user_id、查询结果摘要这些，每一步只把state和当前指令拼进prompt，历史对话该丢就丢。向量库那套适合做长期记忆或者跨会话召回，但多步任务里它检索出来的东西未必是当前步骤真正需要的，反而容易引入噪音。prompt层面有个小技巧挺好用，就是在每步开头让模型先复述一遍“当前目标”和“已知关键信息”，相当于强制它做一次自我对齐，成本很低但效果明显。另外如果框架支持，把大任务拆成显式的子步骤、每步单独调用并只传递必要字段，比让一个Agent一口气跑完要稳得多。