大佬们，Prompt工程里怎么让Agent记住上次对话的上下文啊？

说实话这个问题我上周刚趟完坑，你现在把历史全塞system prompt肯定不行，token一长模型注意力就崩。我的做法是分两层：短期对话用ConversationBufferWindowMemory，只保留最近几轮；长期关键信息用向量库存，每次检索top3塞进上下文。至于“刚才那个问题”这种指代，光靠memory不够，得自己维护一个对话状态机，记录每轮主题和未解决问题，检索时优先匹配当前意图相关的历史。别指望开箱即用的模块，LangChain那个Memory你得多看源码改改。

对话历史塞进system prompt是最容易犯的错，试试用ConversationSummaryMemory做摘要，再加个向量检索只召回相关的几轮。

说到这个我太有同感了，之前做多轮问答也是被这问题卡了半天。我的做法是分层存，短期对话用Buffer窗口截最近几轮，长期信息再抽成摘要存向量库，别一股脑全塞给模型。你提到token一多效果变差，很可能就是历史里塞了太多噪音，可以试试按相关性检索再拼进prompt，而不是全量放进去。至于“刚才那个问题”这种指代，我一般会保留每轮的用户query做个索引，让模型先定位时间点再找对应内容，感觉比直接翻全文靠谱点。

我之前也踩过这个坑，把全部历史塞system prompt里确实越跑越糊。后来改成Buffer加Summary混合用，近几轮保留原文，更早的压缩成摘要，效果稳不少。至于“刚才那个问题没回答”，可以给每轮问答打个时间戳或ID，让模型先做一次检索定位再回答，比硬塞上下文靠谱。向量库适合长期记忆，短期对话其实用不上那么重。

Buffer和Summary可以混着用，最近几轮保留原文，更早的压缩成摘要，这样token不会爆也不会丢关键信息。向量库适合跨会话长期记忆，但单次对话里定位“刚才那句”其实不用那么重，把消息带上时间戳和轮次ID，让模型自己引用就行。我之前也踩过全塞system的坑，后来改成滑动窗口加摘要，效果稳多了。