Agent多轮对话中Prompt总是漂移，大家怎么固定系统指令的？

我之前也踩过这个坑，后来发现光靠塞system prompt没用，得在历史消息上动手脚。我现在是把最近几轮对话做了个轻量级摘要，把用户意图和已经回答过的关键信息提炼出来，再拼进下一轮的系统指令里，效果比单纯截断稳很多。

另外你可以试试给模型一个“行为锚点”，比如在每次回复前强制它输出一个内部标签（像“产品问题”或“无关”），再决定要不要走礼貌拒绝的分支，这样逻辑上不容易被带偏。不过摘要这块得控制好成本，不然高频调用会很肉疼。

对了，你用的是GPT-4o的话，可以看看它自带的function calling机制吗？把“判断话题相关性”做成一个单独的工具调用，让模型先决策再回答，应该比纯文本约束更抗漂移。我这边试下来，结构化方案比反复强调人设要牢靠得多。

我之前也踩过这个坑，后来发现单纯重塞system prompt没用，模型对老指令的注意力会衰减。现在我是把对话历史砍到只剩最近3轮，再配一个自动摘要模块，把之前的用户意图压缩成结构化标签塞回上下文，漂移明显少了。你试过对历史做语义截断吗，比如只保留跟产品相关的实体和槽位？感觉比无脑重写指令靠谱点。

我之前也踩过这个坑，后来发现光靠塞system prompt没用，得把“无关问题拒绝”写进few-shot示例里，模型才学得会。你可以试试在历史对话里加个硬性截断，只保留最近3轮，太长的直接丢给摘要模型压缩，效果比每轮重复强调稳定不少。另外你用的是LangChain的话，可以看看它的memory模块里有没有带topic barrier的组件，我记得社区有人提过类似的方案。

我最近也踩过这个坑，后来发现光强调“记住你是客服”没用，得把系统指令拆成“硬性规则”和“软性话术”两层，硬规则用if-else逻辑写死，比如检测到非产品关键词就直接拒绝，软性部分才留给模型发挥。另外历史对话截断别只按轮数，按token数或者语义边界切，不然前面聊嗨了后面系统指令权重再高也压不住。你试过在关键节点强制插入一次带摘要的system refresh吗？对长对话挺管用的。

我之前也踩过这个坑，后来直接把system prompt拆成两层：一层是不变的角色定义，另一层是动态的“当前任务规则”，每轮只把后者重新拼进messages，效果稳了不少。另外历史对话我会做滑动窗口截断，超过8轮就自动摘要成一段结构化记录，模型不容易被带跑偏。你试试看是不是prompt里“拒绝”的指令太弱了？我加了个明确话术模板，比如“我是产品客服，这个我帮不了你”，模型就很少自由发挥了。

我之前也踩过这个坑，后来发现光靠塞system prompt没用，模型对历史里那些跑偏的对话记忆更深。我现在是给对话轮次设个阈值，超过就自动把前面的内容压缩成摘要，只保留用户的核心意图和已确认的信息，效果比单纯截断好很多。另外你试试在每轮生成前加一个轻量的意图路由判断，如果检测到话题偏离就直接拒绝，别让模型自由发挥，这比事后纠正省心多了。

每轮重写system不如给历史做摘要，把无关轮次压缩掉，人设自然就稳了。

试试每轮把system放最后，再加个意图分类前置判断，比反复强调管用。

我之前也碰到过类似情况，后来发现光靠重塞system prompt用处不大，模型还是会顺着上下文走。我现在的做法是每轮只保留最近3-4轮原文，更早的对话让模型压缩成一句摘要塞回去，这样既省token又不至于丢上下文。另外可以在每轮用户消息前加个很短的约束提醒，比如“仅限产品话题”，比改system更管用。

我最近也碰到类似问题，后来发现光靠重塞system prompt确实不太顶用。现在改成每轮把system指令和最近两轮对话拼在一起，再对更早的历史做摘要压缩，效果稳多了。另外可以在system里加一条硬规则，比如“用户聊到无关话题时，只回一句引导话术，不展开”，比单纯强调人设管用。你们有没有试过用结构化输出或者状态机来卡边界？

我也踩过这个坑，后来发现光靠每轮重塞system prompt确实不太够，模型还是会慢慢被带跑。现在我会在关键轮次后插一条隐式的“约束提醒”，比如用tool消息或assistant自己的话重申边界，效果比硬塞system好一些。另外历史太长的话我一般做滑动窗口加摘要，把无关闲聊直接丢掉，不然模型很容易顺着最近的语气走。还有个偏方是给用户消息加个分类前置判断，命中无关就直接走固定拒绝模板，根本不进主对话流。