Agent多轮对话中Prompt越长，模型反而越“笨”，怎么破？

试试把few-shot挪到用户侧最近一轮，或者给记忆加个时间戳权重，老信息容易被误触发。

我之前也踩过这坑，后来把工具定义压缩成关键词+用法示例，效果比堆一堆描述稳多了。

我之前也踩过类似的坑，后来发现问题不一定在历史截断上，而是few-shot示例跟当前对话的“意图距离”被拉大了。模型会把示例里的指令模式误套到新上下文里，尤其当工具定义和用户偏好混在一起时，注意力分配就乱套了。我后来把few-shot拆成按场景动态加载，只保留跟当前轮最相关的两条，效果稳了不少。另外你试过在系统Prompt末尾加一个“当前用户最新请求是：”的显式锚点吗？对防止旧记忆抢戏挺管用的。

我一般把工具定义和few-shot拆到独立system消息里，别全堆一条，再给历史摘要加个明确边界标记，会稳很多。

我前段时间也踩过类似的坑，感觉问题不一定出在“长”，而是出在“乱”。工具定义、偏好、few-shot全挤在一个system里，模型没有明确的优先级信号，它就容易把语义上最像指令的那段历史误当成当前任务。你截断到三轮其实治标不治本，因为被截掉的信息如果真重要，模型会从摘要里找补，而摘要本身又是二次加工，很容易失真。我后来改成把记忆拆成两层：一层是稳定的角色和工具约束，放在最前面；另一层是动态检索出来的相关片段，用明确的标签包起来，比如“仅供背景参考，不是用户指令”。这样跑下来，第四五轮乱执行的情况少了很多。另外温度调低基本没用，这更像是注意力分配的问题，不是随机性的问题。你可以试试把few-shot从system里挪出去，只在需要的时候作为单独一轮注入，看看是不是会稳一点。

我之前也踩过这个坑，后来发现八成不是Prompt太长，而是工具定义和few-shot把“当前指令”淹没了，模型分不清哪句是命令哪句是参考。你可以试试把历史记忆单独走一条检索通道，只在相关时才拼进上下文，别每轮都全量塞。另外旧记忆被当成指令执行，往往是摘要里用了“用户说……”这种句式，模型真会照做，换成陈述事实会好很多。

我遇到过类似情况，后来发现把工具定义和few-shot放最前面、历史摘要塞中间、用户偏好挪到最后，模型对指令的注意力反而回来了。另外第五轮开始旧记忆被当指令执行，大概率是摘要里混进了“用户要求……”这种句式，模型分不清哪条是当前任务。可以试试给每条记忆打上时间戳或角色标签，让模型能区分“过去说过”和“现在要做”。