写Agent指令时，Prompt里放太多示例反而变笨了，这是为啥？

我踩过一模一样的坑，后来发现关键是示例太“齐”了，模型会把它当成模板去套，而不是当参考。尤其客服场景，20多个示例基本把意图空间堵死了，遇到没见过的问法它反而不敢自己判断。我现在的做法是只留3-5个覆盖不同意图类型的，剩下的靠指令描述边界，效果稳定很多。你那批示例可能不是质量问题，而是同质化太严重，模型学到的全是“照着念”。

示例太多确实容易把模型带偏，几个覆盖不同意图的典型就够了，关键是多样性不是数量。

这个现象其实挺常见的，我自己也踩过类似的坑。示例塞太多最直接的问题就是注意力被稀释了，模型会不自觉地去匹配最近或最相似的示例，而不是真正理解当前用户想干嘛。尤其是你那些示例如果场景太窄，模型就容易过拟合到那几个模板上，碰到稍微不一样的输入就开始硬套。另一个可能是示例之间本身就有隐性冲突，比如不同场景下的语气或处理逻辑不一致，模型学到的就是一团浆糊。我后来摸索出来的做法是控制在3到5个高质量示例，覆盖典型边界情况就够了，剩下的靠清晰的指令和约束去兜底。与其堆示例，不如把规则写得更明确，比如什么情况下必须转人工、什么情况下不能承诺退款。你可以试试把示例按难度分层，简单的直接靠指令，复杂的才给一两个参考，效果通常会好很多。

我踩过差不多的坑，后来发现关键不是数量，是示例之间的“决策边界”清不清晰。20多个场景如果彼此重叠、说法还不一致，模型就学不到规律，只能死记硬背，遇到新问题自然卡壳。你可以试试每个意图只留一两个最有代表性的例子，剩下的用规则或工具调用去兜。另外System Prompt里塞太多具体对话，确实会挤占模型对当前输入的注意力，尤其是简单问题它反而会去“对号入座”。

这事儿我踩过坑，感觉核心不是示例数量本身，而是示例在Prompt里扮演了什么角色。你塞20多个对话进去，模型很容易把它们当成“标准答案库”而不是“风格参考”，遇到新问题就先想着匹配哪个例子，匹配不上就开始瞎套。我后来改成只留3到5个覆盖典型意图的示例，剩下的用一两句规则描述代替，效果明显稳很多。还有个点你可能没注意到，示例太多会稀释真正重要的指令，模型注意力被一堆具体场景分散了，反而抓不住你想要的通用行为准则。另外示例的多样性比数量关键，如果20个例子全是同一种语气、同一种处理路径，那基本等于告诉模型“所有问题都这么解”，它当然变笨。我现在习惯把示例分成“正例”和“边界情况”两类，正例少而精，边界情况只写描述不写完整对话，让模型自己推理。你也可以试试把示例从System Prompt里挪出来，放到few-shot的user/assistant轮次里，有时候位置一换效果就不一样。

我也踩过这坑，之前给一个工单分类Agent塞了十几条few-shot，结果模型老往示例上硬靠。后来发现示例太具体会让它学表面模式而不是任务本身，尤其场景一多，示例之间还打架。我的经验是控制在3-5条，覆盖典型边界就行，剩下的靠指令描述清楚。与其堆量，不如把每条示例打磨得干净、多样，让模型自己泛化。

你这个情况我其实也踩过类似的坑，当时做的是一个意图分类加多轮追问的Agent。我的体感是，示例太多最直接的问题不是“框死”，而是把模型本来就有的泛化能力给稀释掉了，它开始把示例当成检索库，遇到相近的就直接copy，而不是真去理解当前语境。20多个示例如果场景之间边界不够清晰，模型很容易学到一些表面模式，比如“用户提到退款就先道歉再问订单号”这种硬映射，换一个稍微不同的问法就崩了。后来我自己的做法是控制在3到5个高质量示例，而且刻意让它们在风格和场景上拉开距离，覆盖的是“推理路径”而不是“具体话术”。另外我怀疑你那些示例里可能有一些隐性错误或者互相矛盾的回复，模型对矛盾示例特别敏感，它会变得犹豫甚至随机选一个。你可以试试把示例精简后，再在System Prompt里加一句类似“示例仅作风格参考，请根据实际情况灵活判断”的约束，有时候能明显缓解过拟合。还有一点，示例的位置也有影响，放在Prompt最前面和放在指令后面，效果可能差挺多，你可以做个A/B测一下。

你这个现象其实挺典型的，我前段时间做意图分类的Agent也踩过类似的坑。我自己的理解是，示例一多，模型会倾向于做“模式匹配”而不是“理解任务”，尤其当示例里有相似但不完全一样的场景时，它反而会纠结该套哪个。20多个示例里如果场景重叠度高，模型看到的就不是“规则”，而是一堆互相干扰的信号。后来我改成只留5到8个覆盖核心边界的例子，再配上一段清晰的决策逻辑描述，效果明显稳了。所以我觉得问题可能不完全在数量，而是示例和指令之间的“信息密度”失衡了，示例太多会把真正重要的规则淹没掉。另外你提到模型套用示例里的错误回复，这个也说明示例本身可能带了一些噪声，模型分不清哪些是示范、哪些是边界情况。我现在写Prompt会刻意让示例之间差异大一点，每个示例只突出一个关键判断点，而不是塞进完整对话。

我踩过类似的坑，后来发现关键不是数量，而是示例的“信息密度”。如果几个例子讲的是同一类决策，模型会过拟合到表面句式上，反而忽略你真正想让它遵循的原则。我现在一般控制在3-5个，每个示例只突出一个不同的判断维度，比如情绪识别、意图澄清、转人工边界各一个。另外示例里最好别写完整对话，只给关键turn，留点空间让模型自己推理。

示例太多模型就懒了，直接抄模板不走脑子，少而精反而逼它自己推理。

我踩过类似的坑，后来发现示例堆太多确实会让模型倾向于“匹配”而不是“推理”，尤其客服场景里用户表达千奇百怪，示例覆盖不全反而干扰判断。我现在的做法是控制在5-8个，重点覆盖边界情况和易错类型，而不是把正常流程全写一遍。另外示例太具体确实是个问题，最好抽象掉具体业务词，只保留对话结构和判断逻辑，模型泛化会好很多。你可以试试把示例按“场景类型”分组，每组挑一个最有代表性的，再看准确率变化。