写Agent指令时，Prompt里放太多示例反而变笨了，这是为啥？

示例太多会压缩模型的推理空间，我一般控制在5个以内，而且刻意混入反例反而更稳。

同感，few-shot不是越多越好。我之前做过一个意图分类的Agent，塞了30个例子后模型开始“硬匹配”，把新问题往旧例子上套，明显泛化能力变差。后来砍到8个，并且刻意选了边缘案例和典型场景混合，效果反而稳了。感觉示例的作用是给模型“指方向”，而不是给它“画牢房”，数量上5-10个可能是个安全区间，但关键还是覆盖度，别全是同质化的对话。另外你试试把示例按难度分层放，或者用几个反例（错误回复）做对比，模型会更清楚边界在哪。

示例太多模型容易“抄作业”，它压根不推理了，抓主干问题反而更准。

少而精，覆盖典型分支就行，堆量真不如喂几个高质量对照。

这个现象太真实了，我也踩过类似的坑。few-shot示例其实是在给模型画“捷径”，示例一多它就容易把注意力全放在模仿上，反而忽视了你真正要它做的推理任务，尤其是当示例和当前问题表面相似但实质不同时，翻车率特别高。我现在的经验是质量远大于数量，3-5个覆盖不同边界的例子最稳，而且示例之间差异要够大，最好刻意放一两个反例进去。倒是想问问你，去掉一半示例后，具体是那些复杂场景的准确率掉了，还是整体都提升？

这题我踩过类似的坑，其实核心不是数量问题，是示例的“代表性”和“边界感”。20多个例子如果全是具体场景，模型会当成硬规则去匹配，反而忽略了底层逻辑。我现在的做法是只给3-5个高对比度的正反例，明确标注哪些是必须规避的雷区，剩下全靠模型自己泛化。另外你提到的“套用错误回复”很可能是因为示例里包含了低质量答案，模型分不清哪些是示范哪些是反面教材，建议检查下是不是这个原因。

示例是双刃剑，喂太多模型容易找捷径抄答案，反而丢了自己推理的主线。建议留3-5个典型对抗样本，剩下的换成规则描述试试。

这题我太有同感了，之前做意图识别的时候也踩过这个坑。其实你那个判断方向是对的，示例太多确实会把模型框死，尤其是当示例覆盖的场景高度重叠时，它容易去“模仿”而不是“理解”。我后来琢磨出个经验，示例数量控制在5-8个最稳，而且一定要刻意拉开差异——比如同一类问题，一个用标准句式，另一个就得用带口语、错别字的变体，让模型知道该抓语义而不是表面字词。另外你提的“质量”也很关键，20个示例里如果有一两个回复风格特别突出，模型会无意识地去加权模仿它们，哪怕那不是最优解。我怀疑你的问题可能出在示例的“代表性”上，太具体的场景（比如带特定产品名、日期）会让模型误以为这些参数是必须的，反而在通用问题上犯迷糊。不妨试试把示例改成“最小化对比”的形式，比如只放正确和错误回复各一组，让模型自己总结边界，效果往往比堆量好。最后，如果条件允许，可以跑个简单的消融实验，固定其他变量，只改示例数量，你会看到准确率曲线其实是个倒U型，找到那个峰值点就是你的最优配置。

示例太多模型容易“选择困难”，尤其场景重叠时反而会抓错重点，留几个高区分度的就够了。

我之前也踩过这个坑，把few-shot当万能药，一股脑塞了三十多个case进去，结果模型在边缘case上反而开始“硬凑”格式，连基本的逻辑都丢了。后来我琢磨了一下，感觉核心问题不是示例数量本身，而是你给的示例在模型眼里是“规则”还是“参考”。如果示例场景太具体、回复风格太强，它就会默认所有输入都得往那个模板上靠，推理路径直接被带偏了。

我现在一般控制在5-8个示例，而且刻意打乱顺序，把完全不同的对话风格混在一起，比如一个简短、一个详细、一个带反问，这样模型反而能抓住“意图分类”的本质，而不是模仿表面句式。另外有个小技巧，示例里故意放一两个“错误示范”或“边界情况”，比如用户说“我要投诉你们客服”这种，模型会更容易理解该在什么时候跳出示例逻辑。

不过我也还在试，感觉这玩意儿跟模型版本和温度参数都有关系，有时候同样一组示例，换个温度效果就天差地别。你试试把示例数量砍到一半以下，同时把每个示例的“对话背景”单独写清楚，比如用户情绪、上下文状态，别光堆对话文本，可能改善会很明显。

我试过类似的情况，感觉不是示例数量绝对多少的问题，而是它们之间的“距离”不够。你塞的20多个场景，可能彼此太像了，模型反而抓不住真正该泛化的规则，只能死记硬背。后来我改成只放3-5个差异极大的极端案例，比如一个超简单、一个很难的、一个带陷阱的，效果反而好很多。另外你检查下是不是示例里的回复风格太鲜明，模型会优先模仿语气而不是逻辑。

示例多了模型容易“抄作业”而不是“做判断”，留几个典型场景反而逼它自己推理。你试试按意图分类各留一两个，别堆量。

这现象我也遇到过，特别是客服场景。示例其实是给模型画了个“行为边界”，放太多等于拿20个模板去套所有情况，它当然会优先匹配最像的那个，而不是去理解用户真实意图。我现在的做法是每种典型意图只放1-2个正反例，剩下的靠指令里的规则描述，效果明显稳定。另外你那些示例要是本身带噪音，比如语气太死板，模型反而容易学到那种风格，这可能也是准确率掉的原因。

我猜这跟示例的“代表性”有关，如果你那20个对话都是高度相似的重复场景，模型就会把那些细节当硬规则，稍微遇到点变化就懵。不如试试分层次来，核心逻辑用文字说清楚，示例只挑那种能体现边界情况的，比如用户说一半突然换话题。还有个土办法，你观察下它出错时的回复，是不是总带着示例里的口头禅，如果是，那就是被带偏了。

我觉得问题可能不在数量，而在示例的顺序和比重。模型特别吃尾部信息，你后面几个示例如果质量差或者太偏门，它可能就重点模仿那些了。可以试试把最标准、最通用的示例放最后，然后每个示例之间用一句简短的意图说明隔开，让模型知道你在展示什么。顺便问下，你那些示例里有没有包含用户明显的情绪转折？那种复杂case放多了，确实会让简单查询处理得过度

我之前也踩过这个坑，few-shot示例其实是在给模型“定调子”，20多个场景塞进去，它反而容易把示例里的细节当成普适规则，尤其是在简单问题上，推理路径直接被带偏了。后来我把示例减到5-6个，而且故意选了风格差异大、边界模糊的场景，效果立竿见影。你那个问题大概率不是示例质量差，而是数量和多样性之间没平衡好，建议试试按意图分类，每组只给1-2个代表，别贪多。

示例本质是锚点，给太多反而让模型盯着局部找相似，忘了整体逻辑。建议留2-3个高区分度的就够。

这现象我太有同感了，之前调一个分类Agent也是，往Prompt里堆了十几个边界案例，结果模型在常规输入上反而开始“想太多”，把一些明显该直接判别的样本硬往示例的坑里套。后来我把示例砍到5个以内，并且刻意让它们覆盖完全不同的维度，而不是同一场景的变体，效果立刻正常了。我现在的感觉是，示例的作用更像是给模型画一个“决策锚点”，而不是让它去模仿具体话术，你放得越多，锚点越密，它反而会去纠结“这个新输入更接近哪个锚点”而不是去理解任务本质。至于质量，我觉得你提到的“场景太具体”很可能是个大问题，比如客服里“退款流程”和“物流查询”看似不同，但在模型看来可能都属于“用户不满”，如果你示例里全是具体产品名和订单号，它就会把这些表面特征当成重要线索。我后来习惯先让模型自己生成一批回答，再从中挑出那些思路清晰但表达不同的做示例，这样比我自己编的要自然得多。另外也可以试试把示例放到对话历史里而不是System Prompt，至少在GPT-4o上，动态示例的干扰性会小很多。

这现象我太有同感了，之前调一个分类Agent也踩过这坑。你把20多个示例塞进去，本质上是在告诉模型“这些是唯一正确的答案模板”，它反而会去硬套那些具体话术，而不是去理解你真正要它处理的任务逻辑。我现在的经验是，示例数量控制在5个以内，且每个示例要刻意拉开差异，比如一个极端简短、一个带复杂情绪、一个包含歧义，让模型去提炼共性而不是背模板。另外，我怀疑你那批示例里可能有不少是“低质量正确”，就是对话本身没问题，但策略路径单一，比如全是道歉+补偿的套路，这会让模型在遇到新场景时只会走老路。你也可以试试把示例从System Prompt挪到User Message里，作为few-shot放在最后，我体感这样模型对上下文的依赖会更灵活。说到底，Prompt里的示例是给模型划重点，不是给它建监狱，数量一多重点就变成噪音了。

这我最近也踩过一模一样的坑，客服场景下堆了十几个few-shot，模型反而开始“剧本化”了，连用户乱打的话都能往示例里套。后来我做了个实验，把示例砍到5个以内，但每个都故意覆盖不同的意图转折，效果立竿见影。我感觉关键不是数量，而是示例之间的“正交性”，要是20个例子都在讲退款流程，哪怕每个措辞不同，模型也会把“退款”当成唯一解题钥匙。另外我怀疑GPT-4o对system prompt里的长对话段有某种注意力衰减，越靠后的示例对决策影响越小，反而干扰了前面核心指令。你可以试试把示例拆成两段，一段放最前面做“锚点”，一段放最后做“兜底”，中间只留规则和约束。还有个土办法，把示例里的错误回复故意改得离谱一点，模型就知道这些是反面教材了。现在我看到有人用“动态示例选择”，就是根据用户query先检索最相似的3条历史对话再拼进prompt，效果比固定20个强太多了，但实现成本高些。

我之前也踩过这个坑，few-shot的数量绝对不是越多越好。感觉模型会把你给的示例当成一种“概率先验”，20多个场景堆进去，它反而在努力“拟合”你的示例分布，而不是真正理解任务本身。我现在的经验是，示例控制在5-8个，并且刻意让它们覆盖不同的边界情况，而不是重复相似场景，效果会好很多。另外你提到的示例质量问题也很关键，如果里面混着一些模糊的回复，模型很容易学坏，建议检查下有没有那种“看似正确但实际没解决问题”的对话。

示例不是越多越好，关键是让模型有“发挥空间”，你这情况我之前调RAG也遇到过，精简到5-6个高质量的就够。

少而精的示例是给模型画个大致方向，多了反而像给它套了紧箍咒，连正常推理都不敢了。

这现象我太有同感了。我自己调Agent的时候也发现，few-shot不是越多越好，尤其当示例覆盖的场景和真实输入分布错位时，模型会强行把当前问题往最近的示例上“套”，反而忽略了你系统提示里那些更基础的规则。我觉得关键不是数量，而是示例的“代表性”和“边界感”——你放20个高度具体的对话，等于给模型画了20个圈，它遇到圈外的输入就懵了，只能硬选一个最像的圈跳进去，错误自然就滚雪球。我的经验是，示例最好控制在5-8个，而且刻意选那些“容易混淆”或“需要推理转折”的边界case，比堆一堆正常场景有用得多。另外可以试试把示例分成两层：一层是“绝对不能犯的错”的负例，一层是“如何从模糊信息里提取关键”的正例，让模型学的是判断逻辑而不是表面话术。你那个准确率回升，可能恰恰说明你的原始示例里负面干扰项太多，比如包含了那种“错误回复”的变体，模型学到的是模仿语气而非决策规则。可以再做个实验，只留3个高质量示例，看能不能逼近你现在的效果，如果行，那基本就是“少即是多”的石锤了。