用Prompt调大模型做摘要，加例子反而变差了，是我写法有问题吗？

我之前也踩过这个坑，few-shot真不是万能药。你那个问题大概率是示例和当前文档的主题太接近，模型直接“抄作业”了，试试换成跟任务无关的通用示例，或者把示例里的关键实体换成占位符。另外可以加一句“严格基于输入内容，忽略示例中的具体事实”试试，能压住不少幻觉。还有就是示例顺序也有影响，把最标准的那组放前面，后面跟一组反例（比如“以下是不好的摘要”），模型反而更容易get到边界。

这题我太有同感了，few-shot对摘要任务真不如直接给强指令管用。你试试在Prompt里加一句“严格基于原文事实，禁止使用示例中的任何名词和句式”，然后只保留一个负面案例（比如故意写一个不聚焦的摘要），模型反而会更容易理解边界。另外把示例放在指令前还是后差别也很大，我一般放在最后，让模型先理解规则再参考。

这问题我也踩过坑，few-shot真不是越多越好。你描述的情况很典型，模型很容易把示例里的句式甚至专有名词带进新输出，尤其是示例跟目标文档主题接近的时候。我后来试过把示例放在指令最前面，再明确加一句“以下示例仅为格式参考，内容必须严格基于新文档”，效果会稳一些。另外你也可以试试给示例之前先写“不要重复示例中的任何事实信息”，会好很多。

说实话我最近也踩过类似的坑，加few-shot之后摘要反而跑偏，后来发现问题可能不在例子数量，而在你给的示例本身是不是“太干净”了。模型其实很擅长抓示例里的结构特征，比如你示例里如果总爱用“首先…然后…最后”这种框架，它就容易把新文档也硬套成这个逻辑，哪怕原文根本不适合这么概括。另外我怀疑你是不是把示例放在指令后面直接连着输出了？有时候把例子放在最前面、再用分隔符隔开，模型会更清楚“哪些是参考、哪些是任务”，不然它容易把示例和待处理内容混在一起。还有一个笨办法，就是给每条示例后面加一句“这是一个优秀摘要的示范”，或者明确写“不要使用示例中的具体信息，只参考其风格”，控制力会强很多。说到底，few-shot不是越多越好，尤其摘要这种任务，模型对“长度”和“信息密度”特别敏感，你不如试试只留一个例子，或者干脆换成一正一反两个例子（一个优秀版、一个糟糕版），让它对比着学，反而更聚焦。我现在的习惯是先零样本跑一版，再挑最不满意的部分针对性加约束，比一次性堆例子省心多了。

试试把例子放在指令后面，再加一句“仅参考格式，勿引用内容”，我这么调有效果。
例子选太像的确实容易带偏，换成一正一反试试。

说实话我遇到过一模一样的坑，加few-shot之后摘要反而带上了示例的“口音”，尤其是当示例里有些独特名词或者句式时，模型很容易当成模板去套。我后来分析了下，可能是你把示例放在指令和待摘要文档之间，模型对“最近位置”的信息权重更高，所以它会把示例内容当成更重要的上下文去模仿。我自己的做法是，如果非要加例子，就把例子放在最后，并且明确标注“以下是示例，仅用于参考格式，禁止摘录内容”，效果会好一些。另外你可以试试把摘要要求拆得更细，比如先让它列要点再生成连贯段落，比单纯给例子更能控制聚焦度。还有一点，长文档摘要其实更适合用两阶段法，先分段压缩再合并，一次性让模型看全文加示例，注意力很容易被分散。你那个“例子太有代表性”的猜测也有道理，我建议你换个更中性、和业务无关的短例子，或者干脆回到zero-shot，但把指令改成“用三个核心论点+每个论点一句话支撑”的结构化要求，效果可能更稳。

遇到过一模一样的坑，后来我干脆把few-shot砍掉只留一个例子，效果反而稳了。你这情况大概率不是例子数量的问题，而是“示例污染”——模型在长文本里对示例的注意力权重会异常高，尤其是当你的示例摘要里带有某种强情感色彩或专有名词时，它容易当成“模板”去套，甚至直接抄词。我猜你选的例子是不是都偏向某种结构，比如“先总后分”或者“问题-对策”型？那模型就会强行把新文档也拆成那个骨架，内容自然就散了。

另一个思路是，你可以试试把示例放在指令后面，但用XML标签或分隔符明确框起来，比如“以下为参考示例，仅用于格式参考，禁止引用其内容”，同时加上“忽略示例中的具体事实”这种负面控制。我最近做技术文档摘要就是这么干的，效果比单纯堆例子好很多。

还有个细节：你说200字，但示例的长度如果和实际文档差太多，模型也会懵。比如示例都是500字原文配30字摘要，突然来一篇2000字的文档，它就不知道压缩比例该是多少了。建议示例的输入长度尽量贴近你的真实任务分布。

如果你实在想保留few-shot，可以试试只给一个反面例子——就是“这种写法是错误的，不要这样总结”，有时候比正面例子约束力更强。我试过几次，模型反而会谨慎很多。最后记得检查一下temperature，摘要任务我一般调到0.3以下，太高了它容易自由发挥把示例里的句子揉进去。

我也遇到过类似情况，后来发现是示例里的信息太具体，模型很容易把它们当成模板往里套。你可以试试把示例换成抽象结构的示范，比如只展示“原文主题+摘要逻辑”而不带具体事实。另外摘要任务本来就不太适合few-shot，指令里把字数、侧重点、禁止引入外部信息写清楚，往往比塞例子更稳。

例子太长或太像原文确实容易带偏，试试换成短摘要或者干脆零样本更稳。