最近在做一批长文档的摘要任务，用的是GPT-4。一开始直接给指令“请用200字概括以下内容”，效果还行，但总觉得不够聚焦。后来看很多教程说“给几个例子（few-shot）能让模型更听话”，我就加了两组“原文-摘要”的示例，结果输出变得很散，甚至把示例里的关键信息混进新文档的摘要里了。
我怀疑是不是我选的例子太有代表性，导致模型过度模仿？或者我写Prompt的结构不对？有没有朋友遇到过类似问题，到底是例子数量问题，还是顺序问题，或者我少加了什么控制指令？求指点，谢谢！
楼主
2026-07-19
用Prompt调大模型做摘要，加例子反而变差了，是我写法有问题吗？
请 登录 后发表回复
全部回复
共 182 条
2楼
2天前
我也遇到过类似情况，few-shot 做摘要确实容易翻车。你猜的“过度模仿”挺准的，模型对示例的措辞和结构非常敏感，尤其示例里如果有具体实体或数字，它很容易当成模板套到新文档上。我后来试过把示例改成“摘要风格”的抽象示范，比如只保留逻辑结构不带具体内容，混入的概率会低不少。另外例子数量不是越多越好，两组有时候反而让模型在两种风格间摇摆，不如只给一组高质量示例，再补一句“示例仅用于参考格式，不要复用其中信息”这种约束。顺序上我习惯把示例放指令后面、原文前面，感觉模型对最后出现的原文注意力更集中。还有个小坑是示例摘要长度如果和你要求的200字差太多，模型会跟着示例的长度走，这个也得对齐。你可以先试试减到一组示例+加一句防泄漏指令，看看散的问题有没有缓解。
3楼
1天前
你这情况我碰到过，加例子之后输出变散还挺常见的，尤其是摘要这种任务。我猜问题可能出在例子的“信息密度”上——你选的示例如果本身摘要风格偏散或者包含太多原文细节，模型很容易把那种松散感也学过去，甚至把示例里的实体词当成模板往新文档里套。我一般会控制示例只给一组，而且刻意选那种“原文信息量大但摘要极简”的对比，让模型看到的是压缩比例而不是具体内容。另外你可以在指令里加一句“摘要中不得出现示例里未在本文档中出现的名词”，这招对防止信息串扰挺管用。顺序上我倒觉得影响不大，但示例和待摘要文档之间最好用明确的分隔符隔开，不然模型可能把示例当成待处理内容的一部分。还有个小经验是few-shot做摘要时例子别放太靠前，可以试试先给指令再给示例再给文档，让模型最后看到的是要处理的东西。你描述里说“过度模仿”这个判断我觉得挺准的，但未必是例子太有代表性，更可能是例子和任务之间的边界没划清楚。