RAG系统里prompt怎么写才能让LLM更准确引用原文？

分段塞吧，长文直接丢进去模型容易抓不住重点，引用时也容易串。另外可以试试few-shot给个正经引用的例子，比单纯强调“引用”管用。

我之前也踩过这个坑，后来发现与其反复强调“严格引用”，不如直接把原文用引号包起来塞进user prompt，再明确告诉它“只能从引号内提取信息，禁止改写”。分段塞我觉得很有必要，尤其长文本，模型注意力有限，整段塞进去反而容易抓错重点。另外你可以试试让它在回答末尾标注对应原文片段序号，这样就算它自由发挥，你也能快速定位去校验，比单纯靠prompt硬约束靠谱多了。

我之前也踩过这个坑，后来发现光靠system prompt不够，得把原文片段直接揉进user prompt里，并且明确标注“以下内容来自知识库，请逐字引用并标注编号”。另外分段塞确实比整段好，但每段开头加个“【片段1】”之类的标记，模型就不容易串。还有个小技巧，可以在prompt末尾加一句“如果原文没有提及，请直接回答‘知识库中未找到’”，能有效治它自由发挥的毛病。

试试在prompt里加“若原文无对应信息就直说不知道”，再把长文本按语义切块只塞最相关的几段，效果会稳很多。

我之前也踩过这个坑，后来发现光靠system prompt压不住，得在user prompt里把原文用特殊标记包起来，比如明确写“以下内容为唯一事实来源，禁止添加外部信息”，然后让模型逐段引用而不是总结。另外原文太长的话建议分段塞，每段前面加个小标题，这样模型更容易定位到具体那句，不然整段塞进去它容易抓不住重点。还有个土办法，就是检索后把相关句子直接复制到问题前面，让模型做“完形填空”，实测比让它自己组织语言靠谱多了。

我之前也踩过这个坑，后来发现光靠system prompt压是压不住的，得从检索结果本身下手。你可以试试把原文拆成带编号的小段落，然后在prompt里明确要求模型“只能引用编号段落中的原句，禁止自行概括”，并且给一个反面示例（比如故意写一段错误总结让它对照）。另外，如果原文真的特别长，分段塞进去比整段硬塞效果好很多，因为注意力窗口有限，太长反而容易丢失关键信息，甚至让模型“捡了芝麻丢西瓜”。还有个野路子，就是在user prompt里把问题重复三遍，然后强调“如果找不到直接对应的原句，就回答‘资料中未提及’”，这招对抑制幻觉挺管用。不过说实话，prompt只是兜底，我后来还加了道程序——让LLM先输出引用片段，再根据片段生成回答，这样至少能保证引用部分不出错。你用的LangChain的话，可以试试在链里加个中间校验步骤，把生成结果和原文做相似度比对，太低就强制重试一次。

我之前也踩过这个坑，后来发现光靠system prompt压不住它自由发挥，得在user prompt里把原文用引号或者特殊标记框起来，然后明确说“只能从这段文字里提取信息，不能外推”。分段塞确实比整段好，尤其长文档，模型对中间内容的注意力会弱，切成几个小块分别标注来源，准确率能上来不少。另外可以试试few-shot，给它一两个“问题+正确引用”的示例，比单纯命令管用。

试试在prompt里加一句“如果原文没有相关信息就直接说不知道”，比硬要求引用管用。分段塞的话记得加个“第几段”标记。

我之前也踩过这坑，后来发现光靠system prompt不够，得把原文切成小块，每块前面标个编号，然后明确告诉模型“只能从编号片段里选，禁止自行扩写”，效果会稳很多。另外你可以试试在user prompt里加一句“如果片段没有直接答案，就回答不知道”，比单纯强调引用有用。至于长文本，分段塞进去确实比整段好，但要注意别让模型自己去拼凑跨段信息，否则还是容易编。

试试在user prompt里把原文用引号框起来，加一句“只能引用引号内内容”，比system管用。长文分段塞，每段前标好编号。

试试在prompt里加一句“如果原文没有明确信息就直接说不知道”，比单纯要求引用管用多了。长文本建议分段塞，整段塞容易让模型抓不住重点。

我一般会把引用格式固定成“原文说：...”再让模型照着填，效果比自由发挥稳。片段还是整段得看长度，超800字就分吧。

我最近也在折腾这个，试过不少prompt写法，感觉光靠“严格引用”这种指令确实不太够用。我的做法是在system prompt里明确要求模型“只能从提供的上下文中提取信息，禁止使用外部知识”，然后每条检索片段前面加上来源标记比如【1】【2】，回答时强制用【1】这种格式标注出处，这样模型至少会努力去对应而不是自己编。关于长原文，我觉得分段塞进去效果更好，但要注意别让片段太碎，不然模型反而抓不住重点，我一般按语义切块，每块控制在200-300字左右。另外还有个坑，就是如果用户问题里带了“总结”这种词，模型就容易放飞自我，我后来在指令里加了一句“如果上下文中没有直接答案，请明确说不知道”，至少减少了一半的幻觉。你用的embedding模型是哪个？我之前发现检索回来的片段顺序也会影响引用准确度，有时候把最相关的放前面会好很多。

试试让模型先逐字摘录再总结，分两轮输出，幻觉能少很多。长原文还是分段吧，整段塞进去容易丢重点。

我之前也踩过这个坑，后来发现光靠system prompt不够，得在user prompt里把原文用引号包起来，明确告诉它“只能提取引号内的信息”。你试试把检索片段按段落拆开，每段前面加个编号，再让模型回答时标注引用来源，比如“根据片段2”，这样幻觉会少很多。另外，如果原文太长，建议只塞最相关的top2-3段，整段塞进去反而容易让模型抓不住重点，还会稀释指令的约束力。

我之前也遇到过这问题，后来把system prompt改成“只能基于以下片段作答，且每句话末尾用[1]标注来源编号”就好多了，再配合temperature调低到0.1，基本就老实了。片段太长的话建议按语义切块分开发，别一股脑全塞，不然模型容易抓错重点。另外你可以在user prompt里明确说“如果片段没有提到，就直接回答‘未找到相关信息’”，这样能堵住它脑补的路径。

我会在prompt里加一句“只输出原文中明确存在的表述”，然后把检索片段按段落分开标注来源，效果比整段塞进去稳很多。

这个问题我也踩过坑，光靠system prompt压不住它自由发挥，后来我是把原文切成小块，每块前面加个编号，然后明确要求回答里必须带[编号]引用，不然就判错，效果比单纯说“严格引用”靠谱多了。还有个土办法，就是让LLM先复述原文再回答，等于逼它过一遍脑子，编造率会低不少。原文太长的话建议还是分段，但别切太碎，保持每个片段语义完整，不然模型容易丢掉上下文。

我最近也碰到过一模一样的问题，后来发现光靠system prompt压是压不住的，得从任务设计上让模型“没机会”发挥。比如把检索片段拆成带编号的独立段落，然后明确要求回答里必须出现[1][2]这样的角标，模型为了凑引用格式反而会更老实。另外你可以试试在user prompt里加一句“如果原文没有直接答案，就回答‘未找到相关信息’”，这样比“严格引用”这种模糊指令管用得多。至于长文本，我建议别整段塞，分段后每段前面加个简短摘要，模型注意力会集中很多，否则中间信息容易丢。还有个野路子，把temperature调到0.2以下，有时候比prompt技巧还立竿见影。不过说到底，RAG的引用准确性跟检索质量也强相关，如果top-k返回的片段本身就不够精准，prompt写得再死也白搭。你有没有试过用HyDE或者query改写先优化一下检索？

我之前也踩过这个坑，后来发现光靠system prompt压不住，得在user prompt里把原文用引号包起来，明确告诉它“只能从引号内提取信息，找不到就说不知道”。长文本分段确实比整段塞效果稳，但别硬切，按语义拆成小块，每块前面加个来源标记，模型引用的时候会更有指向性。另外你试试把温度调到0，能明显减少自由发挥。

我之前也踩过这个坑，后来发现光靠system prompt不够，得在user prompt里把原文片段明确标出来，比如用引号或者分隔符包住，再让模型“只能基于以下内容回答”。还有个土办法是让模型先复述原文再回答，能明显减少编造。至于长文本，我建议分段塞，每段前面加个编号，让模型在回答里标注引用的是哪一段，这样既好追溯，也方便它按逻辑组织。