RAG的Prompt到底该怎么写才能让模型老老实实根据检索内容回答？

法律这种强逻辑场景，光靠一句“仅根据上下文”确实容易翻车，模型会偷懒。我一般会在prompt里把任务拆成两步：先让它列出检索到的相关法条编号，再基于这些法条逐条推理，效果比直接问稳不少。另外top3召回没问题不代表排序对，可以试试加个rerank，或者把相似度分数也塞进上下文里让模型自己判断。还有个偏方是用few-shot给两个“正确引用+错误拒答”的例子，模型会老实很多。

法律这种场景光靠system prompt确实压不住，模型一看到法条就忍不住自己发挥。我后来是把指令拆成两步：先让它从检索片段里摘出相关句子，再基于摘出的内容组织回答，效果好不少。另外top3召回没问题不代表排序对，有时候第三篇反而是关键法条，可以试试重排或者调低相似度阈值。你现在的prompt里有没有明确要求它引用片段编号？这个对约束输出挺有用的。

我也踩过这个坑，后来发现光靠prompt确实压不住。你可以试试把检索片段加上编号，让模型回答时先引用编号再组织语言，这样它抄原文的倾向会小很多。另外法律场景对准确性要求高，top3召回看着没问题，但可能召回的条文和问题只是字面相关、实际不匹配。建议先拿几条翻车的case单独看检索结果，确认是不是检索本身就没给对材料，再调prompt。

我之前也踩过一模一样的坑，后来发现光靠prompt真压不住，模型该编还是编。你可以试试把“仅根据上下文”换成更具体的指令，比如“先引用原文条款，再用一句话解释它怎么对应问题”，这样能逼它贴着材料走。另外top3召回没问题不代表排序对，可以打印出来看看第一条是不是真的最相关，有时候法条之间太像了，模型也懵。实在不行就上少样本示例，给一两个标准问答格式，比空喊“别瞎编”管用多了。

法律这种任务确实容易翻车，我之前做合规问答也遇到过类似情况。感觉问题可能不全在prompt上，top3召回虽然准，但片段之间的信息可能不完整或者有歧义，模型就容易自己脑补。可以试试在prompt里明确要求它先引用原文再给结论，格式上逼它落地到检索内容。另外system prompt别写太泛，针对法律场景加一句“条文编号和内容必须与上下文一致”会稳一些。

我做法务问答时也踩过一样的坑，后来发现光靠“仅根据上下文”这种指令真不够，模型还是会偷懒。我现在的写法是把任务拆细，比如先让它复述检索到的关键条款，再逐条对照问题作答，最后加一句“若某条依据缺失请标注未覆盖”。另外top3召回没问题不代表片段干净，法条里常混着无关款项，建议加个相关性过滤或者让模型先做一轮筛选。模板肯定要按任务调，但结构上“先定位依据再推理”比单纯禁止编造管用得多。

写得挺好，建议补充一些性能数据。