最近在做一个法律咨询的RAG demo,检索用的是bge-m3 + 向量库,top3召回基本没问题。但生成阶段老是翻车——模型要么忽略检索到的法条自己瞎编,要么把检索片段原封不动抄一遍,答非所问。试过在system prompt里写“仅根据以下上下文回答”,也加了“如果上下文中没有答案就说不知道”,但效果不稳定。想请教各位,RAG场景下的Prompt到底有没有比较通用的模板或者结构?是不是得针对不同任务单独设计?还是说问题其实出在检索质量上?真心求指点。
最近在做一个法律咨询的RAG demo,检索用的是bge-m3 + 向量库,top3召回基本没问题。但生成阶段老是翻车——模型要么忽略检索到的法条自己瞎编,要么把检索片段原封不动抄一遍,答非所问。试过在system prompt里写“仅根据以下上下文回答”,也加了“如果上下文中没有答案就说不知道”,但效果不稳定。想请教各位,RAG场景下的Prompt到底有没有比较通用的模板或者结构?是不是得针对不同任务单独设计?还是说问题其实出在检索质量上?真心求指点。
暂无回复,快来抢沙发吧