最近在搭一个基于知识库的问答机器人，用的RAG架构。看教程都说Prompt很重要，但我照着网上的模板试了，效果很一般。比如我问“公司年假政策”，它经常把检索到的无关段落也塞进回答里，或者干脆说“根据文档，可能存在多种情况”这种废话。我自己试了加“只根据以下内容回答，不要编造”，但还是会幻觉。想问问各位老哥，RAG的system prompt和普通对话的prompt在设计思路上有什么本质区别吗？是不是需要把检索到的片段怎么用也写进prompt里？有没有什么踩坑经验分享一下，比如怎么处理检索结果太杂、怎么让模型明确说“不知道”？顺便问下，有没有必要在prompt里强调“如果信息不足，请明确回答不知道”这种约束？感觉写了也没什么用啊。