最近在做一个企业内部知识库的RAG系统，用的是开源embedding模型+LLM（ChatGLM3）。检索回来的文档经常混着不相关的内容，比如用户问“报销流程”，结果把“出差政策”也捞上来了。我尝试把LLM微调一下，让它能更好地过滤噪声，但发现微调后模型有时反而忽略了正确文档，输出变得很奇怪。
想请教下大家：
1. 微调时，训练数据里的“正确文档”和“噪声文档”应该怎么构造？要不要加一些负样本？
2. 有没有人试过在微调时让LLM学会“拒答”或者“指出文档不相关”？效果如何？
3. 还是说应该优先优化检索质量，微调只是辅助？
目前卡在这块了，求指点……