最近在做一个基于开源模型(Qwen2.5-7B)的本地知识库问答,用的bge-m3做embedding,chunk_size设的是512,overlap设了50。但测试下来,很多明显相关的问题召回不到对应文档,比如问“报销流程”只召回第一条,后面详细步骤都没出来。我试过调大top_k,效果也不明显,反而噪音变多了。想请教下各位,这种召回质量差的情况,一般优先排查embedding模型还是重新设计chunk策略?有没有比较系统的调优路径?另外,如果换更强的embedding(比如gte-Qwen2)会不会有质的提升?还是说应该先试试混合检索(BM25+向量)?求有经验的老哥指点下,谢谢!
楼主
2026-08-20
RAG召回质量差,是embedding模型问题还是chunk策略问题?
请 登录 后发表回复
全部回复
共 41 条
2楼
1天前
报销流程这种问题只召回第一条,我第一反应是chunk切分把步骤切散了,512的chunk对流程类文档来说很容易把完整步骤拦腰截断。建议先看看切出来的chunk内容,大概率是第一条chunk刚好完整包含了“报销流程”这个词,后面的步骤chunk标题和关键词都丢了。可以先试试按标题层级切或者加点上下文摘要拼到每个chunk前面,这个改动成本比换模型低多了。换gte-Qwen2肯定有提升但别指望质的飞跃,混合检索倒是值得先上,BM25对关键词匹配的补充在流程类query上效果挺明显的。