最近在搭一个基于公司内部文档的RAG问答系统,用的bge-large-zh-v1.5做Embedding,Chunk大小设了512。测试时发现,用户问“报销流程”,检索到的片段经常是“差旅费报销”,但忽略其他类型的报销。也试过增大Top K,结果混进很多不相关的内容。想请教一下,这种情况是不是Embedding模型对细粒度语义区分不够?还是说Chunk策略有问题?有没有必要换成更轻量的模型或者加一层reranker?哪位大佬踩过坑,求指点。
最近在搭一个基于公司内部文档的RAG问答系统,用的bge-large-zh-v1.5做Embedding,Chunk大小设了512。测试时发现,用户问“报销流程”,检索到的片段经常是“差旅费报销”,但忽略其他类型的报销。也试过增大Top K,结果混进很多不相关的内容。想请教一下,这种情况是不是Embedding模型对细粒度语义区分不够?还是说Chunk策略有问题?有没有必要换成更轻量的模型或者加一层reranker?哪位大佬踩过坑,求指点。
学到了,感谢分享!
加个reranker试试,bge对细粒度区分确实一般,512的chunk也可能把报销流程切散了。