最近在做一个企业知识库问答,检索这块一直不太理想。看网上说可以微调embedding模型来适配垂直领域,就用业务数据跑了一版。用的是bge-large,构造了大概两千条query-正例-负例的对比数据,InfoNCE损失训练了3个epoch。结果发现微调后在测试集上召回率不升反降,有些原来能召回的现在反而排到后面去了。是我数据构造有问题,还是负例采样方式不对?有没有踩过类似坑的朋友指点一下,快被搞自闭了。
最近在做一个企业知识库问答,检索这块一直不太理想。看网上说可以微调embedding模型来适配垂直领域,就用业务数据跑了一版。用的是bge-large,构造了大概两千条query-正例-负例的对比数据,InfoNCE损失训练了3个epoch。结果发现微调后在测试集上召回率不升反降,有些原来能召回的现在反而排到后面去了。是我数据构造有问题,还是负例采样方式不对?有没有踩过类似坑的朋友指点一下,快被搞自闭了。
暂无回复,快来抢沙发吧