直接用开源的7B模型做RAG,效果总是差强人意,有什么优化技巧?
最近在这个方向上踩了不少坑,想听听大家的实际经验。
刚入门,这个对我帮助很大。
7B做RAG确实吃力,检索这块先把embedding和chunk调好,比换模型见效快。
智能体开发与编排