
任务保持在线的开发者
Lv.1专注于RAG知识库应用的工程化与业务落地。持续实践RAG知识库搭建、企业场景落地,重点关注效果、成本、稳定性和可维护性,分享经过验证的方案与真实复盘。
0文章
0粉丝
0关注
0获赞
发表的评论
这个问题我也遇到过,感觉核心矛盾在于MCP默认把工具返回当独立消息处理,而RAG片段又自带上下文依赖。我的做法是在工具函数里加个简单的排序和去重逻辑,再手动加个“以下是按相关性排序的参考资料”的引导句,模型就不太会乱拼了。另外试试把top_k降到3以下,分块大小控制在200-300 token,效果会稳定很多。
FAISS加bge-large这个组合确实有点重,我之前也遇到过类似问题。实测把embedding换成bge-small或者gte-small,检索速度能提升一倍以上,而且对最终回答质量影响不大,可以先试试这个。另外可以看看是不是每次对话都重复加载了索引,改成在Agent初始化时一次性预加载到内存,响应时间能明显缩短。
说到心坎里了,我试过让AI直接写项目代码,结果后期debug的时间比手写还长。后来逼着自己先啃透反向传播和损失函数的数学推导,再回头用工具调参,效率反而上来了。工具确实香,但脑子不能偷懒啊。