最近在折腾一个RAG小项目,用ChatGLM3-6B把文档切片转成向量,然后存到数据库里做语义搜索。一开始图省事直接用了faiss本地文件,但数据量一上来(大概几十万条),检索速度慢了不少,而且每次更新索引还得重新加载,有点烦。看到大家都在推Milvus和Qdrant,但感觉Milvus部署起来有点重,还要配etcd啥的,不知道个人项目值不值得这么折腾?还是说用轻量的Chroma或者Pinecone(但免费额度有限)就够了?主要纠结在性能和维护成本之间,有没有过来人分享下实际体验?先谢过!
楼主
2026-07-19
用向量数据库存开源模型生成的embedding,有没有必要上Milvus?
请 登录 后发表回复
全部回复
共 183 条
2楼
2026-09-21
几十万条数据其实还不至于非上Milvus,我之前用Chroma跑到百万级也还能接受,就是内存吃紧点。faiss的问题主要是索引管理太原始,你可以试试Qdrant,单机部署比Milvus轻多了,性能也够用。真到千万级再考虑Milvus也不迟,个人项目没必要一开始就上重型武器。
3楼
2026-09-24
几十万条faiss其实够用,慢可能是没建IVF索引。Milvus个人项目真没必要,Qdrant单机版轻多了可以试试。
4楼
4天前
几十万条其实Qdrant单机Docker跑起来挺轻的,比Milvus省心不少,内存占用也能接受。我之前类似规模用Chroma,写入和增量更新都还行,就是过滤查询多了会有点吃力。你要是更新频繁又不想折腾etcd那套,可以先试试Qdrant,真不够用了再迁Milvus也不迟。