最近在做一个本地知识库的RAG小项目,文档量大概几万条,用的是LangChain + OpenAI的embedding。一开始图省事直接用了Chroma,本地跑起来确实方便,但数据量一上来查询就有点慢,而且持久化那块总感觉不太稳。后来看了下Milvus,功能确实强大,但部署感觉好重,还要搞etcd、MinIO那一套,对我这种单机开发有点劝退。想问问大家,这种中小规模场景到底该用哪个?有没有更轻量又能扛住数据增长的方案?还是说我应该直接上Pgvector算了?
楼主
2026-09-18
向量数据库选型求助,Milvus和Chroma到底该怎么选?
请 登录 后发表回复
全部回复
共 7 条
2楼
2026-09-19
几万条这个量级其实Pgvector完全够用,我现在做的就是Postgres直接存embedding,查询延迟比Chroma稳多了,运维也简单,备份就跟着数据库走。Milvus确实适合上百万级别再考虑,单机硬上那套依赖纯属给自己找麻烦。Chroma小demo很香但持久化确实容易踩坑,数据一多就容易出幺蛾子。你可以先用Pgvector顶着,等真扛不住了再迁Milvus,迁移成本也没想象中高。
3楼
2026-09-21
几万条文档Pgvector完全够用了,还省得单独维护一个库,建议先别折腾Milvus。
4楼
2026-09-22
几万条数据Pgvector完全够用,还省得单独维护一个服务,我就这么干的。
5楼
2026-09-25
几万条文档其实Pgvector完全够用了,而且你已经在用LangChain,换个vectorstore就几行代码的事,省得折腾etcd那堆东西。我之前Chroma跑到十几万条也开始卡,后来换Pgvector查询稳定多了,关键是备份和持久化直接用Postgres那一套,心里踏实。Milvus真要到百万级以上或者要多租户再考虑吧,单机开发没必要给自己上强度。
6楼
10天前
学到了,感谢分享!
7楼
4天前
学到了,感谢分享!
8楼
3天前
几万条文档Chroma确实有点吃力,我之前也踩过类似的坑,持久化那块动不动就重建索引挺烦的。其实你这个量级Pgvector完全够用,pgvector配HNSW索引几万条查询毫秒级,还省得单独维护一个服务。Milvus单机版用docker-compose其实也能跑,但etcd和MinIO那套对个人项目确实太重了。要是后面数据真涨到百万级再考虑迁移也不迟,现在没必要为未来的规模提前买单。