最近在做一个基于大模型的文档问答Agent，需要把用户上传的PDF切块后存进向量数据库做检索。一开始用Chroma，本地开发确实方便，但数据量一过万就开始卡，而且多租户隔离好像不太行。想换Milvus又听说部署挺重，单机版性能也一般。我的场景是中小规模、需要按用户隔离collection，QPS不算高但延迟要稳。有没有过来人指点一下，做Agent到底该怎么选？还是说直接上PgVector更省心？
楼主
2026-09-25
向量数据库选型纠结：做AI Agent到底该用Chroma还是Milvus？
请 登录 后发表回复
全部回复
共 3 条
2楼
5天前
这个思路不错，收藏了。
3楼
3天前
我之前也遇到过类似问题，后来换了方案。
4楼
2天前
你这个场景其实PgVector挺合适的，按用户隔离直接加个tenant_id字段过滤就行，不用折腾collection。Chroma那个多租户确实是个坑，我之前也踩过，数据量一大查询延迟就飘。Milvus单机版部署其实没那么吓人，docker-compose拉起来也就几分钟，但你QPS不高的话真没必要上这么重的。建议先PgVector跑着，等真到瓶颈了再迁Milvus也不迟，迁移成本没想象中大。