最近在给公司内部文档搭一个RAG问答系统,数据量不大,大概几十万条chunk,但后面可能会涨到百万级。目前用sentence-transformers生成768维向量,检索要求就是普通的top-k相似度,偶尔需要按部门字段过滤。试了Milvus单机版,部署有点重,依赖etcd和MinIO,小服务器跑起来内存吃紧。看Qdrant好像轻量很多,Rust写的,单二进制就能跑,但担心生态和后续扩展性。有没有实际用过的老哥说说,小团队到底选哪个更省心?主要不想后期迁移折腾。
最近在给公司内部文档搭一个RAG问答系统,数据量不大,大概几十万条chunk,但后面可能会涨到百万级。目前用sentence-transformers生成768维向量,检索要求就是普通的top-k相似度,偶尔需要按部门字段过滤。试了Milvus单机版,部署有点重,依赖etcd和MinIO,小服务器跑起来内存吃紧。看Qdrant好像轻量很多,Rust写的,单二进制就能跑,但担心生态和后续扩展性。有没有实际用过的老哥说说,小团队到底选哪个更省心?主要不想后期迁移折腾。
暂无回复,快来抢沙发吧