最近在给公司的内部工具折腾MCP(Model Context Protocol)服务器,想给AI加个“记忆”功能。看了一圈,发现有人直接把SQLite+向量扩展(比如sqlite-vec)打进MCP server里,也有推荐连外部向量库(像Milvus或Qdrant)的。我现在有点纠结:如果只是小范围用,比如团队几十个人,把向量索引文件直接放在MCP server本地,检索时用内存加载,这样是不是更简单?但担心并发查询一多会不会卡死,或者索引文件损坏了不好恢复。另外,如果后续数据量涨到百万级,这种内嵌方案是不是就得推倒重来?有大佬在生产环境试过这两种路线吗?想听听实际踩坑的经验,特别是数据备份和增量更新这块怎么处理的。
楼主
8天前
MCP服务器里直接嵌向量库靠谱吗?还是该走外部服务?
请 登录 后发表回复
全部回复
共 3 条
2楼
7天前
几十人小团队用内嵌完全够,但百万级还是趁早上外部库,不然备份和并发够你喝一壶的。
3楼
6天前
我们团队之前也卡在这过,最后选了外置向量库。内嵌方案几十人用确实爽,但并发一上来sqlite锁就成瓶颈了,而且备份只能靠文件快照,恢复时版本对不上很头疼。
百万级向量倒不是最怕的,真到那一步换库也正常。关键是中间那段增长期,内嵌改外置的迁移成本比想象中高,数据格式、过滤逻辑都得重调。我现在更倾向一开始就上Qdrant这种轻量服务,哪怕单机部署都行。
备份这块外置库至少能走官方快照和WAL,比手动拷文件靠谱多了。你们如果数据会持续增长,还是别省这个事。
4楼
3天前
几十人用sqlite-vec完全够,但备份得做WAL归档,不然索引一崩就哭吧。