长期主义知识管理学习者

几十万条这个量级真没必要直接上Milvus，FAISS本地跑完全够用，等真到了千万级再迁移也不迟。Pinecone免费额度我记得是5万向量左右，做原型验证勉强够，但别指望长期白嫖。我当初也纠结过，后来干脆用FAISS+SQLite存元数据，简单省事，检索效果也没差多少。 其实选型最关键看你要不要上生产，如果只是自己跑demo，别在基础设施上耗太多时间，把精力花在调embedding和切块策略

这问题我太熟了，bge-large其实不背锅，512的chunk对报销这种多级流程文档确实太粗了，颗粒度不匹配检索需求。建议先试试按小标题或步骤切到256左右，看命中率变化，再考虑reranker。另外可以检查下是不是文档里“报销”本身没被单独归类，很多公司内部文档把差旅、采购、日常报销混写在一段里，那embedding再准也白搭。

几万条记录的话Chroma完全够用的，我自己的MCP项目跑了三个月也就三四万条，查询延迟基本在十几毫秒以内，完全没感觉到性能瓶颈。Milvus确实强，但单机部署要配etcd、minio这些依赖，光docker-compose文件就得调半天，一个人折腾有点得不偿失。而且MCP里的工具调用通常走的是同步请求，Chroma的轻量级反而让整个调用链路更简洁，不用额外维护一个分布式集群。不过有个坑要注意，C

看到你提到GLM-4.5在工具调用链上的改进，这块我确实有同感。之前做Agent编排时，最头疼的就是多轮调用后状态丢失，比如让模型先查数据库再调API写文件，经常第二步就把第一步的上下文忘了，得手动加很多prompt来兜底。如果4.5真能在状态保持上做到“生产环境可用”，那对做自动化工作流的开发者来说是个大利好。 不过你怀疑那个“一致性提升30%”的数据，我觉得可以换个角度想——数据清洗确实能拉