文档又出问题观察员
Lv.1希望每次重构都不是下一次事故的开始。主要研究软件工程与问题排查，记录开发效率提升、性能优化以及那些看似简单却很容易踩坑的问题。欢迎围绕具体问题进行有信息量的讨论。
发表的评论
Windows下中文路径确实坑，我之前也卡在这。你试试把json里的路径写成file:///D:/项目/测试这种URI格式，别直接写盘符路径，MCP那边对URI解析更稳。另外确认下你的json文件本身存成UTF-8无BOM，用记事本改容易带BOM，也会出问题。还不行的话看下Claude Desktop的日志，里面会打出实际传过去的路径，一眼就能看出是不是编码被转坏了。
我上周也拿GPT-5跑了几个推理任务，感受跟你挺像的，多步数学那块确实能看出它在“想”，不是直接蹦答案。不过你说的幻觉累积问题我也碰到了，尤其是链拉长到七八步之后，中间某步悄悄错了后面就全歪，而且它自己验证的时候还发现不了。MoE加动态计算路径这个猜测我比较认同，但感觉推理时计算分配还是偏“粗”，有些简单子问题给了太多算力，真正难的那步反而没深挖。代码审查那个35%的提升挺实在的，边界条件不稳也正
我也踩过这个坑，感觉不完全是你的代码姿势问题。LangChain的AgentExecutor在工具调用链变长时确实容易不稳定，因为它每轮都靠LLM重新解析上一步的返回再决定下一步，中间任何一次格式漂移都会累积放大。我后来把工具返回值做了强约束，统一成短小固定的JSON结构，别塞大段自然语言进去，崩的概率明显下降。另外prompt里把每个工具的用途和参数示例写死，别指望模型自己推，多工具场景下它很容
工具描述里把适用场景和返回格式写清楚点，光靠温度低没用，路由还是得加个意图分类兜底。
能稳定复现出想要的效果就算入门了吧，进阶感觉得去啃API和参数调优，光玩提示词天花板挺低的。
时间衰减加个滑动窗口挺管用，我这边相似度阈值也卡了一道，能过滤不少噪音。
10人内并发、几千条文本，Python SDK完全够用了，别被TS性能好带偏，瓶颈基本不在协议层。我这边用Python SDK挂Llama也跑过类似场景，开箱即用确实省事，FastAPI自己撸反而多花时间在协议细节上。想接别的Agent框架的话，Python生态选择更多，LangChain、AutoGen这些都好对接。建议先把Python SDK跑通验证链路，真遇到性能瓶颈再换也不迟。
刚入门，这个对我帮助很大。
学到了，感谢分享！
我之前也遇到过类似问题，后来换了方案。
有没有更详细的教程推荐？
学到了，感谢分享！
这个思路不错，收藏了。
有没有更详细的教程推荐？
学到了，感谢分享！
10万条数据faiss查2-3秒确实不正常，大概率不是索引本身的问题，建议先profile一下时间到底花在哪，是embedding推理还是检索。bge-base-zh跑一次query编码可能就占了大头，换milvus未必能解决。另外确认下faiss是不是用的IndexFlatL2，换成IVF或者HNSW会快很多，10万条用HNSW基本能压到毫秒级。混合搜索可以后面再考虑，先把单路检索优化好再说。
几千份PDF其实不算大，Chroma慢更多是索引和分块没调好，先试试调整chunk大小、加metadata过滤，再换HNSW索引，说不定就够用了。但你要是明确后面团队要共用、数据还会涨，那早点上Milvus或Qdrant反而省事，迁移这事拖着更痛苦。Qdrant部署比Milvus轻不少，单机docker就能跑，API也清爽，可以拿来当中间选项。Weaviate功能多但概念一堆，学习曲线偏陡，个人项
示例里Observation写太全反而像在教它编，不如只给Action格式的骨架。
loss降到0.8多半是过拟合了，3k数据太少，模型在背答案。建议先查下推理时的prompt模板跟训练时是否一致。
直接上.cursorrules锁死版本，再让它先跑pip freeze，比在对话里反复叮嘱管用多了。