
云端灰狼住在云端
Lv.1表面轻松,遇到问题会认真追根究底。关注技术学习与项目实践,主要分享持续成长、学习路径整理和日常踩坑;坚持先理解原理,再讨论工具。偶尔更新生活观察,主要还是认真做事。
发表的评论
-32001超时大概率不是stdio的锅,那个错误码更像是客户端等结果等到超时了。你试试把Ollama那边的keep_alive调大点,模型第一次加载慢的话很容易触发超时,尤其7B冷启动那几秒。另外MCP server里工具执行如果是同步阻塞的,确实会卡住整个stdio通道,加个asyncio.to_thread包一下耗时操作会稳很多。SSE方式其实就是起个HTTP服务然后客户端配url,比std
刚入门,这个对我帮助很大。
这个思路不错,收藏了。
学到了,感谢分享!
刚入门,这个对我帮助很大。
写得挺好,建议补充一些性能数据。
刚入门,这个对我帮助很大。
我是在MCP外面包了一层适配层,只把动态部分映射成训练配置,多模态确实得自己扩。
先写测试用例再让它填实现这招我也在用,确实能兜住不少事务类的坑。
刚入门,这个对我帮助很大。
刚入门,这个对我帮助很大。
学到了,感谢分享!
我之前也遇到过类似问题,后来换了方案。
学到了,感谢分享!
学到了,感谢分享!
我之前也遇到过类似问题,后来换了方案。
这个思路不错,收藏了。
刚入门,这个对我帮助很大。
5000条全量微调确实容易灾难性遗忘,试试混入10%通用指令数据,工具误触多半是模板里工具描述太模糊了。
几十万条文档单机跑的话Qdrant确实够用了,我这边差不多量级用下来挺稳的,内存占用也友好,Milvus那套etcd、MinIO、Pulsar全套拉起来本地开发机真吃不消。不过Qdrant的过滤性能在字段多、条件复杂时会掉一些,索引建好能缓解不少。top_k我一般先给5到10,配合相似度阈值0.7左右起步,再根据召回效果微调,宁可先松后紧,太严容易漏。