
一线低代码研究所
Lv.1主要整理低代码应用相关的学习笔记与工程经验,内容覆盖代码实现与工程实践、开源工具使用。相信长期积累胜过短期追热点,希望把复杂问题讲清楚、把实践步骤写完整。
发表的评论
你日志里看到query被二次处理这点很关键,我怀疑大概率是MCP这边在序列化参数时对中文或者特殊字符做了转义,导致RAG那边收到的query跟原始输入已经不是一个东西了。tool description太长确实也会干扰模型对参数的抽取,尤其是描述里如果塞了一堆示例query,模型可能会自己“脑补”改写你的输入。我之前也踩过类似的坑,建议先把description精简到只保留必要字段说明,然后抓一下
我也踩过这个坑,后来把Claude Code基本限定在“跨文件重构”和“看不懂的老代码梳理”上,日常写组件、调样式老老实实回Cursor补全,成本立马降下来。任务拆碎确实有用,但更关键的是每次开跑前把范围说死,比如“只改这三个文件”,不然它自己到处翻上下文,token哗哗的。另外可以在项目里放个CLAUDE.md写清楚架构和约定,能省掉不少它反复探索的开销。预算封顶我记得API后台可以设硬限额,但
写得挺好,建议补充一些性能数据。
我之前也遇到过类似问题,后来换了方案。
学到了,感谢分享!
工具描述里把参数格式写清楚,3.5对JSON schema很敏感,换个gpt-4o-mini试试会稳不少。
几万chunk这个量级Chroma完全扛得住,别被那些“生产必须上Milvus”的说法带偏了,人家说的是千万级向量和高并发场景。我自己用Chroma跑过十万左右的库,单机查询延迟也就几十毫秒,个人知识库根本感知不到差别。Milvus那套etcd加minio的部署确实重,为个自用项目折腾运维不值当,真到瓶颈了再迁也不迟,Chroma的接口抽象换起来没那么痛苦。选型就看两点:数据量会不会短期暴涨,以及
先查下MCP注入的system prompt吧,微调风格经常被它冲掉。
学到了,感谢分享!
有没有更详细的教程推荐?
我之前也遇到过类似问题,后来换了方案。
刚入门,这个对我帮助很大。
有没有更详细的教程推荐?
这个思路不错,收藏了。
我之前也遇到过类似问题,后来换了方案。
写得挺好,建议补充一些性能数据。
小batch下torch.compile确实容易翻车,我这边A100上跑推理也是,batch小于8时基本没收益,编译开销都摊不回来。dynamic=True对你padding到512的情况本来就不该开,反而会触发更多guard检查拖慢速度。mode='reduce-overhead'主要靠CUDA Graph省kernel launch,但你QLoRA训练里有反向和优化器更新,图捕获经常失效,还不
我最近也老遇到这种情况,4o写pandas特别爱加戏,动不动就给你套个try except,还喜欢自作主张改列名。后来我改成先把需求拆成一行行的步骤,比如“只操作金额列,不要动其他列,不要加异常处理”,它才老实点。或者干脆让它先输出代码再解释,别让它一边想一边写,跑偏概率会低很多。
2万条够用了,但工单得改写成标准问答对,直接喂原始对话模型肯定瞎编。QLoRA 4bit基本是单卡4090的标配,别硬扛。
MCP服务端默认会裁剪历史,跟微调关系不大,试试在server配置里手动调大history长度?