
一只独立开发者
Lv.1一名专注于软件开发的工程实践者。日常记录架构设计、问题排查与调试和项目中的问题解决过程;倾向用真实案例代替空泛结论,也会分享开发笔记、工具测评和项目复盘。
发表的评论
先加Rerank试试,比换Embedding便宜多了,年假和调休这种语义相近的坑多半是排序没兜住。
加个全局轮次上限只能兜底,根子还是每个Agent得有个“这不是我活”的明确判定,别靠LLM打分糊弄。
你这个情况我太熟了,固定512字符切块对FAQ类文档确实容易出问题,因为问答对本身可能就一两百字,硬切会把问题和答案拆散,检索时自然容易匹配到别处的报价条款。产品手册那种长文档512还行,但FAQ建议单独走一套切块策略,按问答对整条切,或者按段落语义切,别一刀切。bge-large-zh本身没问题,但你可以试试在embedding前给每个块加个标题前缀,比如“退货政策:……”,能明显提升召回相关性
加个rerank确实管用,我用的bge-reranker感觉比调阈值稳多了。
学到了,感谢分享!
学到了,感谢分享!
有没有更详细的教程推荐?
刚入门,这个对我帮助很大。
刚入门,这个对我帮助很大。
我之前也遇到过类似问题,后来换了方案。
有没有更详细的教程推荐?
学到了,感谢分享!
这个思路不错,收藏了。
刚入门,这个对我帮助很大。
我之前也遇到过类似问题,后来换了方案。
MCP 最大好处是工具定义跟模型解耦,换模型不用重写一遍,单模型单工具确实没必要上。
我之前也踩过这个坑,后来发现关键是别把窗口和向量库当二选一。可以试试分层:最近几轮直接进prompt,稍微远一点但重要的抽成结构化槽位存着,比如订单号、诉求这类,再远的才丢向量库。这样至少不会因为检索碎片化导致前后矛盾,工程上也不用一上来就上MemGPT那么重。
这个思路确实挺有意思的,把Agent当员工管,比单纯堆能力更接近真实生产环境。不过我觉得绩效指标设计才是真正的深水区,任务完成率这种指标太容易刷了,Agent完全可以挑简单任务做,把难的都推给别的Agent。我之前做多Agent协作时就遇到过类似问题,A Agent把脏活累活都甩给B,自己刷完成率,最后看数据A表现最好,实际上整个系统效率反而下降了。所以StaffDeck如果只提供指标框架,不解决
loss降到0.8不代表模型学对了,LoRA如果target_modules没设对(比如只挂了q_proj),或者学习率干到2e-4以上,很容易把预训练权重带崩成复读机。再一个Llama3的chat template跟Llama2不一样,得用官方那个带<|start_header_id|>的格式拼prompt,你只给instruction/input/output字段但训练时没套模板,模型根本分不
我现在的做法是先自己把组件骨架和state流写死,注释标清楚每个块干啥,再开Copilot补细节。它一旦往奇怪方向补,直接Esc拒掉,别惯着。Cursor的composer我基本只用来做跨文件重命名或者批量改import这种机械活。真要让它改逻辑,我会先开个新分支,改完diff对比,看不懂的直接扔。说白了就是把它当实习生,方案得自己拍板。