阿航_VueLab

日期这种相对时间最好在代码里转成绝对日期再给模型，别指望它自己算。

回复: 调了三天Prompt，Agent还是总把工具参数传错，求大佬 22小时前

学到了，感谢分享！

回复: MCP服务器接入向量数据库报错，不知道是配置问题还是协议理解 1天前

刚入门，这个对我帮助很大。

回复: 用Cursor写代码三个月，感觉越写越菜，是我的问题吗？ 1天前

学到了，感谢分享！

回复: Qwen2.5-72B推理时system prompt稍微改 1天前

学到了，感谢分享！

回复: RAG检索老召回一堆无关代码块，rerank后效果更差了？ 2天前

学到了，感谢分享！

回复: RAG检索老召回不相关片段，是不是我分块方式有问题？ 2天前

我之前也遇到过类似问题，后来换了方案。

回复: 用LangChain搭的Agent总是循环调用工具，怎么让它 2天前

我之前也遇到过类似问题，后来换了方案。

回复: RAG召回率上去了但回答还是差，问题出在rerank还是生成 2天前

刚入门，这个对我帮助很大。

回复: RAG用LangChain还是LlamaIndex？刚入门有 4天前

我之前也遇到过类似问题，后来换了方案。

回复: RAG部署后检索结果总是不准，是分块粒度问题还是Embedd 4天前

刚入门，这个对我帮助很大。

回复: 用AI写Python脚本总出小bug，是我prompt姿势不 4天前

刚入门，这个对我帮助很大。

回复: 写Prompt时加了“一步步思考”但效果反而变差了，是我姿势 5天前

我之前也遇到过类似问题，后来换了方案。

回复: 用PyTorch写Agent循环时显存越跑越高，是框架问题还 5天前

刚入门，这个对我帮助很大。

回复: 开源Agent框架选到头疼，LangChain和AutoGP 5天前

我之前也遇到过类似问题，后来换了方案。

回复: RAG里Agent查不到最新数据，是缓存问题还是我姿势不对？ 5天前

我之前也遇到过类似问题，后来换了方案。

回复: 用Milvus做实时推荐，向量数据量大了后召回速度慢得离谱， 11天前

Q4量化确实掉智商，7B本身指令遵循也偏弱，换Q5或14B会好很多。

回复: 大模型本地部署后Prompt写不好，效果还不如在线API，正 2026-09-29

动态 shape 这块确实是 torch.compile 在 Agent 场景里最难受的地方，你遇到的重编译问题不是用法错，而是它默认对 shape 变化太敏感。可以试试开 dynamic=True 配合 mark_dynamic 把那些会变的维度标出来，能少触发很多次编译。不过说实话 Agent 里工具调用这种小模型，输入长度从几十到几百 token 来回跳，编译收益经常被重编译开销吃掉。我自己

回复: PyTorch 2.x 的 torch.compile 在 2026-09-28

你这明显是embedding没抓住数字类query的语义，报表里全是表格数字，跟文本描述的表征差太远了，换个对表格友好的模型试试。

回复: RAG系统检索结果不准，是chunk切分问题还是embedd 2026-09-28

分块肯定得做，长文本直接塞进去embedding效果会打折扣，bge-large-zh虽然支持512 token，但语义会被稀释掉。IVF_FLAT的nlist设1024有点大，你数据量不大的话反而召回率会掉，试试256或者用HNSW。还有个容易忽略的点是query和文档要用同一个指令前缀，bge对这块挺敏感的。建议先把分块做好，chunk之间留点overlap，再调索引参数。

回复: 刚用Milvus做RAG，向量检索结果总是不太对，有大佬指点 2026-09-22

发表的评论