直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
刺猬爱写代码日记
LoRA微调到底需要多少数据？我准备了500条感觉还是不够
LoRA微调到底需要多少数据？我准备了500条感觉还是不够 最近在这个方向上踩了不少坑，想听听大家的实际经验。
认真Python玩家手记
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
猞猁喜欢开源日记
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
深夜架构说明书
大家做AI Agent的时候，工具调用的稳定性怎么保证？
大家做AI Agent的时候，工具调用的稳定性怎么保证？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
持续研究增长增长记
Prompt Engineering学到什么程度算入门？有没有进阶路线？
Prompt Engineering学到什么程度算入门？有没有进阶路线？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
认真成长设计修炼册
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
阿航_VueLab
向量数据库选Milvus还是Qdrant？各自有什么坑？
向量数据库选Milvus还是Qdrant？各自有什么坑？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
小林_CoderLab
向量数据库选Milvus还是Qdrant？各自有什么坑？
向量数据库选Milvus还是Qdrant？各自有什么坑？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
生产级Agent构建者
Prompt Engineering学到什么程度算入门？有没有进阶路线？
Prompt Engineering学到什么程度算入门？有没有进阶路线？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
阿Linux玩家手记
Prompt Engineering学到什么程度算入门？有没有进阶路线？
Prompt Engineering学到什么程度算入门？有没有进阶路线？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
云端金鱼喜欢开源日记
向量数据库选Milvus还是Qdrant？各自有什么坑？
向量数据库选Milvus还是Qdrant？各自有什么坑？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
一路升级写作成长记
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
写作案例库
Prompt Engineering学到什么程度算入门？有没有进阶路线？
Prompt Engineering学到什么程度算入门？有没有进阶路线？ 最近在这个方向上踩了不少坑，想听听大家的实际经验。
网络今天稳定工程日常
PyTorch和TensorFlow都学了一点，现在想深入一个，选哪个更不容易后悔？
最近在复现一个图像分割的开源项目，发现原仓库用的是PyTorch，但公司之前的一些老代码是TensorFlow 1.x写的。自己两边都照着教程跑通过MNIST，但真到改模型结构、调dataloader的时候就各种报错，感觉都只学了个皮毛。现在想选一个方向系统深入下去，主要做研究和自己折腾开源模型。看网上说PyTorch对新手友好、动态图调试方便，但又担心TensorFlow在部署上更成熟。有没有过
长期关注项目管理实践笔记
微调后的模型还需要在Prompt里写few-shot示例吗？
最近在用LoRA微调一个7B模型做垂直领域的问答，训练集大概2000条，格式都是“指令+回答”的pair。微调完发现效果还行，但心里没底——之前用GPT-4的时候习惯在Prompt里塞3-5个few-shot示例，效果提升很明显。现在模型已经微调过了，推理时还有必要加示例吗？加了会不会反而干扰？还是说Prompt应该写得更简洁，只留系统指令和用户问题？有没有大佬有实际对比经验，求指点。
键盘边修行
RAG检索出来的内容明明很相关，但生成答案时模型还是答非所问，是我哪里没调好吗？
最近在做一个企业知识库的RAG项目，用LangChain + Chroma，embedding用的bge-large-zh，检索top5。测试的时候发现一个很困惑的现象：检索出来的chunk人工看确实和问题高度相关，但丢给LLM（用的Qwen）生成时，答案要么答偏，要么把几个文档的内容混在一起瞎编。prompt也试过“只根据以下上下文回答”，效果还是不稳定。想问问大家，这种情况一般是检索的问题还是
长期主义架构学习者
微调后的模型是不是就不需要精心写Prompt了？有点搞不清两者关系
最近在拿LLaMA-Factory微调一个7B模型做垂直领域的问答，数据大概两千多条，效果比预想的好。但用的时候发现一个困惑：微调完之后，我随便写个简单的prompt它也能答得不错，那之前花时间研究的那些复杂prompt模板还有必要吗？还是说微调本质上就是把prompt里的指令“内化”到权重里了？如果继续加prompt会不会反而干扰？有没有实际做过微调+prompt配合的老哥说说经验，这块一直没想
深夜云原生学习簿
我要提问
大家都在搜
1
向量数据库选Milvus还是Qdrant？各自有什么坑？
5
2
大家做AI Agent的时候，工具调用的稳定性怎么保证？
4
3
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
2
4
MCP专区里用深度学习框架做模型部署，为什么推理速度比本地慢很多？
2
5
向量数据库选Milvus还是Qdrant？各自有什么坑？
1
6
大家做AI Agent的时候，工具调用的稳定性怎么保证？
1
7
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
1
8
LoRA微调到底需要多少数据？我准备了500条感觉还是不够
1
9
用LangChain做Agent时，工具调用总是选错，大家怎么优化prompt的？
1
10
写Prompt总是不稳定，是我描述有问题还是模型本身就这样？
1
11
写Agent的Prompt时，怎么让工具调用结果不被模型“脑补”？
1
12
RAG做多轮对话时，历史上下文到底该怎么塞进检索里？
1
13
RAG检索效果时好时坏，是我的chunk策略有问题吗？
1
14
MCP Server 本地跑通了但 Claude Desktop 一直连不上，有人遇到过吗？
1
15
大家部署本地大模型时，prompt模板到底该怎么管理才不乱啊？
1
16
向量数据库选型求助，Milvus和Qdrant到底怎么选？
1
17
PyTorch训练时GPU利用率忽高忽低，是DataLoader的锅吗？
1
18
向量数据库选Milvus还是Qdrant？各自有什么坑？
0
19
LoRA微调到底需要多少数据？我准备了500条感觉还是不够
0
20
直接用开源的7B模型做RAG，效果总是差强人意，有什么优化技巧？
0