微调后的模型做Agent工具调用总是不听话，是数据格式问题还是我调参有问题？

哎这个我太有同感了，之前用7B做tool calling也栽过，你那500条数据量偏少，LoRA其实很容易过拟合到训练格式上，但一换到Agent的复杂prompt就露馅。建议先拿10条不出错的样本，把训练时的system和实际框架里的system逐字对比下，变量名、时间格式都得一致。另外可以试试把response里强制加一段“先思考再调用”的cot，很多小模型靠这个能矫正不少。实在不行就上DPO，比调学习率管用。

大概率是数据格式不一致，先把你推理时的system prompt和few-shot完全对齐训练时的再试。

另外500条太少了，LoRA rank16学不扎实，试试加到32或者用全量微调跑2个epoch。

我最近也踩过类似的坑，最后发现大概率是数据格式的问题。你训练时system prompt和推理时给agent框架的system prompt如果没完全对齐，模型就会在边界情况下放飞自我，建议先把两边的prompt模板一字不差地同步再试。另外500条数据对工具调用来说太少了，尤其你schema里参数一多，模型根本学不会严格的格式约束，我后来把数据扩到2000条，并把失败case反复加进去重训，效果提升很明显。调参倒是次要的，LoRA rank 16够用，学习率可以试着降到1e-4，但先别指望靠这个救回来。如果数据修完还不行，再考虑加一个工具调用的偏好优化或者干脆用带function calling的专用模型，7B硬磕确实容易这样。

我之前也踩过类似的坑，排查下来大概率是数据格式和推理时prompt不一致的问题，特别是system prompt里对工具的描述、few-shot示例，训练和推理必须完全对齐，差一个字模型都会“放飞”。另外LoRA rank16对7B来说可能偏保守，工具调用这种结构化输出对参数敏感，可以试试rank加到32或64，学习率降到1e-4左右，epoch先别超3个。还有一个很实用的调试技巧：单独把训练集里某条数据抽出来，用和推理完全相同的模板去测生成，如果还是乱来，那基本就是数据本身有噪声或格式不统一，而不是RL的问题。

大概率是数据格式问题，检查下训练时system prompt和Agent框架里的是否完全一致，特别是工具描述的措辞。

500条数据做工具调用确实有点紧，尤其Qwen2.5-7B这种底座本身function call能力就不算特别强，靠SFT硬灌格式很容易过拟合到训练时那套模板上。你单测看着行但进框架就崩，大概率是system prompt、工具描述的措辞、甚至参数顺序跟训练数据对不上，模型其实是在背格式而不是真理解调用逻辑。学习率2e-4配LoRA rank16跑3epoch，这个组合对7B来说偏激进，容易把原本的指令跟随能力带偏，闲聊和编参数名就是典型症状。建议先把推理时的prompt逐字对齐训练样本，工具schema的JSON结构、字段顺序、描述文案都别改，再看是不是还乱。如果对齐后仍然不听话，那问题就不在数据格式，而是模型没学会"什么时候该调、什么时候不该调"，这块纯SFT很难补，得靠负样本和偏好优化。排查上可以先拿训练集里的原样本直接喂进Agent框架跑一遍，如果连这都错，说明是推理侧配置问题；如果全对但新样本崩，那就是泛化不够，加数据多样性比调参更管用。另外7B做Agent不是不能做，但工具数量别太多、schema别太复杂，先收窄到两三个工具跑通再扩，比一上来全量硬刚靠谱得多。