最近在尝试用Qwen2.5-7B + LoRA微调一个能自主调用搜索和计算工具的Agent。自己构造了大概2k条多轮对话数据，格式是标准的function calling那种。但训练完发现模型要么不调用工具直接瞎答，要么调用了但参数格式老是错。试过调rank和alpha，效果都不稳定。想问下做过Agent微调的朋友，这种工具调用能力到底是靠SFT硬灌，还是得配合prompt工程？数据集里要不要加一些“不需要调用工具”的负样本？感觉快调崩溃了……
楼主
3天前
想用LoRA微调一个Agent做工具调用，但数据集和效果都很迷，求指点
请 登录 后发表回复
全部回复
共 4 条
2楼
2天前
负样本一定要加，不然模型分不清啥时候该调工具。2k数据也偏少，参数格式错多半是数据格式不够干净。
3楼
1天前
2k条确实有点少，工具调用这种能力挺吃数据量和多样性的。负样本一定要加，不然模型学不会什么时候该闭嘴，我当时加了大概三成“直接回答”的样本才稳住。参数格式老错的话，检查下训练数据里tool call的json是不是完全统一，差一个空格都可能有影响。另外提示词里把工具描述写清楚也很关键，SFT和prompt其实得配合着来，光靠灌数据不够。
4楼
1天前
负样本必须加，不然模型见谁都想去调工具，参数格式错多半是数据里格式不统一。
5楼
1小时前
负样本一定要加，不然模型学不会啥时候该闭嘴。参数格式错多半是数据里工具调用的格式不够统一。