用MCP微调Llama时，工具调用老是崩，有谁踩过这个坑？

这坑我太熟了，之前用vllm跑也这样，后来发现多半是数据里工具描述的格式和推理时system prompt没对齐，模型根本没学会“该在什么时候调工具”。你可以试试把工具定义写得更啰嗦点，每个参数都带示例值，然后微调数据里多塞几轮“先调用再总结”的完整对话，光靠调采样参数真救不回来。另外后处理那边最好加个正则校验，参数格式不对就强制重试一次，别直接让模型自由发挥。

大概率是数据里工具调用轮次太少，模型没学会格式，建议把多轮工具调用拆开反复喂，别一股脑塞。

也可能是MCP描述字段里缺了参数类型示例，加几个具体值进去让模型抄作业，会稳很多。

八成是数据里工具调用轮次太少，模型没学会格式，多塞点带多轮工具切换的样本试试。

我之前也卡在这块儿过，后来发现不光是描述字段的问题，微调时如果只在对话末尾放一次工具调用，模型根本学不会多轮交替的格式。建议你把工具定义和调用结果都拆成独立的user/assistant轮次，模拟真实调用链，数量至少翻一倍试试。另外vllm那边对function calling的post-processing有坑，有时候模型输出对了但解析器不认，建议你直接看原始输出log，别只看最终结果。

这坑我太熟了，之前用vllm跑也是疯狂瞎编工具名。你试试把系统提示里的工具描述改成JSON Schema那种带strict模式的结构，光靠自然语言描述模型根本抓不住边界。另外微调数据里单轮对话的工具调用至少得占60%以上，不然它学不会“先调用再回答”这个顺序逻辑。后处理那边记得写个正则校验，参数对不上就直接重采样，别指望模型自己改错。

八成是工具描述和真实调用格式没对齐，试试在system prompt里塞几个带完整参数的few-shot样例。

数据里单轮工具调用得多来几轮，让模型把“看到描述→输出JSON”这个映射练熟了。

我也遇到过类似情况，后来发现光靠temperature和top_p确实救不了，得从数据入手。你可以在微调数据里多加一些“错误示范”和“正确示范”的对比样本，让模型学会区分啥时候该调工具、啥时候不该。另外MCP那个工具描述字段最好写得详细点，把参数类型和约束条件都写清楚，模型对字段名很敏感。还有个trick是推理时加一层后处理校验，参数格式不对就强制重试或者回退到默认回答，能减少不少胡编的情况。

数据里工具调用轮次太少了，模型根本没学会啥时候该调，建议多塞点“该调不调”的负样本。

数据里工具调用样本太单一模型学不会泛化，多塞点参数格式错误的负样本试试。

工具调用崩大概率是数据里function call的样本占比太低，模型根本没学会“该出手时就出手”。我之前也踩过，把工具调用的多轮对话补到总数据的30%以上，效果明显好很多。另外工具描述字段别只写名字和参数类型，把每个参数的业务含义和示例值都塞进去，模型对格式的敏感度会降不少。后处理也可以加个语法校验，格式不对就强制重试一次，能兜住不少低级错误。

我之前也踩过类似的坑，感觉问题多半不在temperature上，而是工具描述和训练样本的分布没对齐。你工具schema里如果参数名、类型、必填项写得太简略，模型很难学到稳定映射，尤其Llama这种对prompt结构挺敏感的，稍微换个字段顺序就乱套。
另外微调时如果工具调用轮次太少，模型很容易退化成直接回答，因为它见过太多普通QA样本了，工具调用反而成了稀有模式。可以试试在数据里混入一些“先思考再调用”的中间步骤，或者把工具调用失败后的纠正样本也加进去，让模型学会修参数而不是瞎编。
还有个小trick是后处理别只靠解析JSON，可以加一层schema校验和重试，解析失败就把错误信息拼回上下文让模型再生成一次，实测能救回不少。vllm那边记得确认chat template和工具角色标记是不是跟训练时完全一致，差一个token都可能崩。
MCP本身描述字段确实建议写细一点，参数枚举、单位、示例值都塞进去，别怕啰嗦。你也可以先拿几个固定case做greedy解码看原始输出，确认是模型没学会还是解析器太严。

这个思路不错，收藏了。

我微调Qwen时也遇到过类似情况，工具描述字段确实很关键，参数约束和示例都得写清楚，不然模型容易自由发挥。另外你那8B模型数据里工具调用样本比例够不够？我试过把多轮工具调用样本加到30%左右效果明显好转。后处理可以加个格式校验，参数解析失败就重试或者回退到默认模板，比单纯调temperature管用。