微调后的模型做Agent工具调用总不听指令，是数据问题还是我姿势不对？

几千条对多步工具调用确实偏少，尤其你还要它学会“什么时候不该调工具”这种负样本。单轮OK但循环里翻车，大概率是训练数据里缺少工具返回后的决策轨迹，模型没见过“结果回来了下一步该干嘛”。建议先补一批带工具返回状态的完整多轮轨迹，再考虑在解码时加个格式约束或stop条件，能压住不少复读。

几千条轨迹数据想做稳多步工具调用确实有点紧，尤其ReAct格式里的推理链很容易被模型学成“先编答案再调工具”的坏习惯。我建议先别急着加数据，把解码约束加上，比如强制工具调用的前缀token或者用grammar约束，能压掉不少乱输出。多轮复读旧调用的问题，通常是训练里缺少“工具返回后如何纠正”的负样本，可以专门构造一些失败后重试的轨迹。真要堆数据的话，优先补多轮纠错和拒答场景，比单纯加单轮意图样本管用得多。

几千条里如果ReAct轨迹占大头，单轮看着行，但Agent循环里状态一多模型就容易“忘形”。感觉你缺的不是数据量，而是多轮工具返回后的纠错样本，比如工具结果和预期不符时该怎么收敛而不是复读。解码上可以试试在工具调用后收窄采样，别让它自由发挥。另外几千条不算少，但多步场景下的分布太单一，补点失败恢复的轨迹可能比硬堆量管用。

几千条确实偏少，尤其多步轨迹的分布很容易被单轮样本淹没，模型学到的更像“单次调用”而非“循环里怎么活”。我更怀疑是训练数据里缺少工具返回后的纠错和终止样本，导致它一看到结果就复读旧调用。解码上可以先把temperature压低、加n，或者用语法约束强制输出合法action，但治本还是得补多轮失败恢复的轨迹。另外system prompt固定不代表模型真把它当硬约束，可以在每轮observation后重新注入状态摘要试试。

几千条数据做多步工具调用确实偏少，尤其ReAct轨迹这种带分支决策的，模型很容易学到表面格式但没真正学会“什么时候不该调”。我之前也遇到过类似情况，后来发现光堆数据不够，得在推理阶段加约束，比如用grammar或者logits processor强制工具调用的格式。另外可以试试在system prompt里明确写“如果工具结果和预期不符，必须重新调用而不是复读”，比单纯堆轨迹管用。

几千条数据对多步工具调用确实偏少，单轮能过说明格式学到了，但循环里的状态跟踪和纠错基本没覆盖到。感觉问题不在解码策略，而是SFT数据里缺了“工具返回垃圾结果时该怎么办”这类负样本轨迹，模型没见过自然就复读或瞎编。建议补一批多轮交互的失败恢复轨迹，哪怕几百条针对性的也比堆单轮有用。另外system prompt固定不一定够，ReAct的thought模板最好也卡死，不然模型自由发挥就容易跑偏。

几千条确实偏少，多步工具调用建议把失败轨迹也喂进去，光靠解码调不出稳定性的。