用Qwen做Agent总是跑偏，function calling到底怎么调才稳？

7B确实容易偷懒，试试用Qwen官方推荐的tool call模板，vLLM里不会自动套，得手动传。

7B模型确实容易这样，我试过加tools参数后好一些，但关键还是chat template要对。vLLM默认可能没套Qwen的tool模板，你手动指定一下试试。另外它偶尔返回不标准JSON，我一般用正则兜底提取，再不行就重试一次，比硬解析稳。

vLLM默认模板确实容易出这问题，换官方chat template再试试，7B不写解析兜底基本没法用。

vLLM默认模板经常不带工具调用格式，得手动指定chat template，再写个正则兜底解析。

vLLM默认chat template确实容易出问题，建议手动指定Qwen的tool_call模板试试。7B模型本身工具调用就不太稳，加个格式校验兜底比较实在。

7B模型自说自话挺常见的，我这边也踩过坑。vLLM加载时确实要确认chat template有没有正确套上Qwen的tool_call格式，不然模型根本不知道工具调用长啥样。除了temperature，建议把top_p也压到0.8左右，再配合few-shot示例塞进system里，比单纯喊“必须用工具”管用。解析兜底肯定得写，我一般用正则先抓tool_call块，抓不到就强制重试一次，基本能稳住。