最近在用Qwen2.5-7B搭一个本地Agent,走ReAct流程,工具调用用function calling格式。部署在vLLM上,并发大概10路。发现模型偶尔会输出格式不完整的JSON,或者把工具名拼错,导致解析直接报错,整个Agent链路就断了。加了重试和正则兜底,但还是不稳定,尤其多轮对话后更容易崩。想问问大家在生产部署时,是怎么保证工具调用格式稳定性的?是换模型、加约束解码,还是靠prompt工程硬扛?有点迷茫,求指点。