最近在本地部署了一个开源大模型（Qwen2.5-7B-Instruct），用vLLM起服务，想接一个Agent框架做工具调用。结果发现模型经常不按格式输出JSON，要么多一堆解释文字，要么把function call的参数拼错，导致解析一直报错。试过调temperature=0，也换了几个prompt模板，还是不稳定。看别人demo里跑得挺顺的，是我模型选小了还是部署参数有问题？有没有踩过坑的老哥指点一下，感激不尽。