最近在搞一个自动化脚本，需要让Qwen2.5-7B直接输出结构化JSON，但不管我在system prompt里怎么强调“只输出JSON，不要任何解释”，它偶尔还是会给我带出```json或者//注释。试了few-shot加例子，也试了温度调到0.1，还是不稳定。
想问下各位，这种问题是模型本身指令跟随的极限，还是我拆解任务的粒度不够？比如是不是得把输出schema拆成一步一步“填空”的方式，而不是让它生成一整段？有没有人用vLLM或SGLang的约束解码（比如grammar）解决的？求分享下实际效果，感谢。