大家用Qwen写Prompt时，温度参数一般怎么调？总感觉输出飘忽不定

结构化输出我直接上贪婪解码，温度0，稳得一批，json基本不崩。

我这边也是Qwen2.5-7B本地跑，写结构化JSON基本放弃温度采样了，直接do_sample=false走贪婪解码，稳得一批。你说的漏字段和编参数，其实很多时候不是温度的问题，是prompt里schema描述得不够硬，模型没被“框”住。我一般会在system里把字段列表和类型写死，再给一两个完整示例，比调参管用多了。top_p我平时搭0.8左右，但只在需要一点多样性的时候才开，配合temperature 0.3-0.5，repetition_penalty给1.05到1.1，再高容易把正常重复的括号和引号也压掉，反而出语法错误。另外Qwen对“不要输出解释”这类负向指令不太敏感，不如直接说“只输出JSON，第一个字符是{”，效果更直接。真要采样的话可以试试用outlines或者llama.cpp的grammar约束，把JSON语法直接锁死，温度随便调都不会跑偏。