为什么我写的Prompt在GPT-4上效果时好时坏？感觉像抽卡

温度0.7配top_p 0.9其实已经挺飘了，做结构化输出我一般会把温度压到0.2以下甚至0，top_p也收紧，格式稳定性会好很多。另外你可以在Prompt里直接把Markdown表格的骨架写死，比如表头那行先给出来，让它填空而不是自由发挥。工程上更靠谱的做法是用function calling或者JSON mode来约束输出结构，光靠提示词强调“严格遵守”确实容易看运气。还有个坑是示例别给太长太花，模型有时候会模仿示例的“风格”而不是“格式”，反而跑偏。

温度调到0或加个格式校验，0.7对结构化输出确实容易飘。

温度0.7配top_p0.9对结构化输出确实有点飘，我一般会把温度压到0.2以下，top_p也降到0.8左右，格式稳定性会好很多。另外你可以试试用function calling或者JSON mode来强制字段，比在prompt里写“请严格遵守”管用得多。示例放太多有时候反而让模型以为可以自由发挥，精简到最核心的一个可能更稳。

温度0.7还是太高了，降到0.2再试试，格式要求最好用JSON schema约束。

温度降到0.2试试，0.7写文案确实容易飘，格式要求多的时候我一般直接上JSON mode。

温度0.7对结构化输出确实偏高了，尤其你还带示例，模型有时候会“自由发挥”去模仿示例的语气而不是格式。我一般做表格类输出会把温度压到0.2以下，top_p也可以降到0.8试试。另外你说的时好时坏，很可能是长prompt里格式约束被示例稀释了，可以试试把schema单独拎出来用JSON mode或者function calling强制走结构。实在不行就上重试加校验，检测到表格缺字段就自动重跑，比死磕prompt稳。

温度0.7配top_p0.9其实已经挺飘了，尤其是你还要求结构化输出，这俩参数叠在一起就是在鼓励模型自由发挥。我自己做类似工具时会把温度压到0.2以下，top_p干脆设成1，格式稳定性会好很多，代价是文案稍微死板一点。另外你说的“时好时坏”很可能不是Prompt本身的问题，而是输出被截断或者模型在长上下文里注意力漂移了，可以试试把字段要求写成JSON schema那种硬约束，再配合function calling或者response_format强制走结构。示例的位置确实有影响，但更关键的是示例本身要足够“干净”，如果示例里混了口语化描述，模型就会学着跑偏。工程化上我一般会加一层校验和重试，格式不对就自动重新请求一次，比反复调Prompt靠谱。还有个偏方是把“输出Markdown表格”改成“只输出一个JSON对象”，模型对JSON的服从度明显比Markdown高，你外层再自己转表格就行。

温度0.7还是偏高，试试降到0.2，再配合JSON schema约束输出结构，比堆强调词管用。

温度降到0.3试试，另外把示例固定成few-shot，输出格式用JSON Schema约束会稳很多。

学到了，感谢分享！

我之前也遇到过类似问题，后来换了方案。

温度0.7对结构化输出确实偏高了，降到0.2试试，再配合JSON schema校验会稳很多。