用Prompt调教LLM写代码注释，效果不稳定，求指教优化方向

温度调低到0.1确实能压住乱发挥，但更关键的是把示例写成“输入-输出”对，别给模型留自由发挥的空间。

温度这块我倒是试过，调低到0.1确实能减少乱发挥，但副作用是注释会变得特别模板化，读起来像机器写的，反而失去灵性。我觉得你这个问题核心不在温度，而在few-shot示例的“边界”没划清楚——比如你给的示例里有没有覆盖“函数特别复杂”或“参数很多”的情况？模型看到没见过的东西，就容易自己补逻辑。还有个思路是，你别让它直接输出注释，而是让它先输出一个JSON，里面分两个字段，一个是“注释”，一个是“你判断需要额外说明的点”，这样格式锁死，它就不太会跑偏。另外，我怀疑你Prompt里的“只输出注释”可能被模型理解成“只输出跟注释相关的所有内容”，所以它才把整个函数重写了一遍，你可以试试把指令改成“在原有代码基础上，仅新增注释行，不修改任何已有代码”。我自己做类似约束时，会加一个“如果遇到无法确定的情况，输出‘无法判断’”，这比强调“严格遵循”有用多了，因为模型对否定指令的敏感度远低于对替代行为的敏感度。你那个英文中文混着来的问题，大概率是示例里混了两种语言，检查一下是不是有个英文注释的示例在引导它。

温度调低到0.1确实有用，但更关键的是把few-shot示例改成“错误输出+正确输出”的对比，模型会稳很多。

温度确实得压到0.1甚至0，不然模型一“飘”就容易自己加戏。不过我更怀疑你的few-shot里可能混了带函数体的示例，模型会误以为输出格式可以灵活变化。建议把示例改成“函数签名+注释”的纯文本对照，并且每种情况给两个正例一个反例。另外试试在system message里明确写“你只做注释生成器，任何代码修改都是违规操作”，比在user prompt里强调管用得多。

试试把few-shot改成反面示例，告诉它哪些行为绝对禁止，比正面强调管用多了。

试试把输出结构改成JSON格式，再配个解析器兜底，比纯文本约束靠谱多了。

温度这块我建议直接拉低到0，格式问题靠采样参数基本没救，写代码注释这种任务随机性就是敌人。few-shot示例宁可少而精，别给那种函数体很长的例子，模型会模仿代码风格而不是约束本身。你试试把输出框架钉死，比如让它在代码块里先写函数名再写docstring，结构上不给它自由发挥的缝隙。另外可以加一步后处理校验，用AST解析检查输出里有没有非法语句，比反复改prompt省心多了。

温度这块确实得往下压，我试过0.1和0.3差别就挺明显的，但光调温度不够，few-shot里的示例得覆盖“边界情况”，比如那种带嵌套函数或者装饰器的，不然模型很容易自作主张。另外你试试在Prompt里把输出格式定义成JSON或者XML结构，强制它填字段，比纯文字约束稳定得多。还有个偏方，把“不要输出代码”改成“如果输出代码，则视为失败”，有时候措辞换一下效果就不一样。

这问题我熟，之前试过用few-shot管输出格式，后来发现关键不在示例多，而是得把输出规则写进system prompt里，并且给模型一个明确的“失败惩罚”描述，比如“如果输出非注释内容，将导致流水线报错”。温度确实要压到0.1以下，但更有效的是让模型先“思考”再输出——让它生成一个内部标记，比如先写“###注释###”，再写内容，能明显减少跑偏。另外你few-shot里最好放一个“反面案例”，就是那种混着代码和英文注释的错误输出，模型对比着学会更快。

你这个情况我遇到过，后来发现光靠few-shot和“严格遵循”这种话真不太管用，模型该飘还是飘。建议试试用结构化输出，比如让它返回JSON，里面只留一个注释字段，这样它想重写函数体都没地方塞。温度确实可以压到0.2左右，但更关键的是把任务拆开，先让它提取函数签名和逻辑，再单独生成注释。另外中英文混着来可能是你没在示例里统一语言，每个示例都用同一种语言标注，效果会稳很多。

温度降到0.1确实有用，但few-shot示例里最好把“只输出注释”的边界案例也放进去。

温度调低确实有用，我一般直接拉到0，但光靠这个还不够稳。你试试把few-shot里的示例改成带明确分隔符的，比如用###注释###把要输出的部分框起来，模型更容易照葫芦画瓢。另外中英文混的问题，可以在system prompt里直接写死“只准用中文”，比在user里强调管用。实在不行就上function calling或者json mode，把注释字段单独抽出来，格式基本不会跑偏。

温度降到0确实会稳很多，但我一般还会加个输出解析兜底，免得它偶尔抽风。

我之前也踩过这个坑，光靠few-shot确实不太稳，尤其是示例里如果函数逻辑复杂一点，模型就容易“手痒”把代码也改了。后来我改成用response_format强制JSON输出，注释单独放一个字段，基本就不会乱跑了。温度调到0.2以下有用但治标不治本，关键还是输出结构要卡死。另外中英文混着来，你可以在system prompt里明确“注释语言必须与用户输入代码中的docstring语言一致”，比单纯强调“遵循指令”管用。