用CoT写Prompt推理步骤越多效果反而变差，是哪里出了问题？

步骤越多模型越容易在中间跑偏，我一般控制在4步以内，关键节点给个约束。

步骤多了模型容易在中间绕晕，我试过降到4步反而最稳，你那7步里估计有重复或跳跃的环节。

步骤多了模型容易在中间绕晕，试试只保留关键两步，别硬塞。

确实有同感，我之前做合同审查也是，步骤从4步加到8步后模型开始自己绕进去，中间还会重复已经推过的结论。感觉不是单纯“走神”，更像是每多一步就多一次引入噪声的机会，尤其法律这种环环相扣的领域，中间一步偏了后面全歪。你可以试试把7步合并成3到4个粗粒度模块，每个模块内部让模型自己展开，而不是硬拆成固定小步。另外温度0.1已经够低了，问题大概率出在步骤间的衔接指令不够明确。

我踩过类似的坑，后来发现根子不在步数，而在每步之间的“接口”没定义清楚。你3步能跑通是因为跳转少，模型自己脑补得过来；7步一多，中间某步稍微跑偏，后面就全跟着歪了。建议试试在每步末尾强制输出一句阶段性结论，下一步只基于这句结论往下推，别让它回头翻原始问题。另外法律场景里有些步骤本来就是并行的，硬拆成串行反而容易互相打架。

我跑过类似的合同审查流程，步骤从5步加到10步也翻过车。感觉不光是“走神”的问题，每多一步就多一次误差累积的机会，中间某步稍微偏一点，后面就全歪了。尤其法律这种强逻辑链条，拆太碎反而容易让模型在步骤间丢上下文。你可以试试把7步合并成4步，但每步里要求它先复述关键事实再推。

这个现象其实挺常见的，我前段时间做合同审查的prompt也踩过类似的坑。步骤一多，模型确实容易在每个中间环节“自由发挥”，尤其是法律这种本身就存在多种解释路径的场景，你给7步相当于给了它7个可以跑偏的岔路口。3步的时候约束还比较紧，模型基本沿着你预设的主线走，加到7步反而把注意力分散了，每步之间的衔接就容易出现你说的逻辑跳跃。我个人感觉问题不完全在步骤数量，而是你每步之间的“指令密度”被稀释了，比如第3步到第4步如果只是笼统说“继续分析”，模型就会自己脑补一些没根据的推断。GPT-4在低温度下虽然稳定，但它对长链条的因果一致性保持能力其实是有上限的，超过某个长度后前面的约束会逐渐衰减。你可以试试把7步合并成3到4个粗粒度阶段，每个阶段里再给具体的判断规则，而不是拆成更多独立步骤。另外法律推理本身有回溯性，模型线性往前走的时候没法回头修正前面的错误，步骤越多累积误差就越大。

写得挺好，建议补充一些性能数据。

我碰到过类似的情况，当时也是以为步骤越细越好，结果模型在中间步骤开始自己编事实，后面就顺着编下去了。后来我的理解是，CoT的每一步其实都在给模型增加“承诺”，步骤越多，前面某一步稍微偏一点，后面就被锁死了，反而3步那种粗粒度的推理留了更多纠错空间。你这个法律场景还有个特殊点，案情拆解本身有依赖关系，不是线性平铺的7步，硬拆成7步可能把本该一起考虑的因素割裂了，模型在步骤之间来回跳就矛盾了。我建议你试试不要固定步数，而是把推理结构写成“先识别争议焦点，再匹配法条，最后校验结论”这种带回头检查的流程，让模型在关键节点自检而不是一路往前冲。另外温度0.1虽然稳，但步骤多的时候累积误差还是会出现，可以对比一下3步和7步在同一个案子上的中间输出，看看到底是哪一步开始跑偏的，定位到那一步再决定要不要拆。