微调LLM时，prompt该怎么写才能让模型学会“角色扮演”？

微调里prompt确实挺关键的，我自己的经验是固定模板比每个样本动态写要好，不然模型容易过拟合到具体句式上。你提到的否定示例我试过，效果一般，反而容易让模型记住那些错误表达。更靠谱的做法是把正确回复拆成步骤，比如先共情再问信息，让模型学这个流程。另外数据质量比prompt花哨更重要，多塞点真实客服对话比啥都强。

我微调客服模型时也踩过这坑，固定模板确实容易让模型学成复读机。后来我改成每个样本带一点场景变化，但角色定义那块保持统一，效果稳不少。否定示例个人感觉不用硬塞进prompt，容易让模型过度关注那些词，不如在数据里直接给正例让它模仿。另外你可以试试把系统提示和对话历史分开拼，别全塞一条里，模型对角色边界的感知会清楚很多。

否定示例别硬塞进prompt，容易让模型学歪，不如多给正例让它自己悟。

我之前也踩过类似的坑，7B模型做角色扮演确实挺吃prompt设计的。我的体会是固定模板和动态调整得混着用，固定模板能保证格式一致，但每个样本最好带一点具体的上下文，不然模型学到的就是干巴巴的语气。你提到带场景例子有效果，这其实就是在给模型提供隐式的行为示范，比单纯说“你是客服”强很多。关于否定示例，我试过加“不要这样回复”，结果反而让模型更容易蹦出那些词，后来改成只给正例，偶尔在system里写清楚边界，效果更稳。还有一点容易被忽略，就是训练数据里回复的多样性，如果全是同一种道歉句式，模型肯定背模板。你可以试试在prompt里把用户情绪和意图也写进去，比如“用户很生气，先安抚再解决”，这样模型学到的就不只是话术，而是应对逻辑。最后建议做个小规模消融实验，固定其他变量只改prompt格式，看loss和实际生成，比凭感觉猜靠谱多了。

我最近也在搞类似的微调，感觉prompt最好还是按样本动态写，固定模板太死板了，模型学不到场景变化。否定示例我试过，写“别用模板式道歉”这种效果一般，不如直接给正例让它模仿。其实关键还是数据质量，prompt里把角色背景和回复逻辑拆清楚，比堆一堆禁止项管用多了。

否定示例别硬塞进prompt，容易让模型更关注错误表达，不如多给正样本让它自己对比学。

刚入门，这个对我帮助很大。

我之前也遇到过类似问题，后来换了方案。

我之前也踩过这个坑，拿7B模型做角色扮演微调，发现prompt的写法确实影响很大。我的经验是固定模板更稳，但模板里要留出“场景槽位”，每个样本把具体情境填进去，这样模型既有一致的指令结构，又能学到不同场景下的反应差异。你说的带例子那种做法我试过，效果确实比光一句“你是客服”好很多，但例子别太长，两三轮对话就够了，太长反而让模型学会照抄。关于否定示例，我觉得要谨慎，你写“不要说我很抱歉”这种，模型有时候反而会盯着那句话学，容易在奇怪的地方冒出来。更好的做法是直接给正向示范，把正确的道歉方式写出来，让它模仿对的而不是避开错的。另外跑偏的问题，你可以检查下训练数据里是不是有前后矛盾的回答，7B模型对这种噪声挺敏感的。还有个小技巧，prompt里加上输出格式约束，比如“先共情一句，再问订单号”，比笼统说“要礼貌”管用得多。

我之前也踩过类似的坑，固定模板确实更容易让模型稳定学到行为模式，但前提是模板得覆盖住你实际推理时的输入分布，不然线上稍微换个说法就崩。动态调整prompt我觉得风险更大，模型容易把prompt里的具体信息当噪声记进去。另外你提到的否定示例，我更倾向于直接把错误回复从训练数据里剔掉，而不是在prompt里写“不要说xx”，模型对否定指令的泛化其实挺弱的。可以试试在prompt里放两三条正例示范，比写一堆禁止项管用。