微调LLM时，prompt该怎么写才能让模型学会“角色扮演”？

我也是这么踩坑过来的，动态调整prompt比固定模板好用多了，尤其是客服场景，每个样本的对话逻辑不一样，硬套模板反而限制住模型。否定示例挺管用的，但别写太多，不然模型容易变得畏手畏脚，我一般就挑两三个典型错误加进去。另外建议在训练数据里混一些“被纠正”的对话片段，让模型学会从错误里转弯，效果比单纯强调否定词更自然。

我觉得你遇到的这个问题挺典型的，其实很多人在微调角色扮演类模型时都会踩这个坑。我自己试下来，固定模板和动态调整其实不冲突，关键得看数据量。如果数据少，动态调整prompt能让模型更灵活地理解场景，但要是数据量大，固定模板反而更容易稳定输出，因为模型能记住“这种开头就该这么演”。另外否定示例我建议可以加，但别光写在prompt里，最好直接在训练数据里构造一些“错误示范+正确示范”的对比样本，比如让模型先输出一个生硬回复，再输出一个带情绪的修正版本，这样它更容易学会避开那些套路化的表达。我猜你那个7B模型跑偏，可能是因为角色指令和对话历史之间的权重没调好，试试在prompt里把“用户说商品坏了”这个场景描述写得再细一点，甚至加一句“你是一个有10年经验的售后专员”，模型可能就更能代入细节了。还有个想法，你有没有试过在prompt末尾加一个“如果用户情绪激动，优先安抚”这种开放式指令？有时候给模型留点发挥空间，反而比硬性规则更自然。

我之前试过动态调整prompt，效果比固定模板好不少，尤其客服场景下每个用户问题侧重点不一样，模板写死了反而限制模型发挥。否定示例这块我踩过坑，加太多反而让模型变得畏手畏脚，回复里全是“避免说XX”这种自我修正，后来改成在系统提示里强调“自然流畅优先，别刻意回避特定用语”，跑偏率才降下来。你可以试试把角色背景、用户情绪、业务目标揉进prompt里，比如“你是个温和的售后客服，用户现在很着急，重点先安抚情绪再处理问题”，这样模型更容易抓住上下文。

同感，prompt格式的影响比想象中大。我试过固定模板加动态填充场景变量，效果比纯手写每个样本更稳定，模型不太容易跑偏。否定示例确实有用，但别放太多，否则模型会过度回避某些表达，反而显得不自然。建议你先让模型学会基础回复逻辑，再通过少量负样本微调边界。

说真的，我也踩过类似的坑，7B模型对prompt格式特别敏感，稍微变一下效果就天差地别。我个人试下来，固定模板反而容易让模型学成“死记硬背”，动态调整会更好——比如对“售后”场景用“先道歉+确认问题+给方案”这种结构，对“咨询”场景就换成“直接回答+引导追问”的套路，模型能更快抓住不同角色的语气切换点。至于否定示例，我建议不要直接写“不要说‘我很抱歉’”，因为模型容易把否定词也当成特征去学，反而更频繁地输出类似内容。更好的做法是在正例里反复强化你想要的回复模式，比如“用户说商品坏了，客服立刻说：‘真的非常抱歉给您添麻烦了，方便告诉我订单号吗？我马上帮您查’，然后等用户回复后再追问细节”，这种带完整动作链的样本，模型会自然学会避开生硬的道歉。另外，我还会在prompt里塞一个“角色小传”，比如“你是一个语气温和但办事利落的客服，从不机械重复话术”，相当于给了模型一个性格锚点。不过也得注意别塞太多细节，7B模型的上下文窗口有限，信息过载反而会让它分不清主次。你试过在prompt里加few-shot的例子吗？我最近发现把“正确回复”和“错误回复”各放一条当参考，模型跑偏的概率会明显降低。

我个人觉得你这个场景其实挺典型的，很多人在微调角色类任务时都会踩这个坑。prompt格式确实很关键，我试过固定模板和动态调整两种方式，感觉动态调整的效果会更自然，尤其是客服这种需要根据上下文灵活应变的场景。固定模板容易让模型记住“套路”而不是真正理解角色边界，但动态调整又需要人工干预太多，挺矛盾的。

关于否定示例，我自己试过在prompt里加“不要用‘我很抱歉’开头”之类的负面引导，结果模型有时候反而会过度避开，甚至变得有点机械。后来我发现更有效的做法是在训练数据里多放一些“正确做法的反面例子”作为对比样本，而不是直接在prompt里写禁止项。比如在微调时，我会给模型看“如果用户说商品坏了，错误的回答是‘我很抱歉’，正确的回答是‘我理解您的心情，让我查一下订单’”，这样模型能通过对比学到边界，而不是死记硬背规则。

另外，你提到的7B模型本身容量有限，对于复杂角色理解的泛化能力确实不如大模型。如果条件允许，可以试试在推理时加一层基于规则的输出约束，比如用正则过滤掉某些固定句式，再结合微调后的模型，效果会比纯靠prompt稳定不少。不过这也得看你的业务对实时性的要求高不高。

说实话，我最近也在调一个类似的客服模型，跟你感觉完全一样——prompt格式简直就是玄学。我个人经验是固定模板不如动态调整效果好，尤其是把负面示例直接写进prompt里，比如“不要机械式道歉”这种，实测能明显减少那些尬到脚趾扣地的回复。不过还得注意平衡，负面示例写太多模型反而容易缩手缩脚，得反复试。对了，你试过在角色描述后面加一个简短的示例对话吗？我加了之后模型跑偏的概率降了不少。

固定模板更稳，但动态调整能覆盖更多变体，建议在prompt里加几个反面例子，模型跑偏明显少。

我自己试下来，动态调整prompt比固定模板管用得多，尤其是每个样本带点简短的角色设定和对话历史，模型跑偏的概率会低不少。不过否定示例这块我觉得要谨慎，直接说“不要说‘我很抱歉’”有时候反而会让模型更迷惑，不如在训练数据里用正例和负例的比例来暗示它。对了，你那7B模型具体是哪个基座？不同基座对prompt格式的敏感度差挺多的。

同感，prompt格式影响真的大。我试过固定模板和动态调整，后者效果明显更好，尤其是把角色背景和用户意图写进prompt后，模型语气自然多了。否定示例我加了但感觉容易让模型更谨慎，回复反而变得很啰嗦，不如直接给正面例子引导。另外建议可以试试在训练时随机改变prompt的措辞，比如“客服”换成“帮用户解决问题的人”，模型泛化能力会强一些。

我最近也在折腾这个，感觉固定模板和动态调整得结合着来，太死板的prompt模型容易学成复读机。否定示例我试过，确实有用，但别写太多，不然模型会变得畏畏缩缩的，连正常道歉都不敢说了。对了，你可以试试在prompt里加一两个高质量的角色对话样例，比单纯写规则效果好很多，模型能更快抓住那种自然互动的感觉。

我觉得固定模板更容易翻车，因为客服场景那么多变，样本里写死的场景一换模型就懵。我一般会根据每轮对话动态调整prompt，把角色定位和当前任务拆开来写，比如开头定调“你是在XX店干了三年的客服”，后面再跟具体指令。至于否定示例，亲测加多了反而让模型缩手缩脚，更建议拿正例强化正确行为，比如多塞几条“遇到投诉先共情再核实订单”的样本。另外你那个7B模型参数量有限，不如试试把prompt长度压到50字以内，信息密度太高它也记不住。

这个我也踩过类似的坑，感觉角色扮演类的微调，prompt的“动态性”确实比固定模板重要很多。固定模板像“你是一个客服”这种，模型容易把注意力全放在“客服”这个词上，结果学出来的全是套路话，一旦遇到稍微复杂的场景就崩。我试过把每个样本的prompt都写成“背景+角色+具体任务”的结构，比如“你是XX店铺的售后客服，用户因为快递破损投诉，请先安抚情绪，再引导提供订单号”，效果明显比单纯说“你是客服”好。关于否定示例，我个人觉得加在训练数据里比加在prompt里更有效，因为prompt里的“不要说XXX”可能会让模型在生成时过度纠结于避免那些词，反而显得不自然。另外，我还在样本里混了一些“错误示范+正确示范”的对比对，让模型通过负样本学会边界，感觉比单纯强调否定词更稳。不过我也还在摸索，想问问你用的7B模型具体是哪款？不同基座的模型对prompt格式的敏感度好像差别挺大的。

动态调整prompt更靠谱，固定模板容易让模型死板，可以试试在样本里混几个“反面教材”让模型对比着学。

我也是微调过几个模型的，感觉你遇到的这个问题挺典型的。我个人经验是，prompt格式固定下来会好很多，但里面要留个给具体场景的占位符，比如“用户说{问题}，你作为{角色}要这样回应...”这样模型学起来更稳定。否定示例的话，我觉得加在系统提示里比加在训练样本里更管用，比如直接告诉模型“避免使用机械道歉句式”，效果比在样本里塞负面例子要好。另外你那个7B模型跑偏的话，可以试试把训练数据里最极端的几个失败案例单独抽出来多学几轮，能治“偶尔跑偏”的毛病。

建议动态调整prompt，给正反例子对比效果会更好，比如标出“千万别说这句”。

说到这个我可太有同感了，之前调一个售后模型也是折腾了好久。我觉得固定模板和动态调整其实不矛盾，关键看你的场景覆盖度——如果客服场景比较固定，比如退款、物流、质量问题就那么几类，那用一套带占位符的模板（像“你是XX领域的客服，用户的问题是{问题}，请先{动作1}再{动作2}”）反而更稳，模型学到的模式更清晰。动态调整的话，样本多了容易让模型抓到“偷懒”的倾向，比如看到特定词就套话。

关于否定示例，我个人经验是别直接写“不要说XX”，因为模型对否定词的理解很弱，反而可能强化错误模式。更好的做法是在prompt里给“正面示范+边缘案例”，比如“如果用户情绪激动，先共情再解决问题，比如可以说‘我理解您现在很着急’”，然后训练数据里把那些容易踩坑的回复（比如机械道歉）标为负样本，让模型通过对比去学。另外可以试试在prompt末尾加个“输出格式要求”，比如“回复结构：道歉+确认问题+解决方案”，相当于给模型画了个思维导图。

对了，你用的7B模型是哪种基座？不同基座对prompt的敏感度差别挺大的，有的模型对格式要求比较死，有的反而需要留点灵活空间。

我之前试过类似场景，感觉固定模板加动态填充最稳。比如系统提示里写“你是xx客服，语气专业且耐心”，然后在用户问题前补一段示例对话，模型就不容易跑偏。至于否定示例，我个人觉得不如在训练数据里多塞几组“错误回复+正确修正”的对比，模型学得更快，单靠prompt强调有时候反而会让它纠结。

动态调prompt效果更好，固定模板容易让模型死板。否定示例最好少用，容易让模型太消极。

我最近也在搞类似的事，7B模型对prompt格式确实很敏感，固定模板容易让输出死板。我的经验是动态调整更好，比如客服场景里，把“你是一个售后客服”和具体话术示例打包成对话历史，模型学得会自然很多。至于否定示例，加在prompt里容易让模型过度回避，反而显得不自然，不如在训练数据里直接放几个正确和错误回复的对比，让它自己悟。另外可以试试在prompt里加一句“用自然聊天的语气”，跑偏的概率能降不少。