各位大佬好,最近在拿Qwen2.5-7B做垂直领域的客服问答微调,用的是LLaMA-Factory配LoRA,r=16,数据集大概3000条,格式是标准的instruction-input-output。训练跑了3个epoch,loss从1.8降到0.3左右,看着挺正常的。但推理测试的时候发现模型回答特别模板化,基本就是“您好,关于您的问题……”这种套话,具体业务信息几乎不输出。试过调低学习率、加数据增强都没啥改善。想请教下是不是数据格式或者target模块选择有问题?还是说3000条数据量根本不够?有点迷茫,求指点。