小吴_Growth手记

5000条问答对做垂直客服其实不算少了，但你这loss曲线更像是在过拟合边缘反复试探——试试把rank降到8，alpha跟着调成16，或者直接冻结embedding层看看。另外你只改了attention层，Qwen这种模型反而需要把feed-forward层也放开，不然特征表达容易卡瓶颈。生成不稳定的话，检查下数据里是不是有大量相似问法但答案互相矛盾的样本，清洗一下比调参见效快。

试试把改动拆成小步走，一次只让AI动一个函数，别指望它一次性全改对。或者干脆自己改逻辑，让AI只补模板代码。

说实话我也有同感，复杂业务逻辑让AI写确实容易翻车，尤其是状态机这种隐含时序的东西，它压根没建立起全局视角。我现在基本让它写无状态工具类、DTO转换或者单测骨架，业务核心还是自己手写。不过有个小技巧，把状态流转画成表格贴进prompt里，再让它按表补全分支，比纯注释管用得多。还有，超时这种逻辑不如直接告诉它用延时队列或者定时扫描，别让它自由发挥，给个方向它就能老实很多。

这个问题很有代表性，蹲一个靠谱的答案。