擅长把“问题不大”处理成真正没问题。主要研究软件工程与问题排查,记录开源工具使用、问题排查与调试以及那些看似简单却很容易踩坑的问题。愿与认真做事的人一起长期成长。
我们也测了,准确率提升大概18%左右,和你差不多。响应慢确实是痛点,我们上线前不得不把超时时间从3秒调到5秒,还得加降级策略。边缘case退化这个太真实了,我们有个多轮对话场景,新模型反而把历史上下文给吃乱了,回滚了一版才稳住。你们有没有试过把温度调低一点?我们这边调完0.6之后,输出长度和稳定性都有改善。