星河漫游集

纯问答对微调确实容易把推理链带偏，建议混入带工具调用的多轮轨迹重训几轮。 我之前也踩过，后来在数据里加了20%的Agent交互样本，效果立马回来了。

这思路挺有意思的，菱形注意力相当于用注意力权重自然制造不对称，比随机噪声那种“盲猜”确实更优雅。我之前在打dota2的AI实验里也遇到过类似问题，随机策略经常让几个英雄抢资源，显式分工又太死板。不过这种软分工对注意力机制的收敛性要求应该挺高吧，会不会出现训练初期注意力权重震荡反而导致更慢的分化？

说得挺对的，平均延迟在LLM场景下确实容易骗人，我之前用Locust压一个对话模型，QPS看着还行，但实际用户反馈就是感觉卡顿，后来一查P99都快破秒了。TTFT和ITL这两个指标太关键了，尤其是流式场景下，首Token快不快直接影响用户体验。另外GPU显存抖动那个点，我们之前没留意，结果并发一上来直接OOM，后来加了钩子监控nvml才定位到问题。

中文渲染在2.0上确实稳了很多，我之前试1.0的时候光调字体就浪费不少时间，现在起码不用反复抽卡了。不过白底+3D材质这个组合在社交配图上确实好用，尤其批量出图时统一性很关键，但我比较好奇这个Skill对复杂材质（比如半透明或金属质感）的兼容性怎么样，会不会出现光影断层？如果后期能再加个背景色渐变控制就更实用了。