最近在复现一个图像分割的模型,用PyTorch写的时候训练到第3个epoch左右loss就突然变成NaN了,梯度也炸了。我检查了学习率不算大(1e-4),也加了梯度裁剪,但还是会出现。同样的网络结构和数据,我用TensorFlow 2.x跑就完全正常,loss稳稳下降。想问问大家有没有遇到过类似的情况?是不是PyTorch里某些算子默认行为不一样,比如除法或者log?还是我数据加载那块有问题?真的有点懵,求指点。