今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
0.引言 利用python开发，借助Dlib库进行人脸识别，然后将检测到的人脸剪切下来，依次排序显示在新的图像上； 实现的效果如下图所示，将图1原图中的6张人脸检测出来，然后剪切下来，...
简介 当你的程序不能正常运行的时候，Python会在控制台打印一段提醒，告诉你一个错误，这个错误就是异常。 错误 我在控制台写了一段无效的代码，将print()的括号去掉，在执行这条语...
基本属性 cv2.imread(文件名，属性) 读入图像 属性：指定图像用哪种方式读取文件 cv2.IMREAD_COLOR：读入彩色图像，默认参数，Opencv 读取彩色图像为BGR...
yield的功能类似于return，但是不同之处在于它返回的是生成器。 生成器 生成器是通过一个或多个yield表达式构成的函数，每一个生成器都是一个迭代器（但是迭代器不一定是生成器）...
当我们花费大量的精力训练完网络，下次预测数据时不想再（有时也不必再）训练一次时，这时候torch.save(),torch.load()就要登场了。 保存和加载模型参数有两种方式： 方式...