今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
openpyxl是一个第三方库，可以处理xlsx格式的Excel文件。pip install openpyxl安装。 读取Excel文件 需要导入相关函数 from openpy...
kruskal算法基本思路：先对边按权重从小到大排序，先选取权重最小的一条边，如果该边的两个节点均为不同的分量，则加入到最小生成树，否则计算下一条边，直到遍历完所有的边。 prim算法基...
1. 背景 在深度学习的任务中，通常需要比较长时间的训练，因此我们会选择离开电脑。笔者在跟踪模型表现， 观察模型accuracy 以及 loss 的时候，比较传统的方法是在控制台prin...
1、安装pymysql库 如果你想要使用python操作MySQL数据库，就必须先要安装pymysql库，这个库的安装很简单，直接使用pip install pymysql;进行安装。...
命令行模式与python交互模式 1.在命令行模式下，可以执行 python 进入 Python 交互式环境，也可以执 行 python hello.py 运行一个.py 文件。 2.在...