今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
Numpy是高性能科学计算和数据分析的基础包，里面包含了许多对数组进行快速运算的标准数学函数，掌握这些方法，能摆脱数据处理时的循环。 1.首先数组转置（T） 创建二维数组data如下：...
公司服务器的mysql和redis连接都需要有跳板机，网上有很多python ssh远程连接mysql的，那天我研究了下，利用sshtunnel模块连接上了redis，具体如下： f...
上一次很多朋友写文字屏蔽说到要用正则表达，其实不是我不想用（我正则用得不是很多,看过我之前爬虫的都知道,我直接用BeautifulSoup的网页标签去找内容，因为容易理解也方便，），而是...
有关pygal的介绍和安装，大家可以参阅《pip和pygal的安装实例教程》，然后利用pygal实现画世界地图。代码如下： #coding=utf-8 import json i...
刚看了《最强大脑》中英对决，其中难度最大的项目需要选手先脑补泰森多边形，再找出完全相同的两个泰森多边形。在惊呆且感叹自身头脑愚笨的同时，不免手痒想要借助电脑弄个图出来看看，闲来无事吹吹牛...