今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
本文实例讲述了Python基于Floyd算法求解最短路径距离问题。分享给大家供大家参考，具体如下： Floyd算法和Dijkstra算法，相信大家都不陌生，在最短路径距离的求解中应该算得...
APNS 是苹果为IOS设备提供的推送服务，全称是(Apple Push Notification service)。 如果你有接触移动互联网相关的开发的话，应该对它很熟悉。 接下来我会...
本文主要给大家介绍的是关于利用python模拟实现POST请求提交图片的方法，分享出来供大家参考学习，下面来一看看详细的介绍： 使用requests来模拟HTTP请求本来是一件非常轻松的...
直接切入主题，从HTML页面上传文件，Python接收处理。但其中发现有些小问题，把它写出来，算是积累吧！ HTML页面代码： 复制代码 代码如下: <form action="/...
Django模板系统压根儿就没想过实现一个全功能的编程语言，所以它不允许我们在模板中执行Python的语句（还是那句话，要了解更多请参看理念和限制小节）。 但是比较两个变量的值并且显示一...