今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
本文实例讲述了python安装oracle扩展及数据库连接方法。分享给大家供大家参考，具体如下： 下载： cx_Oracle下载地址：http://cx-oracle.sourcefor...
本文假设你在 GitHub 上已经有一个想要打包和发布的项目。 第 0 步：获取项目许可证 在做其他事之前，由于你的项目要开源，因此应该有一个许可证。获取哪种许可证取决于项目包的使用方式...
Python现在是最热门的人工智能语言，各种工具的支持如Google的Tensorflow，都是首选支持Python的。 但是，与R语言不同，Python语言设计时，并没有考虑对于矩阵...
作为python和机器学习的初学者，目睹了AI玩游戏的各种风骚操作，心里也是跃跃欲试。 然后发现微信跳一跳很符合需求，因为它不需要处理连续画面（截屏太慢了）和复杂的操作，很适合拿来练手。...
前言 由于数据库每天都用来存储越来越多的信息，因此这些也是每个Django项目中的关键组件。 因此了解它们的工作方式非常重要。 当然，我无法解释所有可用于Django的不同数据库的全部细...