今天使用shuffleNetV2+，使用自己的数据集，遇到了loss是nan的情况，而且top1精确率出现断崖式上升，这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小，就三类，每类大概三百多张，初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种：
学习率太大，但是样本数据集又很小。（我的情况）
自定义的loss除以了一个很小的数字，小到接近0。
数据不干净，数据本身就有nan，可以用numpy.isnan检查。
target，即label是大于等于0的。从1到类别数目-1变化。
以上这篇Pytorch训练过程出现nan的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持【听图阁-专注于Python设计】。
是否可以直接使用with语句与CSV文件？能够做这样的事情似乎很自然： import csv with csv.reader(open("myfile.csv")) as reade...
1、引言 在Python网络爬虫内容提取器一文我们详细讲解了核心部件：可插拔的内容提取器类gsExtractor。本文记录了确定gsExtractor的技术路线过程中所做的编程实验。这是...
起步 上一篇 《Python 的枚举类型》 文末说有机会的话可以看看它的源码。那就来读一读，看看枚举的几个重要的特性是如何实现的。 要想阅读这部分，需要对元类编程有所了解。 成员名不允...
前言 大家应该都知道现在web漏洞之首莫过于sql了，不管使用哪种语言进行web后端开发，只要使用了关系型数据库，可能都会遇到sql注入攻击问题。那么在Python web开发的过程中s...
本文实例讲述了Python学习笔记之列表推导式。分享给大家供大家参考，具体如下： 列表推导式 列表推导式可以快速简练地创建列表 之前的复杂写法： capitalized_cities...