pytorch的batch normalize使用详解

yipeiwu_com6年前Python基础

torch.nn.BatchNorm1d()

1、BatchNorm1d(num_features, eps = 1e-05, momentum=0.1, affine=True)

对于2d或3d输入进行BN。在训练时,该层计算每次输入的均值和方差,并进行平行移动。移动平均默认的动量为0.1。在验证时,训练求得的均值/方差将用于标准化验证数据。

num_features:表示输入的特征数。该期望输入的大小为'batch_size x num_features [x width]'

Shape: - 输入:(N, C)或者(N, C, L) - 输出:(N, C)或者(N,C,L)(输入输出相同)

2、BatchNorm2d(同上)

对3d数据组成的4d输入进行BN。

num_features: 来自期望输入的特征数,该期望输入的大小为'batch_size x num_features x height x width'

Shape: - 输入:(N, C,H, W) - 输出:(N, C, H, W)(输入输出相同)

3、BatchNorm3d(同上)

对4d数据组成的5d输入进行BN。

以上这篇pytorch的batch normalize使用详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持【听图阁-专注于Python设计】。

相关文章

Django如何自定义model创建数据库索引的顺序

首先这是一个先有鸡还是先有蛋的问题,大部分时候数据都来自excel的整理,当数据越来越多,需要分析的点也越来越多的时候,通过excel来管理显然有些吃力了。 这时候就需要将excel导入...

Python循环结构的应用场景详解

前言 如果在程序中我们需要重复的执行某条或某些指令,例如用程序控制机器人踢足球,如果机器人持球而且还没有进入射门范围,那么我们就要一直发出让机器人向球门方向奔跑的指令。当然你可能已经注意...

pycharm中使用anaconda部署python环境的方法步骤

pycharm中使用anaconda部署python环境的方法步骤

今天来说一下python中一个管理包很好用的工具anaconda,可以轻松实现python中各种包的管理。相信大家都会有这种体验,在pycharm也是有包自动搜索和下载的功能,这个我在前...

python删除本地夹里重复文件的方法

上次的博文主要说了从网上下载图片,于是我把整个笑话网站的图片都拔下来了,但是在拔取的图片中有很多重复的,比如说页面的其他图片、重复发布的图片等等。所以我又找了python的一些方法,写了...

利用python获得时间的实例说明

复制代码 代码如下:import time  print time.time()  print time.localtime(time.time())  p...