C/C++教程

23：normlize规范化-batch normalization

本文主要是介绍23：normlize规范化-batch normalization，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

1:为什么要进行normolize

 

 【注】1：希望把输入的值控制在有效的范围内

 

 【注】希望能够进行高效的查询最优解。例如：当x2值大，x1值偏小时，w1的改变导致的影响较小，w2的改变导致的影响较大。

2:Normlization的种类

 

 3：Batch Norm

 

【注】Batch Norm实际统计的会得到一个维度为1大小为channel的tensor。其统计的时每一个channel的均值和方差。

 

 【注】

这篇关于23：normlize规范化-batch normalization的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！
您可能喜欢
栏目导航