local_response_norm

paddle.nn.functional.local_response_norm ( x, size, alpha\=1e-4, beta\=0.75, k\=1., data_format\=’NCHW’, name\=None ) [源代码]

局部响应正则化(Local Response Normalization)用于对局部输入区域进行正则化,执行一种侧向抑制(lateral inhibition)。更多详情参考: ImageNet Classification with Deep Convolutional Neural Networks

其中 input 是mini-batch的输入特征。计算过程如下:

local_response_norm - 图1

在以上公式中:

  • local_response_norm - 图2

    :累加的通道数

  • local_response_norm - 图3

    :位移

  • αα : 缩放参数

  • ββ : 指数参数

参数

  • x (Tensor)- 输入的三维/四维/五维 Tensor ,数据类型为:float32。

  • size (int) - 累加的通道数。

  • alpha (float,可选)- 缩放参数,正数。默认值为1e-4。

  • beta (float,可选)- 指数,正数。默认值为0.75。

  • k (float,可选)- 位移,正数。默认值为1.0。

  • data_format (str,可选) - 指定输入的数据格式,输出的数据格式将与输入保持一致。如果输入是三维 Tensor ,该参数可以是”NCL”或”NLC”,其中N是批尺寸,C是通道数,L是特征长度。如果输入是四维 Tensor ,该参数可以是”NCHW”或”NHWC”,其中N是批尺寸,C是通道数,H是特征高度,W是特征宽度。如果输入是五维 Tensor ,该参数可以是”NCDHW”或”NDHWC”,其中N是批尺寸,C是通道数,D是特征深度,H是特征高度,W是特征宽度。默认值:”NCHW”。

  • name (str,可选): 操作的名称(可选,默认值为None)。更多信息请参见 Name

返回

局部响应正则化得到的输出特征,数据类型及维度和input相同的 Tensor 。

代码示例

  1. import paddle
  2. x = paddle.rand(shape=(3, 3, 112, 112), dtype="float32")
  3. y = paddle.nn.functional.local_response_norm(x, size=5)
  4. print(y.shape) # [3, 3, 112, 112]