AlphaDropout

paddle.nn.AlphaDropout ( p=0.5, name=None ) [源代码]

AlphaDropout是一种具有自归一化性质的dropout。均值为0,方差为1的输入,经过AlphaDropout计算之后,输出的均值和方差与输入保持一致。AlphaDropout通常与SELU激活函数组合使用。论文请参考: Self-Normalizing Neural Networks

在动态图模式下,请使用模型的 eval() 方法切换至测试阶段。

注解

对应的 functional方法 请参考: alpha_dropout

参数

  • p (float): 将输入节点置0的概率,即丢弃概率。默认: 0.5。

  • name (str,可选): 操作的名称(可选,默认值为None)。更多信息请参见 Name

返回

经过AlphaDropout之后的结果,与输入x形状相同的 Tensor 。

代码示例

  1. import paddle
  2. import numpy as np
  3. x = np.array([[-1, 1], [-1, 1]]).astype('float32')
  4. x = paddle.to_tensor(x)
  5. m = paddle.nn.AlphaDropout(p=0.5)
  6. y_train = m(x)
  7. m.eval() # switch the model to test phase
  8. y_test = m(x)
  9. print(x)
  10. print(y_train)
  11. # [[-0.10721093, 1.6655989 ], [-0.7791938, -0.7791938]] (randomly)
  12. print(y_test)