glu

查看属性与别名

API属性：声明式编程(静态图)专用API

paddle.fluid.nets.glu ( input, dim=-1 ) [源代码]

门控线性单元 Gated Linear Units (GLU) 由 split ，sigmoid 和 elementwise_mul 组成。特定的，沿着给定维度将输入拆分成两个大小相同的部分，

glu - 图1

和

glu - 图2

，按如下方式计算：

glu - 图3

参考论文: Language Modeling with Gated Convolutional Networks

参数

  • input (Variable) - 输入变量，多维 Tensor 或 LoDTensor, 支持的数据类型为float32、float64 和 float16（GPU）。

  • dim (int) - 拆分的维度。如果

    glu - 图4

    ，拆分的维为

    glu - 图5

    。默认为 -1，即最后一维。

返回

计算结果，尺寸为输入大小的一半，数据类型与输入的数据类型相同

返回类型

变量（Variable）

代码示例

  1. import paddle.fluid as fluid
  2. data = fluid.layers.data(
  3.     name="words", shape=[-1, 6, 3, 9], dtype="float32")
  4. # 输出的形状为[-1, 3, 3, 9]
  5. output = fluid.nets.glu(input=data, dim=1)