Linear

  • class paddle.fluid.dygraph.Linear(input_dim, output_dim, param_attr=None, bias_attr=None, act=None, dtype='float32')[源代码]

线性变换层:

Linear - 图1

其中,

Linear - 图2 为输入的 Tensor, Linear - 图3Linear - 图4 分别为权重和偏置。

Linear 层只接受一个 Tensor 的输入。 Linear 层将输入 Tensor 与权重矩阵

Linear - 图5 相乘,然后生成形状为 Linear - 图6 的输出张量, 其中 Linear - 图7 是批量大小, Linear - 图8 表示任意数量的附加尺寸。 如果 bias_attr 不是 None,则将创建一个 bias 变量并将其添加到输出中。 最后,如果激活 act 不是 None,则相应激活函数也将应用于输出上。

  • 参数:
    • input_dim (int) – 线性变换层输入单元的数目。
    • output_dim (int) – 线性变换层输出单元的数目。
    • param_attr (ParamAttr, 可选) – 指定权重参数属性的对象。默认值为None,表示使用默认的权重参数属性。具体用法请参见 ParamAttr
    • bias_attr (ParamAttr, 可选) – 指定偏置参数属性的对象,若 bias_attr 为bool类型,如果设置为False,表示不会为该层添加偏置;如果设置为True,表示使用默认的偏置参数属性。默认值为None,表示使用默认的偏置参数属性。默认的偏置参数属性将偏置参数的初始值设为0。具体用法请参见 ParamAttr
    • act (str, 可选) – 应用于输出上的激活函数,如tanh、softmax、sigmoid,relu等,支持列表请参考 激活函数 ,默认值为None。
    • dtype (str, 可选) – 权重的数据类型,可以为float32或float64。默认为float32。

返回:无

代码示例

  1. from paddle.fluid.dygraph.base import to_variable
  2. import paddle.fluid as fluid
  3. from paddle.fluid.dygraph import Linear
  4. import numpy as np
  5.  
  6. data = np.random.uniform( -1, 1, [30, 10, 32] ).astype('float32')
  7. with fluid.dygraph.guard():
  8. linear = Linear(32, 64)
  9. data = to_variable(data)
  10. res = linear(data) # [30, 10, 64]

属性

  • weight

本层的可学习参数,类型为 Parameter

  • bias

本层的可学习偏置,类型为 Parameter