5.3. 多输入通道和多输出通道

5.3. 多输入通道和多输出通道

前面两节里我们用到的输入和输出都是二维数组，但真实数据的维度经常更高。例如，彩色图像在高和宽2个维度外还有RGB（红、绿、蓝）3个颜色通道。假设彩色图像的高和宽分别是

和（像素），那么它可以表示为一个的多维数组。我们将大小为3的这一维称为通道（channel）维。本节我们将介绍含多个输入通道或多个输出通道的卷积核。

5.3.1. 多输入通道

当输入数据含多个通道时，我们需要构造一个输入通道数与输入数据的通道数相同的卷积核，从而能够与含多通道的输入数据做互相关运算。假设输入数据的通道数为

，那么卷积核的输入通道数同样为。设卷积核窗口形状为。当时，我们知道卷积核只包含一个形状为的二维数组。当时，我们将会为每个输入通道各分配一个形状为的核数组。把这个数组在输入通道维上连结，即得到一个形状为的卷积核。由于输入和卷积核各有个通道，我们可以在各个通道上对输入的二维数组和卷积核的二维核数组做互相关运算，再将这个互相关运算的二维输出按通道相加，得到一个二维数组。这就是含多个通道的输入数据与多输入通道的卷积核做二维互相关运算的输出。

图5.4展示了含2个输入通道的二维互相关计算的例子。在每个通道上，二维输入数组与二维核数组做互相关运算，再按通道相加即得到输出。图5.4中阴影部分为第一个输出元素及其计算所使用的输入和核数组元素：

。

图 5.4 含2个输入通道的互相关计算

接下来我们实现含多个输入通道的互相关运算。我们只需要对每个通道做互相关运算，然后通过add_n函数来进行累加。

In [1]:

import d2lzh as d2l
from mxnet import nd
 
def corr2d_multi_in(X, K):
    # 首先沿着X和K的第0维（通道维）遍历。然后使用*将结果列表变成add_n函数的位置参数
    # （positional argument）来进行相加
    return nd.add_n(*[d2l.corr2d(x, k) for x, k in zip(X, K)])

我们可以构造图5.4中的输入数组X、核数组K来验证互相关运算的输出。

In [2]:

X = nd.array([[[0, 1, 2], [3, 4, 5], [6, 7, 8]],
              [[1, 2, 3], [4, 5, 6], [7, 8, 9]]])
K = nd.array([[[0, 1], [2, 3]], [[1, 2], [3, 4]]])
 
corr2d_multi_in(X, K)

Out[2]:

[[ 56.  72.]
 [104. 120.]]
<NDArray 2x2 @cpu(0)>

5.3.2. 多输出通道

当输入通道有多个时，因为我们对各个通道的结果做了累加，所以不论输入通道数是多少，输出通道数总是为1。设卷积核输入通道数和输出通道数分别为

和，高和宽分别为和。如果希望得到含多个通道的输出，我们可以为每个输出通道分别创建形状为的核数组。将它们在输出通道维上连结，卷积核的形状即。在做互相关运算时，每个输出通道上的结果由卷积核在该输出通道上的核数组与整个输入数组计算而来。

下面我们实现一个互相关运算函数来计算多个通道的输出。

In [3]:

def corr2d_multi_in_out(X, K):
    # 对K的第0维遍历，每次同输入X做互相关计算。所有结果使用stack函数合并在一起
    return nd.stack(*[corr2d_multi_in(X, k) for k in K])

我们将核数组K同K+1（K中每个元素加一）和K+2连结在一起来构造一个输出通道数为3的卷积核。

In [4]:

K = nd.stack(K, K + 1, K + 2)
K.shape

Out[4]:

(3, 2, 2, 2)

下面我们对输入数组X与核数组K做互相关运算。此时的输出含有3个通道。其中第一个通道的结果与之前输入数组X与多输入通道、单输出通道核的计算结果一致。

In [5]:

corr2d_multi_in_out(X, K)

Out[5]:

[[[ 56.  72.]
  [104. 120.]]
 
 [[ 76. 100.]
  [148. 172.]]
 
 [[ 96. 128.]
  [192. 224.]]]
<NDArray 3x2x2 @cpu(0)>

5.3.3. 1\times 1卷积层

最后我们讨论卷积窗口形状为

（）的多通道卷积层。我们通常称之为卷积层，并将其中的卷积运算称为卷积。因为使用了最小窗口，卷积失去了卷积层可以识别高和宽维度上相邻元素构成的模式的功能。实际上，卷积的主要计算发生在通道维上。图5.5展示了使用输入通道数为3、输出通道数为2的卷积核的互相关计算。值得注意的是，输入和输出具有相同的高和宽。输出中的每个元素来自输入中在高和宽上相同位置的元素在不同通道之间的按权重累加。假设我们将通道维当作特征维，将高和宽维度上的元素当成数据样本，那么卷积层的作用与全连接层等价。

$使用输入通道数为3、输出通道数为2的\ :math:`1\times 1`\ 卷积核的互相关计算。输入和输出具有相同的高和宽$ 图 5.5 使用输入通道数为3、输出通道数为2的

卷积核的互相关计算。输入和输出具有相同的高和宽

下面我们使用全连接层中的矩阵乘法来实现

卷积。这里需要在矩阵乘法运算前后对数据形状做一些调整。

In [6]:

def corr2d_multi_in_out_1x1(X, K):
    c_i, h, w = X.shape
    c_o = K.shape[0]
    X = X.reshape((c_i, h * w))
    K = K.reshape((c_o, c_i))
    Y = nd.dot(K, X)  # 全连接层的矩阵乘法
    return Y.reshape((c_o, h, w))

经验证，做

卷积时，以上函数与之前实现的互相关运算函数corr2d_multi_in_out等价。

In [7]:

X = nd.random.uniform(shape=(3, 3, 3))
K = nd.random.uniform(shape=(2, 3, 1, 1))
 
Y1 = corr2d_multi_in_out_1x1(X, K)
Y2 = corr2d_multi_in_out(X, K)
 
(Y1 - Y2).norm().asscalar() < 1e-6