VGG

VGG是当前最流行的CNN模型之一，2014年由Simonyan和Zisserman提出，其命名来源于论文作者所在的实验室Visual Geometry Group。AlexNet模型通过构造多层网络，取得了较好的效果，但是并没有给出深度神经网络设计的方向。VGG通过使用一系列大小为3x3的小尺寸卷积核和pooling层构造深度卷积神经网络，并取得了较好的效果。VGG模型因为结构简单、应用性极强而广受研究者欢迎，尤其是它的网络结构设计方法，为构建深度神经网络提供了方向。

图3 是VGG-16的网络结构示意图，有13层卷积和3层全连接层。VGG网络的设计严格使用

VGG - 图1 的卷积层和池化层来提取特征，并在网络的最后面使用三层全连接层，将最后一层全连接层的输出作为分类的预测。 在VGG中每层卷积将使用ReLU作为激活函数，在全连接层之后添加dropout来抑制过拟合。使用小的卷积核能够有效地减少参数的个数，使得训练和测试变得更加有效。比如使用两层 VGG - 图2 卷积层，可以得到感受野为5的特征图，而比使用 VGG - 图3 的卷积层需要更少的参数。由于卷积核比较小，可以堆叠更多的卷积层，加深网络的深度，这对于图像分类任务来说是有利的。VGG模型的成功证明了增加网络的深度，可以更好的学习图像中的特征模式。

VGG - 图4

图3：VGG模型网络结构示意图

VGG在眼疾识别数据集iChallenge-PM上的具体实现如下代码所示：

  1. # -*- coding:utf-8 -*-
  3. # VGG模型代码
  4. import numpy as np
  5. import paddle
  6. import paddle.fluid as fluid
  7. from paddle.fluid.layer_helper import LayerHelper
  8. from paddle.fluid.dygraph.nn import Conv2D, Pool2D, BatchNorm, Linear
  9. from paddle.fluid.dygraph.base import to_variable
  11. # 定义vgg块，包含多层卷积和1层2x2的最大池化层
  12. class vgg_block(fluid.dygraph.Layer):
  13.     def __init__(self, name_scope, num_convs, in_channels, out_channels):
  14.         """
  15.         num_convs, 卷积层的数目
  16.         num_channels, 卷积层的输出通道数，在同一个Incepition块内，卷积层输出通道数是一样的
  17.         """
  18.         super(vgg_block, self).__init__(name_scope)
  19.         self.conv_list = []
  20.         for i in range(num_convs):
  21.             conv_layer = self.add_sublayer('conv_' + str(i), Conv2D(num_channels=in_channels, 
  22.                                         num_filters=out_channels, filter_size=3, padding=1, act='relu'))
  23.             self.conv_list.append(conv_layer)
  24.             in_channels = out_channels
  25.         self.pool = Pool2D(pool_stride=2, pool_size = 2, pool_type='max')
  26.     def forward(self, x):
  27.         for item in self.conv_list:
  28.             x = item(x)
  29.         return self.pool(x)
  31. class VGG(fluid.dygraph.Layer):
  32.     def __init__(self, name_scope, conv_arch=((2, 64), 
  33.                                 (2, 128), (3, 256), (3, 512), (3, 512))):
  34.         super(VGG, self).__init__(name_scope)
  35.         self.vgg_blocks=[]
  36.         iter_id = 0
  37.         # 添加vgg_block
  38.         # 这里一共5个vgg_block，每个block里面的卷积层数目和输出通道数由conv_arch指定
  39.         in_channels = [3, 64, 128, 256, 512, 512]
  40.         for (num_convs, num_channels) in conv_arch:
  41.             block = self.add_sublayer('block_' + str(iter_id), 
  42.                     vgg_block(self.full_name(), num_convs, in_channels=in_channels[iter_id], 
  43.                               out_channels=num_channels))
  44.             self.vgg_blocks.append(block)
  45.             iter_id += 1
  46.         self.fc1 = Linear(input_dim=512*7*7, output_dim=4096,
  47.                       act='relu')
  48.         self.drop1_ratio = 0.5
  49.         self.fc2= Linear(input_dim=4096, output_dim=4096,
  50.                       act='relu')
  51.         self.drop2_ratio = 0.5
  52.         self.fc3 = Linear(input_dim=4096, output_dim=1)
  54.     def forward(self, x):
  55.         for item in self.vgg_blocks:
  56.             x = item(x)
  57.         x = fluid.layers.reshape(x, [x.shape[0], -1])
  58.         x = fluid.layers.dropout(self.fc1(x), self.drop1_ratio)
  59.         x = fluid.layers.dropout(self.fc2(x), self.drop2_ratio)
  60.         x = self.fc3(x)
  61.         return x
  1. with fluid.dygraph.guard():
  2.     model = VGG("VGG")
  4. train(model)

通过运行结果可以发现，在眼疾筛查数据集iChallenge-PM上使用VGG，loss能有效的下降，经过5个epoch的训练，在验证集上的准确率可以达到94%左右。