6-机器学习系列（6）：计算机视觉--ResNets、Inception原理及ResNets的Python实现1

机器学习系列（6）

计算机视觉--ResNets、Inception原理及ResNets的Python实现

计算机视觉中的网络及方法：

经典网络

残差网络

ResNets有效原因

1×1卷积

谷歌Inception网络

github查阅。 https://github.com/LSayhi/Neural-network-and-Deep-learning (https://github.com/LSayhi/Neural-network-and-Deep-learning)

一、计算机视觉中的网络及方法

1.经典网络：

在深度学习的发展中，诞生了许多经典网络模型，这些网络给后来的网络结构提供了重大的参考，有的现在已经不怎么使用了，但是不管怎么样，

这些网络的提出，不论在当时还是现在都有一定的意义，比如LeNet5、AlexNet、VGGNet等。这些网络一般是由卷积层和池化层以及输入输出层复

合而成，通常，在一个或若干个卷积层之后，会连接一个池化层，在网络的最后几层，一般是将卷积结构转成全连接结构，然后再输出层使用

softmax进行分类，随着网络的发展，网络的深度也越来越深，参数也越来越多。

2.残差网络：

残差网络( ,简称 )是由残差块等复合而成的网络结构，利用残差网络可以将网络层数做到很深，以取得更好的表现。我

们知道，在网路的训练中，可能会遇到梯度消失或梯度爆炸的现象，导致无法成功训练，在现代网络中，通常网络的层数很大，因此发生梯度消失

作跳跃连接。如图 所示，这是一个残差网络的结构示意图，随着层数的增加，普通的深度网络和残差网络的 的比较。

Figure 4 : 学习恒等式

4.1×1卷积：

卷积，即是卷积核的大小是 大小的的卷积操作，也称network in network。当Nc=1时，如 所示，相当于把每一个像素点乘

以卷积核中的值，当Nc>1时（即图像的通道数大于1时），其相当于对Nc个通道进行加权求和，如图 ,当卷积核的数量为filters时，输出最

后一个维度则等于filters。 卷积可以改变图像的通道数，通常是减小或保持不变，当然也可以增加，这取决于卷积核的个数，举个例子说明

卷积的作用，如图 ,卷积核数量为192时，输出通道数保持不变，通道数为32时，输出通道数减小为32。

Figure 6 : 多个卷积核

谷歌Inception网络:

谷歌Inception网络基本思想是让网络自己决定需要什么样卷积核以及是否需要池化操作。我们知道。卷积核的大小需要我们去确定，比如

降低通道数，从而使得计算量下降，这就是 卷积在Inception网络中的应用， 是一个示例。其可以用在单个Inception模块中，如图

所示是一个完整的单个Inception模块（类似resnet的单模块），然后其可以组成 所示的完整Inception网络，网络由多个

Inception模块组成，当然还可以加上一些分支用来对提取到的特征进行预测分类等。