残差网络的前世今生与原理 | 赠书

本文内容节选自《深度学习之模型设计：核心算法与案例实践》，作者言有三。本书详解了数十年来深层卷积神经网络模型的主流设计思想，理论讲解细致，实战案例丰富，是熟练掌握深度学习模型使用的必备参考资料。

想要了解关于深度学习的更多干货知识，关注AI科技大本营并评论分享你对本文的学习心得或深度学习实践的见解，我们将从中选出10条优质评论，各送出《深度学习之模型设计：核心算法与案例实践》一本+作者精心准备的AI专业版学习扑克牌一副。活动截止时间为7月30日晚8点。

在深度学习模型发展史中，残差网络因其简单而有效的结构与异常有效的结果而占据了非常重要的位置，今天就来仔细说说它的来龙去脉。

残差网络之前的历史

残差连接的思想起源于中心化，在神经网络系统中，对输入数据等进行中心化转换，即将数据减去均值，被广泛验证有利于加快系统的学习速度。

Schraudolph[1]将这样的思想拓展到了梯度的反向传播中，不仅是输入和隐藏层单元的激活值要中心化，梯度误差以及权重的更新也可以中心化，这便是通过将输入输出进行连接的shortcut connection，也称为跳层连接技术。

在1998年的时候，它们提出了将网络分解为biased和centered两个子网络的思想，通过并行训练两个子网络，分别学习线性和非线性变换部分，不仅降低了各个网络的学习难度，也大大提升了梯度下降算法的训练速度。

Raiko等人则在论文[2]中更加细致地研究了shortcut connections对模型能力的影响，在网络包含2到5个隐藏层，使用与不使用正则化等各种环境配置下，MNIST和CIFAR图像分类任务和MNIST图像重构任务的结果都表明，这样的技术提高了随机梯度下降算法的学习能力，并且提高了模型的泛化能力。    Srivastava等人在2015年的文章[3]中提出了highway network，对深层神经网络使用了跳层连接，明确提出了残差结构，借鉴了来自于LSTM的控制门的思想。

当T(x,Wt)=0时，y=x，T(x,Wt)=1时，y=H(x,Wh)T(x,Wt)。在该文章中，研究者没有使用特殊的初始化方法等技巧，也能够训练上千层的网络。

从以上的发展可以看出来，跳层连接由来已久。
残差网络
何凯明等人在2015年的论文[4]中正式提出了ResNet，简化了highway network中的形式，表达式如下：

相比于之前的卷积和池化相互堆叠的网络，其基本的结构单元如下：

当我们直接将一个输入添加到输出的时候，输出y可以明确的拆分为H(x,Wh)和x的线性叠加，从而让梯度多了一条恒等映射通道，这被认为对于深层网络的训练是非常重要的，一个典型的resnet网络结构如下：

resnet在当年的ImageNet的多项竞赛中取得冠军，风头一时无两，随后被广泛深扒。

残差网络结构的发展
对于残差网络的研究，大部分集中在两个方向，第一个是结构方面的研究，另一个是残差网络原理的研究，首先说几个具有代表性的结构。

3.1、更密集的跳层连接DenseNet

如果将ResNet的跳层结构发挥到极致，即每两层都相互连接。

DenseNet是一个非常高效率的网络结构，以更少的通道数更低的计算代价，获得比ResNet更强大的性能。

3.2、更多并行的跳层连接
如果将ResNet和DenseNet分为作为两个通道并行处理，之后再将信息融合，就可以得到Dual Path Network，网络结构如下：

其背后的思想是resnet对于重用信息更有效，而densenet对于学习新的信息更有效，这个结构在最后一届ImageNet竞赛中也取得了很好的成绩，分类比赛的亚军，定位比赛的冠军。类似的结构变种还有如下的结构，不再一一赘述。

当然，还有比上面的Dual Path Network更加简单的并行结构，即直接使用多个完全独立且相同的分支并行处理，然后合并。

也有更加复杂的变种，即所谓的resnet in resnet结构，如下图。

残差网络结构为什么这么好用？
关于残差网络为什么有效，研究众多，这里我们就集中讲述几个主流的思路。
4.1、简化了学习过程，增强了梯度传播
相比于学习原始的信号，残差网络学习的是信号的差值，这在许多的研究中被验证是更加有效的，它简化了学习的过程。
根据我们前面的内容可知，在一定程度上，网络越深表达能力越强，性能越好。
然而随着网络深度的增加，带来了许多优化相关的问题，比如梯度消散，梯度爆炸。
在残差结构被广泛使用之前，研究人员通过研究更好的优化方法，更好的初始化策略，添加Batch Normalization，提出Relu等激活函数的方法来对深层网络梯度传播面临的问题进行缓解，但是仍然不能解决根本问题。
假如我们有这样一个网络：

其中f为卷积操作，g为非线性变换函数，k为分类器，依靠误差的链式反向传播法则，损失loss对f的导数为：

如果其中某一个导数很小，多次连乘后梯度可能越来越小，这就是常说的梯度消散，对于深层网络，从靠近输出的深层传到靠近输入的浅层时梯度值非常小，使得浅层无法有效地更新。
如果使用了残差结构，因为导数包含了恒等项，仍然能够有效的反向传播。
举一个非常直观的例子方便理解，假如有一个网络，输入x=1，非残差网络为G，残差网络为H，其中H(x)=F(x)+x，假如有这样的输入关系：

因为两者各自是对G的参数和F的参数进行更新，可以看出变化对F的影响远远大于G，说明引入残差后的映射对输出的变化更敏感，这样是有利于网络进行传播的。

4.2、打破了网络的不对称性[5]
虽然残差网络可以通过跳层连接，增强了梯度的流动，从而使得上千层网络的训练成为可能，不过相关的研究表面残差网络的有效性，更加体现在减轻了神经网络的退化。
如果在网络中每个层只有少量的隐藏单元对不同的输入改变它们的激活值，而大部分隐藏单元对不同的输入都是相同的反应，此时整个权重矩阵的秩不高。并且随着网络层数的增加，连乘后使得整个秩变的更低，这就是我们常说的网络退化问题。
虽然权重矩阵是一个很高维的矩阵，但是大部分维度却没有信息，使得网络的表达能力没有看起来那么强大。这样的情况一定程度上来自于网络的对称性，而残差连接打破了网络的对称性。
下面展示了三种跳层连接恢复网络表达能力的案例，分别是消除输入和权重零奇点，打破对称性，线性依赖性。

4.3、增强了网络的泛化能力[6]
有一些研究表明，深层的残差网络可以看做是不同深度的浅层神经网络的ensemble，训练完一个深层网络后，在测试的时候随机去除某个网络层，并不会使得网络的性能有很大的退化,而对于VGG网络来说，删减任何一层都会造成模型的性能奔溃，如下图。

甚至去除和打乱一些网络层，性能的下降也是一个很平滑的过程。

以上都证明了残差结构其实是多个更浅的网络的集成，所以它的有效深度看起来表面的那么深，因此优化自然也没有那么难了。

参考文献
[1] Schraudolph N. Accelerated gradient descent by factor-centering decomposition[J]. Technical report/IDSIA, 1998, 98.[2] Raiko T, Valpola H, LeCun Y. Deep learning made easier by linear transformations in perceptrons[C]//Artificial intelligence and statistics. 2012: 924-932.[3] Srivastava R K, Greff K, Schmidhuber J. Training very deep networks[C]//Advances in neural information processing systems. 2015: 2377-2385.[4] He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2016: 770-778.[5] Orhan A E, Pitkow X. Skip Connections Eliminate Singularities[J]. international conference on learning representations, 2018.[6] Veit A, Wilber M J, Belongie S. Residual networks behave like ensembles of relatively shallow networks[C]//Advances in neural information processing systems. 2016: 550-558.

福利

以上内容更详细的介绍请参见《深度学习之模型设计：核心算法与案例实践》，本书详解了数十年来深层卷积神经网络模型的主流设计思想，理论讲解细致，实战案例丰富，是熟练掌握深度学习模型使用的必备参考资料。

➤章节目录

第1章 神经网络和计算机视觉基础

第2章 深度学习的基础

第3章 数据集、评测指标与优化目标

第4章 加深网络，提升模型性能

第5章 1×1卷积，通道维度升降的利器

第6章 加宽网络，提升模型性能

第7章 残差连接，深层网络收敛的关键

第8章 分组卷积与卷积拆分，移动端高效率经典模型

第9章 多尺度网络与非正常卷积，更丰富的感受野与不变性

第10章 多输入网络，图像检索和排序的基准模型

第11章 时序神经网络，有记忆的网络更聪明

第12章 卷积从二维变成三维，实现升维打击

第13章 动态推理与注意力机制，网络因样本而异

第14章 生成对抗网络

本书得到了依图科技CTO、新加坡工程院院士、IEEE Fellow颜水成教授，新智元创始人、CEO 杨静，中国科学院半导体研究所研究员鲁华祥，知识星球CEO吴鲁加4位业内大咖的鼎力推荐，是一本非常优质，适合任何深度学习领域从业者学习的好书。

➤获取方式

在文末留言自己在深度学习方面的心得感悟，我们将选取10条优质留言分别赠送此书1本+作者精心准备的AI专业版学习扑克牌一副（共10份），活动截止时间为7月30日晚8点。感兴趣的读者也可以通过扫描下方二维码进行购买。