Resnet50

ResNet在2015年被提出，在ImageNet比赛Classification任务上获得第一名。

因为它“简单与实用”并存，很多方法都建立在ResNet50或者ResNet101的基础上完成的，图像检测,  图像分割，图像识别等领域都纷纷使用ResNet。

Alpha zero也使用了ResNet，所以可见ResNet确实很好用。

1. ResNet意义
随着网络的加深，出现了训练集准确率下降的现象，我们可以确定这不是由于Overfit过拟合造成的(过拟合的情况训练集应该准确率很高)；
所以作者针对这个问题提出了一种全新的网络，叫深度残差网络，它允许网络尽可能的加深，其中引入了全新的结构

残差指的是什么？
其中ResNet提出了两种mapping：一种是identity mapping，指的就是图1中”弯弯的曲线”，顾名思义，就是指本身，也就是公式中的x，
另一种residual mapping，指的就是除了”弯弯的曲线“那部分，指的是“差”，也就是y−x，所以残差指的就是F(x)部分。

所以，最后的输出是 y=F(x)+x

为什么ResNet可以解决“随着网络加深，准确率不下降”的问题？

Resnet提供了两种选择方式，也就是identity mapping和residual mapping，如果网络已经到达最优，继续加深网络，residual mapping将被push为0，只剩下identity mapping，这样理论上网络一直处于最优状态了，网络的性能也就不会随着深度增加而降低了。

原文：https://www.cnblogs.com/Ann21/p/9825602.html

本笔记只为自己学习记录使用，原文：（https://blog.csdn.net/lanran2/article/details/79057994 ）