简介：

Faster RCNN主要由三个部分组成：
1.基础特征提取网络（？这个网络是AlexNet还是VGG16）
2.RPN
3.Fast RCNN
其中RPN和Fast RCNN共享特征提取卷积层，
思想上依旧延续提取proposal+分类的思想

Faster RCNN可以细分为四个主要内容

1.CONV layers
作为一种CNN网络目标检测方法，Faster RCNN首先使用一组基础的CONV+ReLU+Pooling层提取image的feature map。该feature maps被共享用于后续RPN层和全连接层
2.Region Proposal Networks
RPN网络用于生产region proposals。该层通过softmax判断anchors属于positive或者negative， 再利用bounding box regression修正anchors获得精确的proposals。
3.Region of Interest Pooling
该层收集输入的feature maps和proposals，综合这些信息后提取proposal feature maps，送入后续全连接层判定目标类别。
4.Classification
利用proposal feature maps计算proposal的类别，同时再次bounding box regression获得检测框最终的精确位置。

faster_rcnn_test.pt网络结构

step1:
该网络对于一副任意大小PxQ的图像，首先缩放至固定大小MxN，然后将MxN图像送入网络；而Conv layers中包含了13个conv层+13个relu层+4个pooling层;

RPN网络首先经过3x3卷积，再分别生成positive anchors和对应bounding box regression偏移量，然后计算出proposals；

而Roi Pooling层则利用proposals从feature maps中提取proposal feature送入后续全连接和softmax网络作classification（即分类proposal到底是什么object）。

1.Conv

2.Region Proposal Networks

Faster RCNN抛弃了传统的滑动窗口和Selective Search方法，直接使用RPN生成检测框，这是Faster RCNN的巨大优势，能极大提升检测框的生成速度

RPN网络结构

上图4展示了RPN网络的具体结构。可以看到RPN网络实际分为2条线，
上面一条通过softmax分类anchors获得positive和negative分类，
下面一条用于计算对于anchors的bounding box regression偏移量，以获得精确的proposal。
而最后的Proposal层则负责综合positive anchors和对应bounding box regression偏移量获取proposals，同时剔除太小和超出边界的proposals。
其实整个网络到了Proposal Layer这里，就完成了相当于目标定位的功能。

2.1 多通道图像卷积基础知识介绍
2.2anchors
提到RPN网络，就不能不说anchors。所谓anchors，实际上就是一组由rpn/generate_anchors.py生成的矩形。直接运行作者demo中的generate_anchors.py可以得到以下输出：

    [[ -84. -40. 99. 55.]
    [-176. -88. 191. 103.]
    [-360. -184. 375. 199.]
    [ -56. -56. 71. 71.]
    [-120. -120. 135. 135.]
    [-248. -248. 263. 263.]
    [ -36. -80. 51. 95.]
    [ -80. -168. 95. 183.]
    [-168. -344. 183. 359.]]

其中每行的4个值 表矩形左上和右下角点坐标。

9个矩形共有3种形状，长宽比为大约为 三种， 如图6。
实际上通过anchors就引入了检测中常用到的多尺度方法。

anchor示意图

注：关于上面的anchors size，其实是根据检测图像设置的。
在python demo中，会把任意大小的输入图像reshape成800x600（即图2中的M=800，N=600）
再回头来看anchors的大小，anchors中长宽1:2中最大为352x704，长宽2:1中最大736x384，基本是cover了800x600的各个尺度和形状。

那么这9个anchors是做什么的呢？
遍历Conv layers计算获得的feature maps，为每一个点都配备这9种anchors作为初始的检测框。
这样做获得检测框很不准确，不用担心，后面还有2次bounding box regression可以修正检测框位置。

解释一下上面这张图的数字。

1. 在原文中使用的是ZF model中，其Conv Layers中最后的conv5层num_output=256，对应生成256张特征图，所以相当于feature map每个点都是256-dimensions
2. 在conv5之后，做了rpn_conv/3x3卷积且num_output=256，相当于每个点又融合了周围3x3的空间信息（猜测这样做也许更鲁棒？反正我没测试），同时256-d不变（如图4和图7中的红框）
   3.假设在conv5 feature map中每个点上有k个anchor（默认k=9），而每个anhcor要分positive和negative，所以每个点由256d feature转化为cls=2k scores；而每个anchor都有(x, y, w, h)对应4个偏移量，所以reg=4k coordinates
   4.补充一点，全部anchors拿去训练太多了，训练程序会在合适的anchors中随机选取128个postive anchors+128个negative anchors进行训练

其实RPN最终就是在原图尺度上，设置了密密麻麻的候选Anchor。然后用cnn去判断哪些Anchor是里面有目标的positive anchor，哪些是没目标的negative anchor。所以，仅仅是个二分类而已！
那么Anchor一共有多少个？原图800x600，VGG下采样16倍，feature map每个点设置9个Anchor，所以：

其中ceil()表示向上取整，是因为VGG输出的feature map size= 50*38。

Generate Anchors

2.3softmax判定positive与negative
一副MxN大小的矩阵送入Faster RCNN网络后，到RPN网络变为(M/16)x(N/16)，不妨设 W=M/16，H=N/16。在进入reshape与softmax之前，先做了1x1卷积，如图9：

RPN中判定positive/negatie网络结构

该1x1卷积的caffe prototxt定义如下：

    layer{
        name: "rpn_cls_score"
        type: "Convolution"
        bottom: "rpn/output"
        top: "rpn_cls_score"
        convolution_parm {
            name_output: 18  # 2(positive / negative) * 9(anchors)
            kernel_size: 1 pad: 0 stride: 1
        }
    }

可以看到其num_output=18，也就是经过该卷积的输出图像为WxHx18大小
这也就刚好对应了feature maps每一个点都有9个anchors，同时每个anchors又有可能是positive和negative，所有这些信息都保存WxHx(9*2)大小的矩阵。
为何这样做？后面接softmax分类获得positive anchors，也就相当于初步提取了检测目标候选区域box（一般认为目标在positive anchors中）。????
那么为何要在softmax前后都接一个reshape layer？其实只是为了便于softmax分类，至于具体原因这就要从caffe的实现形式说起了。在caffe基本数据结构blob中以如下形式保存数据:

blob = [batch_size, channel, height, width]

对应至上面的保存positive/negative anchors的矩阵，其在caffe blob中的存储形式为[1, 2x9, H, W]。
而在softmax分类时需要进行positive/negative二分类，所以reshape layer会将其变为[1, 2, 9xH, W]大小，即单独“腾空”出来一个维度以便softmax分类，之后再reshape回复原状。
贴一段caffe softmax_loss_layer.cpp的reshape函数的解释，非常精辟：

“Number of labels must match number of predictions; “
“e.g., if softmax axis == 1 and prediction shape is (N, C, H, W), “
“label count (number of labels) must be NHW, “
“with integer values in {0, 1, …, C-1}.”;

综上所述，RPN网络中利用anchors和softmax初步提取出positive anchors作为候选区域（另外也有实现用sigmoid代替softmax，原理类似）

2.4bounding box regression原理
如图9所示绿色框为飞机的Ground Truth(GT)，红色为提取的positive anchors，即便红色的框被分类器识别为飞机，但是由于红色的框定位不准，这张图相当于没有正确的检测出飞机。所以我们希望采用一种方法对红色的框进行微调，使得positive anchors和GT更加接近

对于窗口一般使用四维向量 表示，分别表示窗口的中心点坐标和宽高。
对于图 11，红色的框A代表原始的positive Anchors，绿色的框G代表目标的GT，我们的目标是寻找一种关系，使得输入原始的anchor A经过映射得到一个跟真实窗口G更接近的回归窗口G’，即：

那么经过何种变换F才能从图10中的anchor A变为G’呢？ 比较简单的思路就是:

先做平移

再做缩放

观察上面4个公式发现，需要学习的是 这四个变换。
当输入的anchor A与GT相差较小时，可以认为这种变换是一种线性变换， 那么就可以用线性回归来建模对窗口进行微调
（注意，只有当anchors A和GT比较接近时，才能使用线性回归模型，否则就是复杂的非线性问题了）。

接下来的问题就是如何通过线性回归获得 了。

线性回归就是给定输入的特征向量X, 学习一组参数W, 使得经过线性回归后的值跟真实值Y非常接近，即。

对于该问题，输入X是cnn feature map，定义为Φ；同时还有训练传入A与GT之间的变换量，即。输出是四个变换。那么目标函数可以表示为：

其中 是对应anchor的feature map组成的特征向量，
是需要学习的参数，
是得到的预测值（*表示 x，y，w，h，也就是每一个变换对应一个上述目标函数）。

为了让预测值 与真实值 差距最小，设计L1损失函数：

函数优化目标为：

需要说明，只有在GT与需要回归框位置比较接近时，才可近似认为上述线性变换成立。
说完原理，对应于Faster RCNN原文，positive anchor与ground truth之间的平移量 与尺度因子 如下：

对于训练bouding box regression网络回归分支，输入是cnn feature Φ，监督信号是Anchor与GT的差距 ，即训练目标是：输入 Φ的情况下使网络输出与监督信号尽可能接近。那么当bouding box regression工作时，再输入Φ时，回归网络分支的输出就是每个Anchor的平移量和变换尺度 ，显然即可用来修正Anchor位置了。

2.5对proposals进行bounding box regression

在了解bounding box regression后，再回头来看RPN网络第二条线路，如图12。

先来看一看上图11中1x1卷积的caffe prototxt定义：

    layer {
        name: "rpn_bbox_pred"
        type: "Convolution"
        bottom: "rpn/output"
        top: "rpn_bbox_pred"
        convolution_param {
            num_output: 36       # 4 * 9(anchors)
            kernel_size: 1 pad: 0 stride 1
        }
    }

可以看到其 num_output=36，即经过该卷积输出图像为WxHx36，在caffe blob存储为[1, 4x9, H, W]，这里相当于feature maps每个点都有9个anchors，每个anchors又都有4个用于回归的变化量：

回到图8，VGG输出 的特征，对应设置 个anchors， 而RPN输出：

1.大小为 的positive/negative softmax分类特征矩阵
2.大小为 的regression坐标回归特征矩阵

恰好满足RPN完成positive/negative分类+bounding box regression坐标回归.

2.6 Proposal Layer

Proposal Layer负责综合所有 变换量和positive anchors，计算出精准的proposal，送入后续RoI Pooling Layer。还是先来看看Proposal Layer的caffe prototxt定义：

    layer{
        name: 'proposal'
        type: 'Python'
        bottom: 'rpn_cls_prob_reshape'
        bottom: 'rpn_bbox_pred'
        bottom: 'im_info'
        top: 'rois'
        python_parm {
            module: 'rpn.proposal_layer'
            layer: 'ProposalLayer'
            param_str: "'feat_stride' : 16"
        }
    }

Proposal Layer有3个输入：positive vs negative anchors分类器结果rpn_cls_prob_reshape，对应的bbox reg的 变换量rpn_bbox_pred，以及im_info；另外还有参数feat_stride=16，这和图4是对应的。
首先解释im_info。对于一副任意大小PxQ图像，传入Faster RCNN前首先reshape到固定MxN，im_info=[M, N, scale_factor]则保存了此次缩放的所有信息。
然后经过Conv Layers，经过4次pooling变为WxH=(M/16)x(N/16)大小，其中feature_stride=16则保存了该信息，用于计算anchor偏移量。

Proposal Layer forward（caffe layer的前传函数）按照以下顺序依次处理：

生成anchors，利用对所有的anchors做bbox regression回归（这里的anchors生成和训练时完全一致）

按照输入的positive softmax scores由大到小排序anchors，提取前pre_nms_topN(e.g. 6000)个anchors，即提取修正位置后的positive anchors。

限定超出图像边界的positive anchors为图像边界（防止后续roi pooling时proposal超出图像边界）

剔除非常小（width<threshold or height<threshold）的positive anchors

进行nonmaximum suppression

Proposal Layer有3个输入：positive和negative anchors分类器结果rpn_cls_prob_reshape，对应的bbox reg的(e.g. 300)结果作为proposal输出。

之后输出proposal=[x1, y1, x2, y2]，注意，由于在第三步中将anchors映射回原图判断是否超出边界，所以这里输出的proposal是对应MxN输入图像尺度的，这点在后续网络中有用。另外我认为，严格意义上的检测应该到此就结束了，后续部分应该属于识别了。

RPN网络结构就介绍到这里，总结起来就是：

生成anchors -> softmax分类器提取positvie anchors -> bbox reg回归positive anchors -> Proposal Layer生成proposals

赏

谢谢你请我吃糖果

支付宝

微信