特征地图
当前层中的每个神经元都与前一层中的所有神经元相连。最后一个神经元输出一个值。
对于CNN,如果前一层输出H W C的特征图,则全连通层由n个卷积核组成,卷积核的维数为H W C,输出n个值。
CNN提取局部特征,全连接层的作用就是整合这些局部特征,将特征图整合成一个值,提高位置不变性。
这里用一只小猫来解释为什么需要一个全连接层,相当清楚。
参数数量急剧增加,全连接层的参数是网络中最多的。
因为全连接层神经元的大小是在训练过程中确定的,所以输入图像的大小会受到限制。
1 1卷积,顾名思义,卷积核的大小为1 1,通道数与输入特征通道数相同,但可以改变卷积核的个数,从而实现降维升级。
卷积核的通道数与输入特征通道数相同。
卷积核的数量决定了输出特征的通道数量。
完全连接的图层将破坏要素的原始空间信息,并展平要素以供进一步处理。
1*1卷积后,特征的分辨率没有变化,但通道数发生了变化。
-不改变特征图的大小,对输入大小没有限制。
-参数数量大大减少。可以先降维后增维,在减少计算量的同时实现与其他卷积运算相同的功能。
将特征图各通道的像素值相加得到一个平均值,用这个值表示对应的特征图。
输出结果直接发送到softmax。
-减少参数数量并替换完全连接的层。
-减少过度拟合。
-直接赋予每个频道实际的类别含义。
参考1
参考文献2
宁论文综述
这也可以。