CNN中特征映射层(S2)有特征提取层(C3)特征映射是怎么作用的
2017-07-24 16:16
246 查看
刚接触神经网络,已经晕了,现在把自己遇到的问题列出来,然后给自己一个提醒!(话不多说,直接看下文)
(这幅图是我看这篇博文时download的 http://www.cnblogs.com/nsnow/p/4562363.html)
图中的卷积网络工作流程如下,输入层由32×32个感知节点组成,接收原始图像。然后,计算流程在卷积和子抽样之间交替进行,如下所述:
第一个特征提取层,是由输入图像通过和8个特征映射及可加偏置进行卷积,卷积后在C1层产生8个特征映射图,每张特征映射图由28×28个神经元组成,每个神经元接受一个 5×5 的滤波器(卷积核)【所以28×28就是(32-5+1)×(32-5+1),注意,这里滤波器其实是有重叠的】;
第二个特征映射层,是由C1层的特征映射图中每组图的2×2
个像素进行求和,加权值,加偏置,通过一个Sigmoid函数得到8个S2层的特征映射图,从而实现子抽样和局部平均。它同样由 8 个特征映射组成,但其每个特征映射由14×14 个神经元组成【所以14×14 就是(28×28)/(2×2) ,注意,这里滤波器其实是没有重叠的】。S2层的8张特征映射图是分别对应从C1层的8张特征映射图进行操作得来的,也就是说,对C1层的第一张特征映射图进行subsampling,就得到S2层的第一张特征映射图。(这与下一步操作不一样,我就是在这两块部分理解混乱了。)
第三个特征提取层,进行第二次卷积(与第一个卷积层操作方式相似),它由 20 个特征映射组成,每个特征映射由 10×10 个神经元组成。这个地方注意,它为什么有20个特征映射?其实如果你想要,50、100个都可以,关键就是它怎么得到20张特征映射图的。其实这个地方与上一层不一样的是,20张特征映射图的每一张特征映射图中的神经元都是对上一层的8张图一起操作的,而不是对应一张(之前我就是这里不懂)。大致思想如下图所示。
上图展示了在四个通道上的卷积操作,有两个卷积核,生成两个通道。其中需要注意的是,四个通道上每个通道对应一个卷积核,先将w2忽略,只看w1,那么在w1的某位置(i,j)处的值,是由四个通道上(i,j)处的卷积结果相加然后再取激活函数值得到的。
第四个特征映射层,以与第一次抽样操作方式相似 进行第二次子抽样和局部平均计算。它由 20 个特征映射组成,但每个特征映射由 5×5 个神经元组成;
第五层 实现卷积的最后阶段,它由 120 个神经元组成,每个神经元指定一个 5×5 的接受域。
最后是个全连接层,得到输出向量。
(这幅图是我看这篇博文时download的 http://www.cnblogs.com/nsnow/p/4562363.html)
图中的卷积网络工作流程如下,输入层由32×32个感知节点组成,接收原始图像。然后,计算流程在卷积和子抽样之间交替进行,如下所述:
第一个特征提取层,是由输入图像通过和8个特征映射及可加偏置进行卷积,卷积后在C1层产生8个特征映射图,每张特征映射图由28×28个神经元组成,每个神经元接受一个 5×5 的滤波器(卷积核)【所以28×28就是(32-5+1)×(32-5+1),注意,这里滤波器其实是有重叠的】;
第二个特征映射层,是由C1层的特征映射图中每组图的2×2
个像素进行求和,加权值,加偏置,通过一个Sigmoid函数得到8个S2层的特征映射图,从而实现子抽样和局部平均。它同样由 8 个特征映射组成,但其每个特征映射由14×14 个神经元组成【所以14×14 就是(28×28)/(2×2) ,注意,这里滤波器其实是没有重叠的】。S2层的8张特征映射图是分别对应从C1层的8张特征映射图进行操作得来的,也就是说,对C1层的第一张特征映射图进行subsampling,就得到S2层的第一张特征映射图。(这与下一步操作不一样,我就是在这两块部分理解混乱了。)
第三个特征提取层,进行第二次卷积(与第一个卷积层操作方式相似),它由 20 个特征映射组成,每个特征映射由 10×10 个神经元组成。这个地方注意,它为什么有20个特征映射?其实如果你想要,50、100个都可以,关键就是它怎么得到20张特征映射图的。其实这个地方与上一层不一样的是,20张特征映射图的每一张特征映射图中的神经元都是对上一层的8张图一起操作的,而不是对应一张(之前我就是这里不懂)。大致思想如下图所示。
上图展示了在四个通道上的卷积操作,有两个卷积核,生成两个通道。其中需要注意的是,四个通道上每个通道对应一个卷积核,先将w2忽略,只看w1,那么在w1的某位置(i,j)处的值,是由四个通道上(i,j)处的卷积结果相加然后再取激活函数值得到的。
第四个特征映射层,以与第一次抽样操作方式相似 进行第二次子抽样和局部平均计算。它由 20 个特征映射组成,但每个特征映射由 5×5 个神经元组成;
第五层 实现卷积的最后阶段,它由 120 个神经元组成,每个神经元指定一个 5×5 的接受域。
最后是个全连接层,得到输出向量。
相关文章推荐
- CNN网络提取哪层输出作为最后提取的特征为宜?
- caffe学习笔记2:使用pycaffe提取CNN特征
- CNN入门讲解:卷积层是如何提取特征的?
- matlab 批量提取CNN特征
- 利用卷积神经网络(CNN)提取图像特征
- cnn为什么在提取特征时那么有效?
- 机器学习特征表达——日期与时间特征做离散处理(数字到分类的映射),稀疏类分组(相似特征归档),创建虚拟变量(提取新特征) 本质就是要么多变少,或少变多
- 怎么用C++提取任意一张图片的特征(从内存读取数据)
- 深度学习框架哪家强?MXNet称霸CNN、RNN和情感分析,TensorFlow仅擅长推断特征提取
- 关于判断文件唯一性,怎么提取特征码
- NLP用CNN分类Mnist,提取出来的特征训练SVM及Keras的使用(demo)
- 深度学习框架哪家强?MXNet称霸CNN、RNN和情感分析,TensorFlow仅擅长推断特征提取
- 利用卷积神经网络(CNN)提取图片特征
- 深度学习框架哪家强?MXNet称霸CNN、RNN和情感分析,TensorFlow仅擅长推断特征提取
- 特征提取模型系列之CNN设计
- CNN结构:色彩特征提取-从RGB空间到HSV空间(色彩冷暖判断)
- 利用卷积神经网络(CNN)提取图片特征
- CNN结构:色彩特征提取-色彩属性HSV空间(色彩冷暖初始)
- 用于分类/特征提取的CNN结构设计方法总结
- 深度学习框架哪家强?MXNet称霸CNN、RNN和情感分析,TensorFlow仅擅长推断特征提取