CNN中1×1的卷积核的作用
2017-10-31 12:04
537 查看
1×1卷积核最早引起人们的重视是在NIN《Min Lin, Qiang Chen, and Shuicheng Yan. Network in network. CoRR, abs/1312.4400, 2013》结构中,后来在GoogLeNet的Inception结构中用于降维。
1×1卷积核用于升维、降维
如果卷积的输入、输出都仅有一个平面,那么1×1卷积核并没有啥意义。它完全不考虑像素与其周围像素之间的关系!但通常卷积的输入、输出都是立方体(多通道的),此时1×1卷积核实际上是对每个像素点在不同通道(channels)上线性组合(信息整合),且保留了图片的原有平面结构,仅仅是改变channels的数量,进而达到升维和降维的功能!
![](http://img.blog.csdn.net/20171031121610352?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvZ3VveXVuZmVpMjA=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
上左图显示了1×1卷积核用于降维。输入为4×4的平面,共3个通道。用两个1×1的卷积核(卷积层)作用之后,变为4×4的平面,共2通道。同理,上右图展示了升维的操作。
实现跨通道的交互和信息整合
升维和 降维也可以看做是实现了多个Feature Map的线性组合,实现了跨通道的信息整合。具体的理论可以参加NIN论文。
增加模型深度
增加模型深度,一定程度上提升模型的表征能力。
1×1卷积核用于升维、降维
如果卷积的输入、输出都仅有一个平面,那么1×1卷积核并没有啥意义。它完全不考虑像素与其周围像素之间的关系!但通常卷积的输入、输出都是立方体(多通道的),此时1×1卷积核实际上是对每个像素点在不同通道(channels)上线性组合(信息整合),且保留了图片的原有平面结构,仅仅是改变channels的数量,进而达到升维和降维的功能!
上左图显示了1×1卷积核用于降维。输入为4×4的平面,共3个通道。用两个1×1的卷积核(卷积层)作用之后,变为4×4的平面,共2通道。同理,上右图展示了升维的操作。
实现跨通道的交互和信息整合
升维和 降维也可以看做是实现了多个Feature Map的线性组合,实现了跨通道的信息整合。具体的理论可以参加NIN论文。
增加模型深度
增加模型深度,一定程度上提升模型的表征能力。
相关文章推荐
- CNN 中, 1X1卷积核到底有什么作用呢?
- CNN 中1X1卷积核的作用
- CNN 中, 1X1卷积核到底有什么作用呢?
- CNN 中, 1X1卷积核到底有什么作用呢?
- CNN 中, 1X1卷积核到底有什么作用呢?
- CNN中,1X1卷积核到底有什么作用呢?
- [深度学习]CNN--卷积神经网络中用1*1 卷积有什么作用
- CNN 中, 1X1卷积核到底有什么作用呢
- 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-02-基于Python的卷积运算
- CNN卷积前后向推导
- 深度学习与自然语言处理之四:卷积神经网络模型(CNN)
- CNN中1x1卷积的用处和优点
- 深度卷积网络CNN与图像语义分割
- 深度卷积网络CNN与图像语义分割
- 深度学习, cnn,本质不是深而是卷积pooling,验证ok。
- 以V1中Inception Module为例说明1x1卷积核的作用
- 使用更小卷积核的作用
- 卷积神经网络CNN(1)——图像卷积与反卷积(后卷积,转置卷积)
- 深度卷积网络CNN与图像语义分割
- CNN网络中的 1 x 1 卷积是什么?