【深度学习论文】FCN
2017-04-21 15:54
197 查看
FCN
用[TOC]来生成目录:
FCN
1 网络架构
8大模块
前2个模块
34模块
5模块
6模块
78模块
2 激活函数
3 Dropout
4 多GPU通信
5 网络细节和特点
1 网络架构
整个alexnet网络的架构如下图所示:注意:输入层的大小其实是227*227
8大模块
整个网络可以分成8个大模块,其中前5模块四卷积模块,用于提取图片特征,后3个模块是全链接层,用于图像分类!前2个模块
34模块
5模块
6模块
78模块
2 激活函数
Hinton提出使用Relu激活函数效果更好!从ReLU提出之后相继又出现很多新的激活函数,如PReLU,Leaky-ReLY,Maxout等。
3 Dropout
可以利用78模块集成学习的思想来理解Dropout,全连接中训练多个若分类器,在识别阶段在来构成一个强分类器。Dropout比Without Dropout在训练阶段的准确率要低,但测试阶段的准确率要高,范化能力更强。
4 多GPU通信
5 网络细节和特点
上图右侧是论文中比较创新的地方,可以看出Alexnet是人工智能第三次爆发的开山之作!
参考文献:
[alexnet]:ImageNet Classification with Deep Convolutional Neural Networks
相关文章推荐
- 深度学习论文笔记(六)--- FCN-2015年(Fully Convolutional Networks for Semantic Segmentation)
- 2017-02-27-深度学习论文笔记:R-FCN
- [深度学习论文阅读]Fully Convolutional Networks for Semantic Segmentation(FCN网络)
- 深度学习有哪些好玩的且易于实现的论文?
- 深度学习入门必看的书和论文?有哪些必备的技能需学习?
- 深度学习论文理解3:Flexible, high performance convolutional neural networks for image classification
- 深度学习论文笔记-Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition
- 深度学习论文笔记--Recover Canonical-View Faces in the Wild with Deep Neural Network
- 计算机视觉和深度学习领域引用次数最多的论文
- 【arXiv】2015 深度学习年度十大论文
- 新智元:【arXiv】2015 深度学习年度十大论文
- 蒙特卡罗树搜索+深度学习 -- AlphaGo原版论文阅读笔记
- 论文阅读(2013-1)----深度学习的昨天,今天和明天
- 【深度学习经典论文翻译2】GoogLeNet-Going Deeper with Convolutions全文翻译
- 深度学习论文笔记:OverFeat
- 【深度学习经典论文翻译1】AlexNet-ImageNet Classification with Deep Convolutional Neural Networks全文翻译
- 深度学习论文阅读笔记--Deep Learning Face Representation from Predicting 10,000 Classes
- Hinton 深度学习论文总结
- 深度学习论文笔记--Depth Map Prediction from a Single Image using a Multi-Scale Deep Network
- 深度学习文字识别论文综述