Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
2014-05-30 10:21
281 查看
分类: 深度学习2013-06-12
10:24 2086人阅读 评论(10) 收藏 举报
Deep
LearningYusuke
Sugomori逻辑回归RBMDBN
最近开始在学习 Deep Learning 的基础知识,找了些文献来读,觉得有些晦涩。目前对于 DBN 的算法框架已经有个大概了解,但具体实现细节还不是太清楚,在网上搜到了日本学者 Yusuke Sugomori 在
Github 上的一个 deeplearning 项目,认真读了其 C 语言的版本,感觉收获蛮大,特将程序翻译成数学描述,希望对正在读或者将要读这个代码的朋友有些帮助。
注意,本文只是客观翻译程序,并作一些相关的评注,个人觉得这个程序与目前流行的 DBN 算法有较大差别,不能直接用来实战。学习 Deep Learning 的朋友可将其作为入门,特别是用来理解 Contrastive Divergence 和 Gibbs Sampling 比较有帮助。
补充:
文中描述的算法在框架上问题不大,但在一些细节处理上可能有些问题,例如,关于 RBM 中的参数刷新公式, fine-tuning 过程中并没有将之前的层联级微调等,望读者知晓。另外,关于 RBM 算法,我后来又花了点功夫学习了一下,并整理成系列博客(见下面的链接),供大家参考。
目录链接
(一)预备知识
(二)网络结构
(三)能量函数和概率分布
(四)对数似然函数
(五)梯度计算公式
(六)对比散度算法
(七)RBM 训练算法
(八)RBM 的评估
作者: peghoty
出处: http://blog.csdn.net/peghoty/article/details/9079973
欢迎转载/分享, 但请务必声明文章出处.
10:24 2086人阅读 评论(10) 收藏 举报
Deep
LearningYusuke
Sugomori逻辑回归RBMDBN
最近开始在学习 Deep Learning 的基础知识,找了些文献来读,觉得有些晦涩。目前对于 DBN 的算法框架已经有个大概了解,但具体实现细节还不是太清楚,在网上搜到了日本学者 Yusuke Sugomori 在
Github 上的一个 deeplearning 项目,认真读了其 C 语言的版本,感觉收获蛮大,特将程序翻译成数学描述,希望对正在读或者将要读这个代码的朋友有些帮助。
注意,本文只是客观翻译程序,并作一些相关的评注,个人觉得这个程序与目前流行的 DBN 算法有较大差别,不能直接用来实战。学习 Deep Learning 的朋友可将其作为入门,特别是用来理解 Contrastive Divergence 和 Gibbs Sampling 比较有帮助。
补充:
文中描述的算法在框架上问题不大,但在一些细节处理上可能有些问题,例如,关于 RBM 中的参数刷新公式, fine-tuning 过程中并没有将之前的层联级微调等,望读者知晓。另外,关于 RBM 算法,我后来又花了点功夫学习了一下,并整理成系列博客(见下面的链接),供大家参考。
目录链接
(一)预备知识
(二)网络结构
(三)能量函数和概率分布
(四)对数似然函数
(五)梯度计算公式
(六)对比散度算法
(七)RBM 训练算法
(八)RBM 的评估
作者: peghoty
出处: http://blog.csdn.net/peghoty/article/details/9079973
欢迎转载/分享, 但请务必声明文章出处.
相关文章推荐
- Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
- Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
- Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
- Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
- Yusuke Sugomori 的 C 语言 Deep Learning 程序解读
- 从程序语言排行榜来解读IT及Web的发展
- 程序语言的奥妙 算法解读 日本人编著,自己学习笔记
- 从程序语言排行榜来解读IT及Web的发展
- DOTNET程序多国语言生成器
- 你该学什么程序语言?[转贴:蔡学墉]
- 汇编语言编写方法及程序分析
- 用 XML 设计一个你自己的程序语言
- TIOBE2月最新程序语言使用排行榜
- 在 MFC SDI 程序中实现多语言程序界面
- UTF-8到acsii的转换(让自己的C++程序支持多语言)
- 本周着力完成一个服务器控制程序的中文语言包
- 你该学什么程序语言?[转贴:蔡学墉]
- 程序语言中的方言[]
- 用winrar的脚本语言,实现程序的自动打包
- 利用汇编语言开发盗QQ密码程序