RBM 与 DBN 学习笔记
2016-06-22 22:21
411 查看
2006 年,Hinton 等人基于受限波尔兹曼机(Re- stricted Boltzmann Machines, RBMs)提出的深度信念 网络(Deep Belief Networks, DBNs)是深度学习理论在 机器学习领域打响的第一枪,并成为了其后至今深度学 习算法的主要框架。在该算法中,DBN 由若干层 RBM 级联而成,得益于对比散度(Contrastive Divergence, CD)的高效近似算法,DBN 绕过了多隐层神经网络整 体训练的难题,将其简化为多个 RBM 的训练问题,这 样使得多层神经网络的识别效果和计算性能得到显著提 升。理论和实践经验也表明,DBN 能够较好的提取出训 练数据中的层次化结构性特征,为机器学习中数据特征 选取提供了新的思路。本文主要梳理 RBM 和 DBN 的 算法原理和实现过程,并给出示例程序。
笔记全文见http://pan.baidu.com/s/1hspszfm。需要说明的是,这篇笔记没有写完,因近来接连收到询问这篇笔记的邮件,才想起这篇差点被我遗忘的两年前写的文稿。
笔记全文见http://pan.baidu.com/s/1hspszfm。需要说明的是,这篇笔记没有写完,因近来接连收到询问这篇笔记的邮件,才想起这篇差点被我遗忘的两年前写的文稿。
相关文章推荐
- c#服务器管理程序
- Android控件(1)--ActionBarDrawerToggle、DrawerLayout、ActionBar 使用说明
- RecyclerView+ImageLoader图片列表的加载与展示【从listview加载图片性能优化引出的解决方法】
- 【转】自定义UITableViewCell控件阻挡回调不到didSelectRowAtIndexPath的解决办法
- Pearson相关系数公式的四种形式及Python代码实现
- 【63】关系数据库常用的sql语句总结
- 【63】关系数据库常用的sql语句总结
- 【63】关系数据库常用的sql语句总结
- 【转】iOS 通过xib自定义UITableViewCell【原创】
- [Python] from scipy import sparse 报 DLL load failed:找不到指定模块错误
- 父子进程执行流(题目解析)
- Eclipse console 中文乱码解决
- 二进制转换
- android开发教程之listview使用方法
- Java之IO
- vmware虚拟机从A点恢复到之前的snapshot点之后,A点的数据还可以拿到
- 链表学习(C语言实现)
- 《人月神话》阅读笔记03
- 人月神话阅读笔记08
- iOS开发多线程篇—线程的状态