反向传播BP算法

[1]Deep
learning简介


[2]Deep
Learning训练过程


[3]Deep
Learning模型之：CNN卷积神经网络推导和实现

[4]Deep
Learning模型之：CNN的反向求导及练习

[5]Deep Learning模型之：CNN卷积神经网络（一）

[6]Deep Learning模型之：CNN卷积神经网络（二）

[7]Deep Learning模型之：CNN卷积神经网络（三）

一. 网络结构

 经典的BP网络，其具体结构如下：

   




 请特别注意上面这个图的一些符号说明如下：

二.  学习算法

     1. 信号的前向传递过程
          


              请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。

   2.   误差反向传导过程
         
         


 

三.  小结

     
       信号的前向传递和误差反向传递过程都可以用递归公式描述。其实，就几个公式而已，把相关的几个重要公式再次总结如下：
      




转自：http://blog.csdn.net/celerychen2009/article/details/8964753