反向传播BP算法

一. 网络结构

 经典的BP网络，其具体结构如下：

   




 请特别注意上面这个图的一些符号说明如下：

二.  学习算法

     1. 信号的前向传递过程

          


              请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。

   2.   误差反向传导过程

         

         


 

三.  小结

     

       信号的前向传递和误差反向传递过程都可以用递归公式描述。其实，就几个公式而已，把相关的几个重要公式再次总结如下：

      




转自：http://blog.csdn.net/celerychen2009/article/details/8964753