人工神经网络(Artificial Neural Netwroks)笔记-基本BP算法

单层的感知器并不能解决XOR问题

人工神经网络(Artificial Neural Netwroks)也因为这个问题而陷入了低潮，但是后来提出的多层感知器却让人工神经网络(Artificial Neural Netwroks)再一次high起来

BP网络是最为广泛的一种。具体的原理介绍可以通过网络得到这里只描述算法流程

基本的BP算法

1 for k=1 toL do
初始化W^(k)

2初始化精度控制参数ε

3 E=ε+1

4 while E>ε do
4.1 E=0
4.2 对S中的每个样本(Xp,Yp):
4.2.1计算出Xp对应的实际输出Op
4.2.2计算出Ep
4.2.3E=E+Ep
4.2.4 根据相应式子调整W^(L)
4.2.5 k=L-1
4.2.6while k!=0 do
4.2.6.1 根据相应的式子调整W^(k)
4.2.6.2 k=k-1

4.3E=E/2

算法流程中提到的相应式子可以使用 人工神经网络(Artificial Neural Netwroks)笔记-delta规则增量学习 的的delta规则

基础BP算法“偏爱”较后出现的样本，因此较后出现的样本对网络影响较大，如何能改进这个地方呢？