BP神经网络算法原理

BP 网络模型处理信息的基本原理是：输入信号Xi 通过中间节点（隐层点）作用于输出节点，经过非线形变换，产生输出信号Yk，网络训练的每个样本包括输入向量X 和期望输出量t，网络输出值Y 与期望输出值t 之间的偏差，通过调整输入节点与隐层节点的联接强度取值Wij 和隐层节点与输出节点之间的联接强度Tjk以及阈值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差相对应的网络参数（权值和阈值），训练即告停止。此时经过训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。 一 BP 神经网络模型 BP 网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习模型。 （1）节点输出模型 隐节点输出模型：Oj=f(∑ Wij× Xi-q j) (1) 输出节点输出模型：Yk=f(∑ Tjk× Oj-q k) (2) f-非线形作用函数；q -神经单元阈值。 （2）作用函数模型 作用函数是反映下层输入对上层节点刺激脉冲强度的函数又称刺激函数，一般取为(0,1)内连续取值Sigmoid 函数： f(x)=1/(1+e-x) （3） （3）误差计算模型 误差计算模型是反映神经网络期望输出与计算输出之间误差大小的函数： Ep=1/2×∑(tpi-Opi)2 (4) tpi- i 节点的期望输出值；Opi-i 节点计算输出值。 （4）自学习模型 神经网络的学习过程，即连接下层节点和上层节点之间的权重拒阵Wij的设定和误差修正过程。BP 网络有师学习方式-需要设定期望值和无师学习方式-只需输入模式之分。自学习模型为 △Wij(n+1)= h ×Фi×Oj+a×△Wij(n) （5） h -学习因子；Фi-输出节点i 的计算误差；Oj-输出节点j 的计算输出；a-动量因子。 二 BP 网络模型的缺陷分析及优化策略 （1）学习因子h 的优化 采用变步长法根据 输出误差大小自动调整学习因子，来 减 少 迭 代 次 数和加 快 收敛 速 度。 h =h +a×(Ep(n)- Ep(n-1))/ Ep(n) a 为调整步长，0~1 之间取值 （6） （2）隐层节点数的优化 隐 节点数的多 少 对网络性 能的影 响 较 大，当 隐节点数太 多 时，会 导致 网络学习时间过长，甚 至 不 能收 敛 ；而 当 隐节点数过小时，网络的容 错 能力差。利 用逐 步回 归 分析 法并 进 行参数的显 著 性 检 验 来 动态 删 除 一些 线形相关 的隐节点，节点删 除 标 准 ：当 由 该 节点出发 指 向下一层节点的所 有权值和阈值均落于死区（通常取±0...