BP神经网络设计VIP免费

主讲：周润景教授单位：电子信息工程学院基于BP网络数据分类设计目录前馈神经网络简介BP网络简介BP神经网络的工作原理BP网络的特点BP网络的建立及执行BP网络应用于模式分类BP网络的其他学习算法的应用结论一.前馈神经网络简介对于很多应用，一个确定的网络计算与确定的时间行为一样重要。网络架构允许中间单元的循环结构计算依靠神经元内部激活的输出值。即使输入不变化，输出也可能不同，直到网络内的计算达到稳定状态，单元之间不仅有单方向连接的网络，而且有反方向的网络，这些相反方向的网络称为前馈网络。一.前馈神经网络简介前馈神经网络包括感知器网络和BP神经网络。感知器网络是最简单的前馈网络，主要用于模式分类，也可用在基于模式分类的学习控制和多模态控制中。感知器网络中神经元的变换函数采用的是符号函数，即输出为二值量1或1，它主要用于模式分类。BP神经网络的神经元变换函数采用S形函数时，系统的输出量将为0～1之间的连续量，它可实现从输入到输出的任意非线性映。二.BP神经网络简介BP神经网络即反向传播网络，这是由于该算法连接权的调整采用的是反向传播（BackPropagation）。在人工神经网络的实际应用中，BP网络广泛应用于函数逼近、模式识别/分类、数据压缩等，80%~90%的人工神经网络模型是采用BP网络或它的变化形式，它也是前馈网络的核心部分，体现了人工神经网络最精华的部分。三.BP神经网络的工作原理三.BP神经网络的工作原理BP神经元与其他神经元类似，不同的是BP神经元的传输函数为非线性函数，最常用的函数是和函数，有的输出层也采用线性函数（）。其输出为BP网络一般为多层神经网络。由BP神经网络构成的二层网络如图1.2所示。logsigtansigpurelinlog()asigWpb三.BP神经网络的工作原理三.BP神经网络的工作原理BP网络的信息从输入层流向输出层，因此是一种多层前馈神经网络。如果多层BP网络的输出层采用S形传输函数（如），其输出值将会限制在一个较小的范围内（0，1）；而采用线性传输函数则可以取任意值。在确定了BP网络的结构后，要通过输入和输出样本集对网络进行训练，以及对网络的阈值和权值进行学习和修正，以使网络实现给定的输入输出映射关系。logsig三.BP神经网络的工作原理BP网络的学习过程包含两个过程，即正向传播和反向传播。（1）正向传播。输入已知学习样本，通过设置的网络结构和前一次迭代的权值和阈值，从网络的第一层向后计算各神经元输出。（2）反向传播：反向传播时，对权值和阈值进行修改：从最后一层向前计算各权值和阈值对总误差的影响（梯度）,据此对各权值和阈值进行修改。以上两个过程反复交替，直到达到收敛为止三.BP神经网络的工作原理由于误差逐层往回传递，以修正层与层间的权值和阈值，所以称该算法为误差反向传播（backpropagation）算法，这种误差反传学习算法可以推广到有若干个中间层的多层网络，因此该多层网络常称之为BP网络。标准的BP算法，其权值的修正是沿着误差性能函数梯度的反方向进行的。四.BP网络的特点1.BP网络具有以下主要优点：只有有足够多的隐含层结点和隐含层，BP网络可以逼近任意的非线性映射关系BP网络的学习算法属于局部逼近的方法，因此它具有较好的泛化能力2.BP网络的主要缺点如下：收敛速度慢容易陷入局部极值点难以确定隐含层和隐含层结点的个数五.BP网络的建立及执行1．建立BP网络首先需要选择网络的层数和每层的结点数。网络输入层和输出层的结点个数与输入变量个数及输出变量个数对应。隐含层结点的选择应遵循以下原则：尽量选取较少的隐含层结点，使网络尽量简单。一种方法是先设置较少结点，对网络进行训练，并测试网络的逼近能力，然后逐渐增加结点数，直到测试的误差不再有明显的较小为止；另一种方法是先设置较多的结点，再对网络进行训练，从而得到一个适合规模的网络结构。一般采用单隐层的BP网络就可以实现较好的训练效果。五.BP网络的建立及执行2．确定网络的初始权值BP网络的各层初始权值一般选取一组较小的非零随机数。为了避免出现局部极值问题，可选取多组初始权值，最后选用最好的一种。3．产生训练样本建立样本数据...