BP神经网络用于函数拟合的实验一、实验目的本实验要求掌握前向型神经网络的基本工作原理及利用反向传播确定权系数的方法，并能在MATLAB仿真环境下设计相应的神经网络，实现对非线性函数的逼近与拟合,并分析影响函数拟合效果的相关因素。二、实验要求设计神经网络的基本结构与激励函数，实现对非线性函数y=sin（x）的逼近与拟合,并分析影响函数拟合效果的相关参数（包括激励函数的选择sigmoid、线性函数、权系数的初值、步长的大小、训练样本的多少等），并对比实验效果。三、实验步骤1.确定神经网络的结构本次实验采用前向型BP神经网络，神经元分层排列，每一层的神经元只接受前一层神经元的输入。输入模式经过各层的顺序变换后，得到输出层输出。各神经元之间不存在反馈。该实验神经网络含输入层和输出层两层神经元，其中输入层含六个神经元，输出层含一个神经元。输入信号传输到输入层，在输出层得到拟合结果。2.确定采用的激励函数、拟合方法选择激励函数为sigmoid的函数，因其便于求导，且值域在（0,1）之间，具有较好的收敛特性。拟合方法采用梯度下降法，该方法使试验数值沿梯度方向增加有限步长，避免了盲目搜索，提高搜索效率。3.训练流程1）初始化各参数2）开始训练3）计算误差4）计算广义误差5）调整连接权系数，直到误差小于设定值6）编写程序实现对非线性函数y=sin（x）的逼近与拟合算法流程图如图4.1所示。四、实验结果及分析通过BP网络学习逼近sin(x)函数的实验发现，不同的初值对逼近效果有较大影响。权系数初值随机选取时，多次运行程序，得到一组较好的拟合结果(见图1)，其权系数为w1=[-2.9880,-1.9267,-1.3569,-1.5064,-0.6377,-2.3899]w2=[2.0316,2.1572,-1.1427,-1.3108,-0.6328,-1.8135]，阈值yw1=[-11.3291,-4.0186,-6.6926,-7.6080,-0.5955,-2.1247]，yw2=-0.4377。1111111AM恤l图250图1固定选取初值为较好的拟合结果的权系数wl,w2及阈值ywl,yw2，改变其学习步长，发现适当步长可以使网络拟合得更好,但过小及过大的步长都会加大误差（见图2.1,图2.2，图2.3），图2.1设置的步长为0.2,最终拟合误差在0.1左右，图2.2设置的步长为0.02，最终拟合误差接近0.02，图2.3设置的步长为0.002，最终拟合误差在0.03左右。由此可见，步长在0.02时，拟合得最好，误差最低。BPmet斗0叩算法学另罔50010001500200025003000XCS*不BFmelhodry«siD^)67BP童注学习由&100150020D321D.oaD申ns匚迭代賤图2.2BPmethod送代坎数图2.3固定选取初值为较好的拟合结果的权系数wl,w2及阈值ywl,yw2,取步长为0.02,改变样本数n发现适当样本数可以使网络拟合得更好(见图3.1,图3.2,图3.3),图3.1设置的样本数为10，最终拟合误差虽然趋近于0,但通过图像我们可以直观地看出，样本数过少使BP网络拟合出的是分段函数，而不是平滑的sin(x),图3.2设置的样本数为30,最终拟合误差接近0.02，图2.3设置的样本数为300,最终拟合误差接近0.004,但是通过逼近图像可以直观看到，300的样本数拟合程度并不如30样本数的好。可见,样本数为30时，拟合得最好，误差最低。B尸method：y=sin>)7图5.2如尸即算法学习曰蜒图3.3固定选取初值为较好的拟合结果的权系数wl,w2及阈值ywl,yw2,取步长为0.02,样本数为30，改变学习次数，发现学习次数越多，BP网络拟合越好，但是达到一定程度后，因为学习要求的存在（均方差小于0.008）,学习次数对拟合性的影响便会达到饱和，增加学习次数对拟合程度影响不大（见图4.1,图4.2,图43）。图41设置的学习次数为3000，最终拟合误差接近0.02，图42设置的学习次数为30000，最终拟合误差0.02左右，图43设置的学习次数为300000，最终拟合误差还是在0.02左右。可见，学习次数为30000时，就已经足够。图4.2图4.1迭代按豔BPUJA学月I討线图4.3通过以上实验对比发现，选取初值为较好的拟合结果的权系数wl,w2及阈值ywl,yw2,取步长为0.02，样本数为30，学习次数为30000,在不改变BP网络内部结构的情况下拟合程度最好。改变BP网络结构，把第一层6个神经元改为3个神经元，权系数和阈值初值随机选取，步长0.02，样本数30，选取学习次数为3000时（如图5.1），可以发现拟合度十分差，而最大学习次数到30000时（...
