主讲:周润景教授单位:电子信息工程学院基于GRNN网络数据分类设计目录广义神经网络简介GRNN网络结构GRNN网络理论GRNN网络应用于模式分类总结一.广义神经网络简介广义回归神经网络(GRNN,GeneralizedRegressionNeuralNetwork)是径向基神经网络的一种。GRNN具有很强的非线性影射能力和柔性网络结构以及高度的容错性和鲁棒性,适用于解决非线性问题。GRNN在逼近能力和学习速度上较RBF网络有更强的优势,网络最后收敛于样本量积聚较多的优化回归面,并且在样本数据较少时,预测效果也较好。此外,网络还可以处理不稳定的数据。因此,GRNN在信号过程、结构分析、教育产业、能源、食品科学、控制决策系统、药物设计、金融领域、生物工程等各个领域得到了广泛的应用。二.GRNN的网络结构GRNN的网络结构(1)输入层输入层神经元的数目等于学习样本中输入向量的维数,各神经元是简单的分布单元,直接将输入变量传递给模式层。(2)模式层模式层神经元数目等于学习样本的数目n,各神经元对应不同的样本,模式层神经元传递函数为niXXXXpiTii,,2,12exp2神经元i的输出为输入变量与其对应的样本X之间Euclid距离平方的指数平方的指数形式。=(X-)式中,X为网络输入变量;为第i个神经元对应的学习样本。二.GRNN的网络结构(3)求和层求和层中使用两种类型神经元进行求和。一类的计算公式为:,它对所有模式层神经元的输出进行算数求和,其模式层与各神经元的连接权值为1,传递函数为:另一类计算公式为:,它对所有模式出的神经元进行加权求和,模式层中第i个神经元与求和层第j个分子求和神经元之间的连接权值为第个输出样本中的第j个元素,二.GRNN的网络结构niiTiXXXX122expnjjDpS1212expiTinijXXXXY传递函数为:(4)输出层输出层中的神经元数目等于学习样本中输出向量的维数k,各神经元将求和层的输出相除,神经元j的输出对应估计结果的第j个元素,即二.GRNN的网络结构kjPySinnnjNJ,,2,11XYkjSSyDNjj,,2,1三.GRNN网络理论广义回归神经网络的理论基础是非线性回归分析,非独立变量Y相对于独立变量x的回归分析实际上是计算具有最大概率值的y。设随机变量x和随机变量y的联合概率密度函数为,已知x的观测值为X,则y相对与X的回归,也即条件均值为即为在输入为X的条件下,Y的预测输出。dyyXfdyyXyfXyEY),(),(/Y三.GRNN网络理论应用Parzen非参数估计,可由样本数据集估算密度函数。式中,为随机变量x和y的样本观测值;n为样本容量;p为随机变量x的维数;为高斯函数的宽度系数,在此称为光滑因子。网络的输出为Yniiiyx1,yXf,22121212exp2exp21,iniiTippYXXXXXnyXfniiTiniiTiiXXXXXXXXYXY12122exp2exp三.GRNN网络理论估计值为所有样本观测值的加权平均,每个观测值的权重因子为相应的样本与X之间Euclid距离平方的指数。当光滑因子非常大的时候,近似于所有样本因变量的均值。相反,当光滑因子趋于0的时候,和训练样本非常接近,当需要预测的点被包含在训练样本集中时,公式求出的因变量的预测值会和样本中对应的因变量非常接近,而一旦碰到样本中未能包含进去的点,有可能预测效果会非常差,这种现象说明网络的泛化能力差。当取值适中,求解预测值时,所有训练样本的因变量都被考虑了进去,与预测点距离近的样本点对应的因变量被加了更大的权。XYXYXYXY四、GRNN网络应用于模式分类以酒瓶分类三元色数据为例,希望将数据按照颜色数据所表征的特点,将数据按各自所属的类别归类。其中,前29组数据已确定类别,后30组数据待确定类别。(1)从样本数据库中获取训练数据取前29组数据作为训练样本。并将样本数据及分类结果分别存放到“.dat”文件中。(2)设置径向基函数的分布密度Spread为径向基层的分...