主讲:周润景教授单位:电子信息工程学院CPN神经网络分类法的设计目录CPN网络概述CPN网络结构CPN网络学习和工作规则CPN神经网络实例小结一.CPN概述对向传播网络(CounterPropagationNetworks)简称CPN,是Kohonen特征映射网络与Grosberg基本竞争型网络相结合,发挥各自特长的一种新型特征映射网络。1987年,RobertHecht-Nielson提出广泛地用于模式分类、函数近似、统计分析和数据压缩等领域与BP网络相比,CPN网络训练速度较快,训练时间短:BP的1%。应用面:比较窄二.CPN网络结构12Px1x2xP123Q……12My1y2yM…………WV输入层竞争层输出层图1CPN网络结构CPN网络结构如图1所示。由图可见,网络分为输入层、竞争层和输出层。输入层与竞争层构成SOM网络,竞争层与输出层构成基本竞争型网络。从整体上看,网络属于有教师型的网络,而由输入层和竞争层构成的SOM网络又是一种典型的无教师型神经网络。因此,这一网络既汲取了无教师型网络分类灵活、算法简练的优点,又采纳了有教师型网络分类精细、准确的长处,使两种不同类型的网络有机地结合起来。二.CPN网络结构CPN网络的基本思想是,由输入层至输出层,网络按照SOM学习规则产生竞争层的获胜神经元,并按这一规则调整相应的输入层至竞争层的连接权;由竞争层到输出层,网络按照基本竞争型网络学习规则,得到各输出神经元的实际输出值,并按照有教师型的误差校正方法,修正由竞争层到输出层的连接权。经过这样的反复学习,可以将任意的输入模式映射为输出模式。二.CPN网络结构三.CPN网络学习和工作规则假定输入层有N个神经元,P个连续值的输入模式为,竞争层有Q个神经元,对应的二值输出向量为,输出层有M个神经元,其连续值的输出向量为,目标输出向量为,以上。由输入层至竞争层的连接权值向量为;由竞争层到输出层的连接权值向量为。网络学习和工作规则如下所述:),,(21kQkkkbbbB),,(21kNkkkaaaA),,('''2'1kMkkkcccC),,(21kMkkkcccC),,(21jNjjjwwwW),,(21lQlllvvvVMl,,2,1Qj,,2,1pk,,2,1(1)初始化。将连接权向量和赋予区间[0,1]内的随机值。将所有的输入模式进行归一化处理:(2)将第k个输入模式提供给网络的输入层。(3)将连接权值向量按照下式进行归一化处理:(4)求竞争层中每个神经元的加权输入和:jWNiaAAaaNikikkkiki,,,2,1,)(,12jWlVkAkAjWNiwwwwwNijijijijiji,,,2,1,,12Nijikijwas1Qj,,2,1三.CPN网络学习和工作规则(5)求连接权向量中与距离最近的向量:将神经元g的输出设定为1,其余竞争层神经元的输出设定为0:(6)将连接权向量按照下式进行修正:其中,为学习率。(7)将连接权向量重新归一化,归一化算法同上。jWkAgWNijQjjikiQjgswaW1,,2,1,,2,1maxmax01jbgjgjgW))(()()1(twatwtwgikigigiNi,,2,110gW三.CPN网络学习和工作规则(8)按照下式修正竞争层到输出层的连接权向量:其中,为学习率。由步骤(5)可将上式简化为:由此可见,只需调整竞争层获胜神经元g到输出层神经元的连接权向量,,其他连接权向量保持不变。(9)求输出层各神经元的加权输入,并将其作为输出神经元的实际输出值,,同理可将其简化为(10)返回步骤(2),直到将p个输入模式全部提供给网络。(11)令t=t+1,将输入模式重新提供给网络学习,直到t=T。其中T为预先设定的学习总次数,一般取500