4人工神经网络的数学模型

人工神经网络的数学模型 一 概述 人工神经网络根据其模型建立的原理，可以分为数学模型和认知模型。数学模型主要是在神经元生理特性的基础上，通过抽象用数学表达式描述。而认知模型主要是根据神经系统信息处理的过程建立的。本章着重讨论人工神经网络的数学模型，包括前向网络、反馈网络、随机网络等。下章将讨论人工神经网络的认知模型。 1 . 前向网络 网络中各神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示，这种神经网络称为前向网络。前向网络中节点分为两类，输入节点和计算节点。每个输入节点可以有任意个输入，但只有一个输出。而输出可以耦合到任意多个其他节点的输入。前向网络通常可以分为不同的层，第i 层的输入仅与第1i层的输出连接。一般认为输入节点为第一层，具有一层计算节点的网络实际上是一个两层网络。由于输入节点和输出节点可以和外界连接，直接接受环境的影响，所以称为可见层。而其他中间层则称为隐层（hidden lay er）。 前向网络的工作原理是映射，所以是一种映射网络。映射网络是有界映射的近似实现，即函数mnRRAf:，利用映射作用的训练标本 ),(11 yx，,),(22 yx，,),(nnyx，其中)(kkxFy ，实现从 n 维欧几里德空间有界子集 A 到 m 维欧几里德空间有界子集][ Af的映射。映射网络基本上有两类：基于特征的网络和基于原型的网络。基于特征的网络实现函数的输入输出关系，这种关系可以用一种通用的、可修改的函数形式表示。反传网络是属于特征网络。 基于原型的人工神经网络是通过创建一组具体的输入输出实例),(11 vw，,),(22 vw，),(nn vw，统计的表示映射作用。然后，将未知的新向量 x与网络中的存储的向量iw 进行比较，把比较的结果与输入向量iu 组合，产生映射作用。对传网络（cou nter-propagation）是原型网络的例子。 2 . 反馈网络 1982－1986 年，美国物理学家霍普菲尔特（Hopfield）对反馈网络进行了研究，并可以应用解决实际问题，引起人们的兴趣。一般讲这种单层反馈网络称为霍普菲尔特（Hopfield）网络。 反馈网络可用一个无向的完备图来表示，为简单起见，除另外说明外，我们仍假定各节点是线性阈值单元，网络唯一的由权值矩阵W 和阈值 来确定，并且 1．W 是对称的，对角线元素为零的nn 矩阵（ n 为网络中的节点数），节点i 与节点 j间连线上的权值jiijWW。 2． 是阈值，i 是单元i 的阈值...