智能故信息处理技术 （The intelligent information process technology ） 第1章 人工神经网络的基础知识 人类关于认知的探索由来已久。早在公元前400年左右，希腊哲学家柏拉图（Plato）和亚里士多德（Aristotle）等就曾对人类认知的性质和起源进行过思考，并发表了有关记忆和思维的论述。在当时及以后很长的一段时间内，由于科学技术发展水平所限，人们对人脑的认识主要停留在观察和猜测的基础之上，缺乏有关人脑内部及其工作原理的科学依据。直到20世纪40年代，随着神经解剖学、神经生理学以及神经元的电生理过程等研究取得突破性进展，人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识，在此基本认识的基础上，借助数学和物理方法从信息处理的角度对人脑神经网络进行抽象，并建立简化的模型，称为人工神经网络ANN（Artificial Neural Network），为叙述方便，将人工神经网络直接称为神经网络（以下同）。 目前，关于神经网络的定义尚不统一，按美国神经网络学家Hecht Nielsen的观点，神经网络的定义是：神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机系统，该系统靠其状态对外部输入信息的动态响应来处理信息。综合神经网络的来源、特点和各种解释，它可简单地表述为：人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统[1]。 作为一门活跃的边缘性交叉学科，神经网络的研究与应用正成为人工智能、认识科学、神经生理学、非线性动力学等相关专业的热点。近十几年来，针对神经网络的学术研究大量涌现，上百种神经网络模型被提出，其应用涉及模式识别、联想记忆、信号处理、自动控制、组合优化、故障诊断及计算机视觉等众多方面，取得了令人瞩目的进展。 1 .1 人工神经网络发展的历史及现状 1.1.1 人工神经网络研究阶段的划分 纵观神经网络的发展历史，其发展过程大致可以概括为如下 3 个阶段。 1 ．第一阶段——启蒙时期 这是神经网络理论研究的奠基阶段。1943年，神经生物学家McCulloch W.S.和青年数学家Pitts W.A.合作，提出了第一个人工神经元模型，并在此基础上抽象出神经元的数理模型[2]，开创了人工神经网络的研究，以McCulloch W.S.和Pitts W.A.提出人工神经元的数理模型（即神经元的阈值模型，简称 MP模型）为标志，神经网络拉开了研究的序幕。为了模拟起连接作用的突触的可塑性，神经生物学家Hebb于1949年提出了连接权值强化的Hebb法则[3]。这一法则告诉...
