Chapter_1_神经网络概述

1 计算智能(CI: Computational Intelligence) 使用计算科学和技术拟人的智能的结构和行为： 信息的获取、传递、处理、再生和利用能力 主要包括：性与近似性。模拟人类推理的不精确—模糊逻辑；导出优化算法模拟智能的生成过程—算法）进化算法（特别，遗传的结构与工作原理；模拟大脑（智能系统）—神经网络)(  All of the nature-inspired methods. Remark CI: Nature-inspired method(s) + real-world (training) data = Computational Intelligence. 参考书： 1. M. T. Hagan, H. B. Demuth, and M. H. Beale, 神经网络设计，机械工业出版社，2002. 2. S. Kumar, Neural Networks, 清华大学出版社，2006. 3. 许东等，基于 MATLAB6.x的系统分析与设计——神经网络，西安电子科技大学出版社，2002. 4. S. Haykin, Neural Networks--- A Comprehensive Foundation, Prentice Hall Inc., 1999. 5. S. Theodoridis and K. Koutroumbas, Pattern Recognition, 机械工业出版社，2006. Chapter 1 神经网络概述 1940’s 初：开始，人工智能；1960’s 末：低潮，进展不大； 1980’s 中：重新，热潮，几乎所有工程领域；2000’s：下坡 两个标志性的成果：  多层前向网络的BP 算法(1986)：逼近任意函数  Hopfield 网络(1984)：TSP 问题，联想记忆 一、人工神经网络 (Artificial Neural Networks) 1.什么是人工神经网络？ 2 人工神经网络是人类中枢神经系统的简化模型，是由大量简单的并行分布的计算单元（神经元，neurons）互相连接而成的自适应非线性系统。 2. 模拟人脑在两个方面 (1) 通过学习获取知识 (learning, training)； (2) 知识存储在神经元及其之间的连接上。 二、神经元模型 1. 生物神经元 （人类大脑神经元） (1) 什么是生物神经元 生物神经元是一个小细胞，具有如下功能： (a) 接收来自感官或其它细胞的输入； (b) 产生电输出响应，并传给其它神经元。 人脑包含：121010~10神经元 连接）10 （每个神经元： ，90% 互连：)外部信息、决策( 10% 输出： 输入，4 (2) 基本结构 三个主要成分：细胞体、轴突、树突 Fig 1. 生物神经元简图 (a) 树突 （接收信息） 突触(连接强度) 树突：Input (接收信息) 细胞体 轴突：Output (传输信息) 3 接收来自其它神经元的电信号，并传给细胞...