多层感知器2018
2内容壹贰叁肆什么是感知器多层感知器感知器的功能感知器的学习什么是感知器壹壹什么是感知器
人的视觉是重要的感观来源,人接受全部信息量的80-85%来源于视觉
感知器是模拟人的视觉,接受环境信息,并由神经冲动进行信息传递的神经网络
感知器分单层与多层,是具有学习能力的神经网络
壹什么是感知器
壹什么是感知器
常见的激活函数壹什么是感知器
常见的激活函数ReLU及变体近年来,ReLU变的越来越受欢迎
数学表达式如下:f(x)=max(0,x)多层感知器贰贰多层感知器在输入与输出层之间加上隐含层,从而构成多层感知器(MultilayerPerceptrons,MLP)
这种由输入层、隐含层(一层或者多层)和输出层构成的神经网络,称为多层前向神经网络
贰多层感知器学习算法反向传播算法(Back-Propagationalgorithm,BP)BP学习过程:工作信号正向传播:输入信号从输入层经隐单元,传向输出层,在输出端产生输出信号,这是工作信号的正向传播
在信号的向前传递过程中网络的权值是固定不变的,每一层神经元的状态只影响下一层神经元的状态
如果在输出层不能得到期望的输出,则转入误差信号反向传播
误差信号反向传播:网络的实际输出与期望输出之间差值即为误差信号,误差信号由输出端开始逐层向后传播,这是误差信号的反向传播
在误差信号反向传播的过程中,网络的权值由误差反馈进行调节
通过权值的不断修正使网络的实际输出更接近期望输出
贰多层感知器感知器的功能叁叁感知器的功能目的:将外部输入x1,x2,…,xm分为两类l1和l2
判别边界:感知器的学习肆肆感知器的学习单层感知器假定神经元的突触权值wij是可变的,以便学习;单层感知器对权值向量wij的学习算法是基于迭代的思想,通常是采用纠错学习规则的学习算法
将偏差b作为神经元突触权值向量的第一个分量