深圳讯方教学资源部1、神经网络基本概念2、搭建第一个神经网络3、深度学习神经网路搭建•Page2内容目录神经网络基本概念•Page3下图所示,为一个神经网络的基本结构
它由一个输入层,一个输出层,以及多个隐藏层构成
其中每一层都由多个神经元节点所组成
一、基本结构神经网络基本概念•Page4二、神经元节点jinijbx1ij*wsBsjjjeAsfy/1)(设激活函数如下:万能近似定理(universalapproximationtheorem)(Horniketal
,1989;Cybenko,1989)表明,一个前馈神经网络如果具有线性输出层和至少一层具有任何一种‘‘挤压’’性质的激活函数(例如logisticsigmoid激活函数)的隐藏层,只要给予网络足够数量的隐藏单元,它可以以任意的精度来近似任何从一个有限维空间到另一个有限维空间的Borel可测函数
万能近似定理意味着无论我们试图学习什么函数,只要神经网络具备有足够多的网路节点就一定能够表示这个函数
神经网络基本概念•Page5三、万能近似定理widrow-Hoff学习规则:通过沿着误差平方和快速下降方向,连续调整网络的权值和阈值
并且根据梯度下降法,权值矢量的修正正比于当前位置上对偏差的梯度
梯度下降算法背后的原理:目标函数J(θ)关于参数θ的梯度将是目标函数上升最快的方向
对于最小化优化问题,只需要将参数沿着梯度相反的方向前进一个步长神经网络基本概念•Page6四、网络训练原理一神经网络基本概念•Page7五、网络训练原理二偏差:最后一层权值偏导:iijxwbw*),(Eij倒数第二层权值偏导:kkiki*),(Exwbw21)(21),(EjnjjydbwBSfASfydjjjj)]()[()(ijnjiiijijBSASfw1