深度学习综述报时间:2016
深度学习是什么
深度学习的概念源于人工神经网络的研究
含多隐层的多层感知器就是一种深度学习结构
深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示
[1]深度学习是机器学习领域中对模式(声音、图像等等)进行建模的一种方法,它也是一种基于统计的概率模型
在对各种模式进行建模之后,便可以对各种模式进行识别了,例如待建模的模式是声音的话,那么这种识别便可以理解为语音识别(RNNHinton[3]2013)
概念入门•深度学习1
神经网络的发展①神经网络(上世纪五六十年代)②深度神经网络(Hinton[2]2006)2
卷积神经网络(AlexNet[1]2021)3
基于深度学习的目标检测进展一、神经网络的发展1
感知机的出现①神经网络技术起源于上世纪五、六十年代,当时叫感知机(perceptron),拥有输入层、输出层和一个隐含层
输入的特征向量通过隐含层变换达到输出层,在输出层得到分类结果
早期感知机对于计算稍微复杂的函数其计算力显得无能为力
多层感知机多层感知机可以摆脱早期离散传输函数的束缚,使用sigmoid或tanh等连续函数模拟神经元对激励的响应,在训练算法上则使用反向传播BP算法
对,这就是我们现在所说的神经网络(NN)
构成:由“神经元”构成2
输入、偏置节点、激活函数、输出这个“神经元”是一个以及截距为输入值的运算单元,其输出为,其中函数为激活函数前向参数计算:1
反向传播①损失函数:②我们的目标是针对参数W和b,来求函数J(W,b)最小值2
梯度下降法中每一次迭代都按照如下公式对参数是学习率二、卷积神经网络•1、卷积神经网络二、卷积神经网络•卷积操作AlexNet[1]二、卷积神经网络•与传统视觉算法区别:二、卷积神经网络二、卷积神经网络主要应用:1
图像分类三、基于