卷积网络资料汇总卷积神经网络(ConvolutionalNeuralNetwork)是一种专门用于处理类似网格结构的数据的神经网络。它被广泛地应用到图像识别、语音识别等各种场合,很多基于深度学习的图像识别方法,都是以 CNN 为基础。一、卷积运算通常情况下,卷积是对两个实变函数的一种数学运算。卷积操作也可以达到加权平均的目的。在机器学习的应用中,可以使用卷积操作对有限的数组元素进行处理,该运算也是卷积神经网络的重要操作。1.1卷积运算的原因对于普通的前向反馈网络,当输入为一张图片时,假设大小为 1000*1000*3,且第一层隐藏层的神经元为 1000 个时,此时的权值参数量将为 30 亿个,这将对计算机的内存产生巨大的挑战,并且在计算过程中,将会使用太多的计算资源,需要的时间将会很大。且在图像中,附近的像素点存在一定的关系,使用普通的前向神经网络,则会忽略这种关系,由此产生多余的计算和参数。由于卷积操作涉及到多个像素点的操作,由此在处理图像的过程中,一般会使用卷积操作,从而提高图像处理的结果。1.2卷积运算的特点卷积运算一般通过三个重要的思想来改进机器学习系统:稀疏交互、参数共享、等变表示。1.2.1 稀疏交互传统的神经网络使用矩阵的乘法来建立输入和输出的连接关系,参数矩阵的每一个单独的参数都描述了一个输入单元和一个输出单元之间的交互。而稀疏交互则意味着运算核的大小远远小于输入的大小。例如,当输入的图像可能包含了成千上万的像素点时,运算核的大小可能只有几十或者上百个参数,并且可以利用这样的运算核实现对图像参数的计算。由此就实现了更少的参数、更低的计算量,以及更高的计算效率,且这种应用在机器学习的任务中,仍然能取得很好的表现。1.2.2 参数共享参数共享是指在一个模型的多个函数中使用相同的参数。在传统的神经网络中,当计算一层的输出时,权重矩阵的每一个元素只是用一次,当它乘以输入的一个元素后就再也不会用到了。而在卷积神经网络中,运算核的每一个元素都作用在输入的每一个位置上,并不是只运算一次。卷积运算中的参数共享保证了我们只需要学习一个参数集合,而不是对每一个位置都需要学习一个单独的参数集合。这虽然没有改变前向传播的运行时间,但是参数共享将模型的存储需求进一步降低。1.2.3 等变表示对于卷积,参数共享的特殊形式使得神经网络层具有对平移等变的性质。如果一个函数满足输入改变,输出也以相同的方式改变这一性质,那么它可以被称为是等变的。当我...