基于 AutoEncoder 原理和 L_BFGS优化算法实现手写数字识别 目录 1 神经网络基本概念 ..................................................................................................... 3 1.1 概述 ..................................................................................................................... 3 1.2 神经网络模型 .................................................................................................... 4 2 AutoEncoder 原理 ...................................................................................................... 5 2.1 反向传播算法 .................................................................................................... 5 2.2 Softmax 回归 ...................................................................................................... 7 2.3 Stacked AutoEncoder .......................................................................................... 8 2.4 微调过程 ............................................................................................................ 9 2.5 Sparse AutoEncoder ............................................................................................ 9 2.6 Denoise AutoEncoder ........................................................................................ 10 3 L_BFGS 算法 ........................................................................................................... 11 3.1 基本原理 ........................................................................................................... 11 3.2 算法流程 ........................................................................................................... 16 3.3 算法收敛性分析： .......................................................................................... 19 4 基于 AutoEncoder 的手写数字识别........................................................................ 19 4.1 MNIST 数据库 ......................................
