GAN网络综述VIP免费

生成式对抗网络综述报告人：申亚博时间：2017年12月7日CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的概念简介及提出背景概念简介提出背景GAN(GenerativeAdversarialNetworks)，中文翻译为生成式对抗网络，是IanGoodfellow等在2014年提出的一种生成式模型.GAN的基本思想源自博弈论的二人零和博弈,由一个生成器和一个判别器构成,通过对抗学习的方式来训练.目的是估测数据样本的潜在分布并生成新的数据样本.概念简介提出背景GAN的概念简介及提出背景2001年，TonyJebara在毕业论文中以最大熵形式将判别模型与生成模型结合起来联合学习2007年，ZhuowenTu提出将基于boosting分类器的判别模型与基于采样的生成模型相结合，来产生出服从真实分布的样本。2012年，JunZhu将最大间隔机制与贝叶斯模型相结合进行产生式模型的学习。2014年，IanGoodfellow等人提出生成式对抗网络，迎合了大数据需求和深度学习热潮，给出了一个大的理论框架及理论收敛性分析。起源发展概念简介提出背景（一）人工智能的热潮（二）生成式模型的积累（三）神经网络的深化（四）对抗思想的成功GAN的概念简介及提出背景CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的理论与实现模型GAN的基本原理GAN的学习方法GAN的衍生模型GAN的基本原理GAN的核心思想来源于博弈论的纳什均衡。它设定参与游戏双方分别为一个生成器(Generator)和一个判别器(Discriminator)，生成器的目的是尽量去学习真实的数据分布，而判别器的目的是尽量正确判别输入数据是来自真实数据还是来自生成器；为了取得游戏胜利，这两个游戏参与者需要不断优化，各自提高自己的生成能力和判别能力，这个学习优化过程就是寻找二者之间的一个纳什均衡。GAN的理论与实现模型GAN的基本原理GAN的理论与实现模型图1GAN网络基本原理图GAN的基本原理GAN的理论与实现模型图2常见的几种神经网络图3生成网络模拟GAN的基本原理GAN的理论与实现模型图4GAN网络形象化流程GAN的学习方法GAN的理论与实现模型首先,在给定生成器G的情况下,我们考虑最优化判别器D.GAN的学习方法GAN的理论与实现模型总之,对于GAN的学习过程,我们需要训练模型D来最大化判别数据来源于真实数据或者伪数据分布G(z)的准确率,同时,我们需要训练模型G来最小化log(1−D(G(z))).这里可以采用交替优化的方法:先固定生成器G,优化判别器D,使得D的判别准确率最大化;然后固定判别器D,优化生成器G,使得D的判别准确率最小化.当且仅当时达到全局最优解.训练GAN时,同一轮参数更新中,一般对D的参数更新k次再对G的参数更新1次.GAN的衍生模型GAN的理论与实现模型CGANEBGANInfoGANDCGANImprovedGANWGAN......GAN的衍生模型GAN的理论与实现模型（1）CGAN--条件生成对抗网络，为了防止训练崩塌将前置条件加入输入数据。图5条件生成对抗网络的结构（2）DCGAN--深度卷积生成对抗网络，提出了能稳定训练的网络结构，更易于工程实现。图6深度卷积生成对抗网络的结构GAN的衍生模型GAN的理论与实现模型（3）InfoGAN--信息最大化生成对抗网络，通过隐变量控制语义变化。图7InfoGAN的结构（4）WGAN--定义了明确的损失函数，对G&D的距离给出了数学定义，较好地解决了训练坍塌问题。图8WGAN的结构GAN的衍生模型GAN的理论与实现模型（6）ImprovedGAN--改进生成式对抗网络，提出了使模型训练稳定的五条经验。a.特征匹配（featurematching）b.最小批量判断（minibatchdiscrimination）c.历史平均（historicalaveraging）d.单边标签平滑（one-sidedlabelsmoothing）e.虚拟批量正则（virtualbatchnormalization）（5）EBGAN--基于能量的生成式对抗网络，从能量模型角度给出了解释。图9EBGAN的结构CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的应用图像和视觉领域语音和语言领域其他领域作为一个具有“无限”生成能力的模型,GAN的直接应用就是建模,生成与真实数据分布一致的数据样本，GAN可以用于解决标注数据不足时的学习问题。其可以应用于...