生成式对抗网络GenerativeAdversarialNetwork---不要怂,就是GAN----LOGO-June1,2018早期理论积累GAN的理论及衍生模型GAN的应用介绍早期理论积累生成式对抗网络GAN起源于博弈论中的二人零和博弈(two-playergame)博弈方a:生成式模型(generativemodel)博弈方b:判别式模型(discriminativemodel)生成模型G:捕捉样本数据的分布,用服从某一分不(均匀分布,高斯分布)的噪声z生成一个类似真实训练数据的样本,追求效果是越像真实的越好
判别模型D:是一个二分类器,估计一个样本来自训练数据(而非生成数据)的概率,如果样本来自真实的训练数据,D输出大概率,否则,D输出小概率
生成式对抗网络---博弈论博弈论-纳什均衡假设猪圈里有一头大猪、一头小猪
猪圈的一头有猪食槽(两猪均在食槽端),另一头安装着控制猪食供应的按钮,按一下按钮会有10个单位的猪食进槽,但是在去往食槽的路上会有两个单位猪食的体能消耗,若大猪先到槽边,大小猪吃到食物的收益比是9∶1;同时行动(去按按钮),收益比是7∶3;小猪先到槽边,收益比是6∶4
那么,在两头猪都有智慧的前提下,最终结果是小猪选择等待
生成式对抗网络---博弈论囚徒困境智猪博弈机器学习方法可以分为生成方法和判别方法,所学到的模型分别称为生成式模型和判别式模型
生成方法通过观测数据学习样本与标签的联合概率分布P(X,Y),训练好的模型能够生成符合样本分布的新数据,它可以用于有监督学习和无监督学习
判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型
生成方法和判别方法深度产生式模型的深度信念网络(DBN)
DBN是由一组受限玻尔兹曼机(RBMs)堆叠而成的深度生成式网络,它的核心部分是贪婪的、逐层学习的算法,这种算法可以最优化