论文部分内容阅读
生成式对抗网络(Generative Adversarial Networks,GAN)现如今已经成为人工智能领域最热门的研究方向之一。GAN的基本思想来源于博弈论中的零和博弈,通过生成器和判别器相互博弈来对抗训练。目前GAN已经成功地应用于计算机视觉,并且在语音和自然语言处理等领域有所突破,此外在计算机病毒、围棋比赛等任务中GAN也发挥了重要的作用。但是目前GAN还处于一个快速发展的阶段,存在着训练不稳定、模式坍塌、图像生成不够真实等问题。本文针对GAN的问题研究提出两个新的模型算法:(1)基于类条件分布矩匹配的生成式对抗网络模型(CMMD nets)。本文提出基于Maximum Mean Discrepancy(MMD)的条件生成式对抗网络模型,用于衡量同一类别下真实样本和生成样本的概率分布差异。在算法中,因为无法直接采用参数估计的方式求得条件概率密度函数,我们转而寻求类条件分布的矩匹配,扩展MMD准则来度量类条件分布间距离。同时本文将MMD直接作用于特征空间,相比GMMN,CMMD nets不需要较大的批次,从而减少了计算开销,并且包含了原始GAN的对抗思想。相较于其它的基于MMD的算法,CMMD nets不需要额外采用变分自编码器(VAE),从而减少计算与网络复杂度。大量实验分析结果验证了本文提出的方法能够生成令人满意的带标签样本。(2)基于联合分布矩匹配的生成式对抗网络模型(JDMM GAN)。条件GANs通常只是最小化真实样本和生成样本的边缘分布或者条件分布差异,并不能保证它们的边缘分布距离和条件分布距离能同时显式减小。本文提出了基于联合分布矩匹配的生成式对抗网络,由于对数据分布的概率密度进行参数估计比较困难,我们寻求边缘分布和条件分布的矩匹配,本文采用MMD来度量概率分布间的距离。JDMM GAN能同时最小化边缘分布间和类条件分布间距离,并且它可以作为统一的算法框架,既可以作用于无监督任务也能作用于半监督的任务。