精华内容
下载资源
问答
  • 基于生成对抗模型的图像修复算法研究-硕士毕业论文
  • 竞争性对抗模型_竞争者分析.pptx
  • GAN 生成对抗模型详解

    千次阅读 2019-05-23 19:53:35
    Goodfellow等人提出来的GAN是通过对抗过程估计生成模型的新框架。在这种框架下,我们需要同时训练两个模型,即一个能捕获数据分布的生成模型G和一个能估计数据来源于真实样本概率的判别模型D。生成器G的训练过程是...

    Goodfellow 等人提出来的 GAN 是通过对抗过程估计生成模型的新框架。在这种框架下,我们需要同时训练两个模型,即一个能捕获数据分布的生成模型 G 和一个能估计数据来源于真实样本概率的判别模型 D。生成器 G 的训练过程是最大化判别器犯错误的概率,即判别器误以为数据是真实样本而不是生成器生成的假样本。因此,这一框架就对应于两个参与者的极小极大博弈(minimax game)

    GAN网络如何训练?

    生成模型和判别模型可以简单的认为是不同的神经网络

     

    è¿éåå¾çæè¿°

    图片来源(https://blog.csdn.net/on2way/article/details/72773771, 侵删)

    生成模型的主要任务是:生成尽可能逼近真样本的假样本

    判别模型的主要任务是:尽可能高准确度的判别假样本

    上图叫做单独交替迭代训练,具体训练步骤如下:

    1. 训练判别模型: 
      1. 假样本(0):给一堆随机数组,就会得到一堆假的样本集;真样本(1):真实数据
      2. 就是二分类模型的训练,直接将数据喂入判别模型即可
    2. 训练生成模型:
      1. 生成模型生成假样本,但是只用生成模型自己的话没有误差反馈,也就是说没有误差来源,无法训练。所以将上一步训练好的判别模型连接在生成模型后一起训练。
      2. 如何连接?因为两个模型的输入都输同样大小的数据,比如说人脸照片,生成的照片数据就可以作为判别模型的输入。
      3. 训练数据是什么?第一步中我们产生的假样本,将其标签设置为1(就是当做真样本),注意:生成模型的数据只有这个假样本。这样才能迷惑判别器,逐渐使生成的假样本逼近真样本
      4. 训练时另外重要的一点是,我们要冻结判别模型的参数。判别模型的作用只是传递误差,而不是联合训练。(好不容易训练好的判别摸性,再重新训练不就是白训练了吗,所有不能修改判别模型的参数)
    3. 生成模型训练好之后,我们的假样本更加逼真,这时再讲这些逼真的假样本当做假样本,真实数据为真样本进行步骤1,2的训练。所有叫做单独交替迭代训练

     

    GAN的目标函数(上述的步骤使用数学表达式表达)D表示判别网络,G表示生成网络

    \min \limits_G \max \limits_D V(D,G)=E_{x \sim p_{data}(x)}[log(D(x))]+E_{z \sim p_{z}(z)}[log(1-D(G(z)))]

    拆分上述公式,先优化判别网络

    \max \limits_D V(D,G)=E_{x \sim p_{data}(x)}[log(D(x))]+E_{z \sim p_{z}(z)}[log(1-D(G(z)))]

    1. 在生成网络G的条件下优化判别网络D,D(G(Z))就是我们的假样本,一开始是随机生成的,之后是生成模型生成的。
    2. D(x)表示判断真实数据是否真实的概率,x 表示的是真实数据,所有D(x)越接近1越好
    3. G(Z)是生成的假样本,所以D(G(Z))越接近0越好

    E_{x \sim p_{data}(x)}[log(D(x))]

    其中 E 指取期望。辨别出 x 属于真实数据 data的对数损失函数。最大化这一项相当于令判别器 D 在 x 服从于 data 的概率密度时能准确地预测 D(x)=1

    E_{z \sim p_{z}(z)}[log(1-D(G(z)))]

    同理,这个式子的含义就是判别器D识别G(Z)都为0,即G(Z)没有欺骗判别器D

    优化生成模型G

    \min \limits_G V(D,G)=E_{z \sim p_{z}(z)}[log(1-D(G(z)))]

    最小化该函数,就是令D(G(Z))最大,其值越大就说明我们的假样本越逼真,判别器无法识别,因此就是一个此消彼长的过程。

     

    理解生成判别过程

    è¿éåå¾çæè¿°

    1. 蓝色虚线表示判别分布
    2. 绿色实线表示生成分布
    3. 黑色点线表示真实数据分布(图中是正态分布)

    判别分布和生成分布不断改变,最后生成分布等于真实值。这是判别器无法判别,D=1/2。个人觉得GAN的强大之处在于,可以从复杂的数据中真正学习到数据的分布规律,比如说生成模型生成人脸的过程,它从一开始的随机数据到最后判别器很难识别的假数据,生成器已经掌握了人脸数据的规律。

     

    展开全文
  • 理解对抗网络,首先要了解生成模型和判别模型。判别模型比较好理解,就像分类一样, 有一个判别界限,通过这个判别界限去区分样本。理解了生成模型和判别模型后,再来理解对抗网络就很直接了,对抗网络只是提出了一 ...
  • 基于条件流的人脸正面化生成对抗模型
  • 针对网络系统容易遭受网络病毒攻击的问题,提出一种自主免疫学习的分布式网络攻击对抗模型。该网络攻击对抗模型采用分布式网络攻击检测算法来计算数据包信任值,再通过设置信任值的检测阈值,当数据包的信任值低于...
  • genadv_tutorial 生成对抗模型教程。 请参阅。 埃里克·张 2015年12月30日 许可:BSD条款2
  • 有距离信息的编队多诱饵对抗模型及效果分析
  • #资源达人分享计划#
  • 基于代理的协同结构网络安全对抗模型,陈文斌,,针对网络安全面向复杂业务的要求,本文结合移动代理的技术,重点研究基于移动代理的协同结构网络安全对抗模型。 本文的研究目的�
  • 行业分类-物理装置-基于类标序列生成式对抗模型的文本自动生成方法.zip
  • 超分辨率生成对抗模型SRGAN

    千次阅读 2018-09-28 14:16:11
    最近想把低质量的图片还原成高质量的图片,因此又回到了single image super resolution模型。一直想找一些简单的模型把问题搞定,但试了两天效果都不好。昨天又看到了SRGAN。这篇论文早些时候看过没有特别看懂,当时...

    最近想把低质量的图片还原成高质量的图片,因此又回到了single image super resolution模型。一直想找一些简单的模型把问题搞定,但试了两天效果都不好。昨天又看到了SRGAN。这篇论文早些时候看过没有特别看懂,当时也是为了找简单的模型应用在工程上,就放过去了。昨天有时间好好看了一下。感觉还是有些收获的。

    1. 论文中提出了一个观点:用MSE(也包括了psnr)作为loss得到的超分辨率图片不符号人眼的感受,图片效果会过于平滑。而GAN能产生出更加自然、多样、符合人类感受的图片。
    2. 作者在设计loss function时使用了:content loss和adversarial loss的加权组合。Content loss是对比原始(hight resolution)图像和generator生成的图像逐个像素的mse。Adversarial loss就是一般的GAN的loss。在https://github.com/alterzero/SRGAN/blob/master/main.py实现中,作者增加了一个loss function: 原始(high resolution)图像和generator生成的图像通过VGG网络输出的mse,但是给的权重非常小(2e-6)。在https://github.com/MathiasGruber/SRGAN-Keras/blob/master/libs/srgan.py里面,作者直接使用了adversarial loss和原始(high resolution)图像和generator生成的图像通过VGG网络输出的mse。个人认为如何设计loss是SGRAN的核心。
    3. 网络结构上作者在生成网络上用了skip connection,在最后用了两个sub-pixel convolution layers来增加分辨率。在discriminator网络上使用了类似于VGG的网络结构,只是加入了batch normalization,去掉了max pooling,激活函数用的leaky relu。但是在实现的时候上面提到的两个代码和文章中的不是特别一样,可能根据实际情况做了变化。
    展开全文
  • 行业分类-物理装置-基于残差卷积生成对抗模型的低信噪比地震数据消噪方法.zip
  • 生成对抗网络模型

    2018-12-26 16:11:33
    生成对抗网络GAN网络的原理,进展,方向。综述的比较详细了
  • 本演示文档包含生成对抗网络基本原理、算法分析及衍生模型,适合对生成对抗网络感兴趣的本科生和研究生学习,特别适用于交流汇报
  • 一文读懂对抗生成网络的3种模型

    千次阅读 2019-01-07 08:01:07
      2018-12-17 14:53:28   ...基于对抗生成网络技术的在线...在GAN系列课程中分别讲解了对抗生成网络的三种模型,从Goodfellow最初提出的原始的对抗生成网络,到改进型的DC GAN,再到解决了原始GAN存在问题,...

    https://www.toutiao.com/i6635851641293636109/

     

    2018-12-17 14:53:28

    一文读懂对抗生成网络的3种模型

     

     

    基于对抗生成网络技术的在线工具edges2cats,

    可以为简笔画涂色

    前言

    在GAN系列课程中分别讲解了对抗生成网络的三种模型,从Goodfellow最初提出的原始的对抗生成网络,到改进型的DC GAN,再到解决了原始GAN存在问题,从而生成效果更好的WGAN。

    生成模型不同于分类聚类等传统的机器学习任务,要做的是从无序中生成有序,从输入的随机数出发,生成有意义的数据,例如图片,文字,时间序列等。课堂中讨论的生成模型主要应用在计算机图形学中。

     

    生成模型本身可以分成三类,一类是基于概率的,比如用传统统计非线性ICA或变分自编码器(VAE),第二类是自动化生成的,主要是使用RNN产生的图片,或者写出的诗,而GAN这一类是基于对抗性取样(adversial sample)。

     

    一、传统GAN模型

     

    GAN(Generative Adversarial Networks对抗生成网络)模型使用一组真实的图片作为输入,试图生成能够以假乱真的类似图片。方法是先由生成器随机的生成图片,之后由判别器判定图片是否为真实的。由于在所有的GAN模型,都可以分为生成器和判别器两个部分,训练的过程是先训练生成器,等到训练一定时间后再固定生成器训练判别器,这使得GAN不同与传统的机器学习的训练过程,更加不稳定,而这也是GAN模型之后的改进版要优化的部分。

     

    一文读懂对抗生成网络的3种模型

     

     

    在传统的GAN模型中,图像的处理使用的是全连接层,训练的方法是随机梯度下降,优化的目标是真实数据的概念分布与生成数据概念分布的差距。根据理论推导,在无限的训练时间,无穷的模型容量,以及可以直接修改生成器的概率分布的假设时,模型一点可以训练达到最优解。但实际中,上述的假设都不满足,这也成了之后GAN模型改进的基础。

     

     

    一文读懂对抗生成网络的3种模型

     

     

    相比VAE这样的生成模型,GAN生成的图片不会是模糊的,会有清晰的边缘,但可能会出现塌缩,即生成器生成的图像都是类似的,不具有多样性。从理论的角度来看,GAN模型提出了一种全新的生成模型的范式,不依赖马尔可夫链这样的类线性模型,可以捕捉到全局的关联,但无法显式的导出生成器的概率分布。

     

    二、改进版:DCGAN模型

     

    接下来看看GAN的改进版DCGAN(Deep Convolutional Generative Adversarial Networks 深度卷积对抗生成网络),这篇文章讲原来判别器和生成器中的全连接层的结构改为了更适合处理图像的卷积层和反卷积层,引入了批量正则化,将训练的策略改为了Adam,在像素间进行了插值,同时进行了GAN模型标配的黑科技向量运算,即通过对生成器所需的随机分布进行向量运行,控制生成的图像,例如下图所示,通过戴眼镜的男生减去不戴眼镜的男生,再加上不戴眼镜的女生,生成出戴眼镜的女生。

     

     

    一文读懂对抗生成网络的3种模型

     

     

     

    为了加速训练,DCGAN还改变了优化目标,对于判别器和生成器,逐个对于卷积层分别进行优化,同时对判别器和生成器单独使用mini batch的方式,使用一组图像进行训练,从而隐式的对缺乏多样性的生成结果予以惩罚。

     

    DCGAN还引入了一些小技巧,例如在损失函数中加入之前项的均值,例如Label smooth,将判别器判定的较小概率的值,例如0.1等价于0,从而避免了判别器的过渡训练,由于最初生成器的训练要难于判别器,Label smooth可以看成是对判别器加上了early stopping(提早停止)的正则化操作。

     

    DCGAN的另一个创新点是通过inception这样成熟的分类器去判别生成图片的质量,从而不必由人类去判定。如果模型生成的图片是类似真实图片的,那通过inception的分类器,总会被分为一类,而如果模型生成的图片是四不像,那分类生成的标签就会有较大的不确定性,即较大的相对信息熵。同时为了评价网络生成图片的多样性,DCGAN的作者提出以一个可以计量的标准,即通过比较真实图片与生成图片的差异(计算KL散度的积分)来完成。

     

    一文读懂对抗生成网络的3种模型

     

     

    DCGAN 生成器的一种架构

     

    有了新生成的数据,就可以用来做半监督学习,即交新增的生成数据当成是带标签的,从而提升训练集的数量。在做半监督学习时,需要修改分类器的损失函数,将所有生成图片看成新的一类,这里新加项类似与GAN模型待优化的函数。

     

    DCGAN生成的图片缺乏全局的统一性,可能生成的猫有头有耳朵,但是其位置是不对的,可能耳朵长到了腿上。

     

    三、WGAN模型

     

    一文读懂对抗生成网络的3种模型

     

     

     

    接着说WGAN(Wasserstein GAN)这个偏数理的模型,该文章先指出了原始GAN模型的缺陷,通过将训练的目标函数的拆分,找出其中内部相互矛盾的方向,指出了为什么GAN的训练是不稳定的。通过导入Wasserstein 距离,通过向判别器引入连续噪音,对判别器的概念分布进行钝化(smooth),同时使用模拟退火的思路,随着训练降低引入的随机性。WGAN相比DCGAN,训练的过程更为稳定,生成的图像更为清晰。

     

    四、小结

     

    总结一下,GAN是一类脱胎于监督学习的生成模型,可以用在特征提取的评价,半监督学习,也可以用在强化学习的模拟环境构建中。GAN的发展很快,例如基于GAN的风格迁移让机器具有了想象力,GAN中相互博弈的猫鼠游戏类似于找到博弈论中的纳什均衡,而这在理论上属于一个还没有解决的开放问题。

    本文为郭瑞东老师关于《深入浅出GAN-原理与应用》的学习心得

    原创: 郭瑞东 集智AI学园

    展开全文
  • 对抗机器学习模型

    千次阅读 2019-05-04 14:28:50
    训练出具有对抗性的机器学习模型,在业务系统存在着越来越重要的实际意义。 2. Attack 机器学习模型攻击要做的事情如下图所示: 假设我们有一个Network用来做动物的图像识别。我们输入一张如图所示...

    1. Attack ML Model

    随着AI时代机器学习模型在实际业务系统中愈发无处不在,模型的安全性也变得日渐重要。机器学习模型很可以会遭到恶意攻击,比较直接就能想到的如:人脸识别模型的攻击。训练出具有对抗性的机器学习模型,在业务系统存在着越来越重要的实际意义。

    2. Attack

    机器学习模型攻击要做的事情如下图所示:
    在这里插入图片描述
    假设我们有一个Network用来做动物的图像识别。我们输入一张如图所示的图片 x 0 x^0 x0,Network预测为“Tiger Cat”。机器学习模型攻击是在 x 0 x^0 x0上加上一个微小的噪音 Δ x \Delta x Δx,使得图片看起来还是一只“Tiger Cat”,但是通过Network的预测结果却是其他动物了。

    2.1 Loss function

    在这里插入图片描述
    如上图所示,如果做图像分类,损失函数为:
    在这里插入图片描述
    其中,图像输入 x 0 x^0 x0是固定的。那么攻击模型的损失函数也可用类似的方式定义出来:

    • 如果是无目标攻击(不需要使得被攻击的模型将输入预测成特定某一类)的攻击,则损失函数为:
      在这里插入图片描述
      即预测结果远离类别。其中,网络参数 θ \theta θ是固定,网络调整的是输入的 x ′ x^{'} x

    • 有目标攻击(使得被攻击的模型将输入预测成特定某一类)的攻击,则损失函数为:
      在这里插入图片描述
      即预测结果既要远离正确类别,又要接近某错误类别。

    上述两种损失函数还需要满足一定的约束,就是不能与原来的图片有太大的差异,即:
    在这里插入图片描述
    距离 d 通常的定义方式有:
    在这里插入图片描述

    2.2 Attack gradient descent

    Attack gradient descent 相当于就是有了一定限制的gradient descent。每一步在对 x x x做更新后,都要计算是否符合限制:
    在这里插入图片描述
    如果不符合,我们就把它调整为符合限制的 x x x。如何调整呢?简而言之,就是把更新后的 x t x^t xt拉到符合限制区域的最近的向量上,用它来替代 x t x^t xt

    在这里插入图片描述

    2.3 FGSM

    FGSM(fast gradient sign method) 是一种非常快捷的attack方法:只进行一次求梯度,并取其各个位上的符号作为结果 Δ x \Delta x Δx ;更新时根据 Δ x \Delta x Δx 直接加减 ε \varepsilon ε
    在这里插入图片描述
    该方法相当于使用了非常大的学习率,并且采用L-infinity距离,再把 x x x拉回到正方形的角上。

    2.4 Black box attack

    之前讲的都是白盒攻击,即模型的网络结构我们都是知道的。那么,如果一个未知结构的Black模型,该如何攻击?很神奇的是,我们只要用相同的数据训练某个自定义结构的Proxy模型,在该Proxy模型上做attack,Black模型也能被很好的attack了。下表为proxy-black attack后的正确率
    在这里插入图片描述

    2.5 More …

    3. Defense

    讲完attack,我们来讲怎么defense。

    2.1 Passive Defense

    Passive Defense 主要是思想是在给模型做层“保护罩”。

    2.1.1 Smoothing Filter

    做一层简单的平滑过滤,也能很好的防御attack:
    在这里插入图片描述

    2.1.2 Feature Squeeze

    不同压缩的特征进行预测,根据预测结果之间的距离来判定该输入是否被attack:
    在这里插入图片描述

    2.1.3 Randomization

    对输入对图片做一些随机对改变(如尺寸、填充),然后再输入到模型中:
    在这里插入图片描述

    2.2 Proactive Defense

    Proactive Defense 的主要思想是:找出漏洞,补起来。直观的去想,做法也很简单:

    • 训练数据 train出 model
    • 对每个训练数据,train出可以attack model的 新数据,并用原数据的label 作为新数据的label
    • 生成的新数据再用于训练model,填补model的漏洞

    在这里插入图片描述

    展开全文
  • 如果要把神经网络模型用到生活中,那么这个模型就要求不但能够对抗普通的噪声,还要能够对抗一些人们特别制作的噪声,也就是对抗人类恶意的攻击。 (1)正常训练的神经网络模型训练是希望预测结果与正确答案越接近...
  • 该资源包含李宏毅老师讲授GAN课程时所用的课件,共有十个PDF文件,希望对您有帮助。
  • 基于循环生成对抗网络的图像风格迁移.pdf
  • GAN生成对抗网络之生成模型

    千次阅读 2020-05-25 22:09:16
    在开始讲生成对抗网络之前,我们先看一下什么是生成模型。在概率统计理论中,生成模型是指能够在给定某些隐含参数的条件下,随机生成观测数据的模型,它给观测值和标注数据序列指定一个联合概率分布。在机器学习中,...
  • 深度学习作为人工智能技术的重要组成部分,被广泛应用于计算机视觉...尽管深度学习在图像分类和目标检测等任务中取得了较好性能,但是对抗攻击的存在对深度学习模型的安全应用构成了潜在威胁,进而影响了模型的安全性。
  • · 生成模型和生成对抗网络(GANs)是计算机视觉应用最新进展的核心。本文将介绍GANs及其不同的组件。有一些激动人心的GANs用例,快来探索! 引言 你能辨别出下列图片中的奇怪之处吗? 这幅图片呢? ...
  • 本文主要对比了现有几种典型的生成对抗网络模型及其变体:生成对抗网络(GAN)、条件生成对抗网络(CGAN)、深度卷积生成对抗网络(DCGAN)、半监督生成对抗网络(SGAN)信息生成对抗网络(InfoGAN)。同时本文系统...
  • 生成对抗网络理论模型和应用综述

    千次阅读 2018-10-23 16:28:42
     生成对抗网络GANs已经成为非监督学习中重要的方法之一,其相对于自动编码器和自回归模型等非监督学习方法具有能充分拟合数据、速度较快、生成样本更锐利等优点。  原始GANs模型通过MinMax最优化进行模型训练;...
  • # 深度学习-52:生成式对抗网络GAN(原理、模型和演进)。GAN模型演化出WGAN、WGAN GP、LS GAN、DRAGAN、BEGAN等GAN模型变体。Goodfellow认为正确使用数据的方式,先对数据集的特征信息有insight之后,再干活。在2014年...
  • Generative Adversarial Net 生成对抗模型

    千次阅读 2016-09-01 11:34:53
    生成对抗网络的提出之作。 dependencies: Pylearn2 github: http://www.github.com/goodfeli/adversarial 3. Unsupervised Representation Learning with Deep Convolutional Generative Adversarial ...
  • 以深度学习为主要代表的人工智能技术正在悄然改变人们的生产生活方式,但深度学习模型的部署也带来了一定的安全隐患.研究针对深度学习模型的攻防分析基础理论与关键技术,对深刻理解模型内在脆弱性、全面保障智能...
  • 利用python实现深度学习生成对抗样本,为任一图片加扰动并恢复原像素一、前言(一)什么是深度学习(二)什么是样本模型(三)什么是对抗样本1、对抗的目的2、谁来对抗?3、对抗的敌人是谁?4、怎么对抗?(1)...
  • 深度学习(2)——生成对抗网络

    万次阅读 2018-08-21 10:39:40
    本文提出一个通过对抗过程来预测生成模型的新框架,其中我们同时训练两个模型:一个用来捕捉数据分布的生成模型G和预测样本来自训练数据而不是G的概率的判别模型D。G的训练目的是最大化D的判别出错概率。该框架实现...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 40,332
精华内容 16,132
关键字:

对抗模型