概况（续）

1.Real Samples可看作满足分布Z的采样集。

2.GAN的目标是学习分布Z。因此，虽然GAN和RL都是无监督学习，但前者需要Real Samples，而后者可能只需要一个规则，例如AlphaZero。换句话说，GAN的监督信号隐藏在样本中，而不是标签或者规则中。

3.使用G网络将noise变成fake_data。

4.用fake_data和Real Samples共同训练D网络，分别可得到Lfake和Lreal。使用公式3计算总Loss：L。

5.固定D网络参数，使用公式4训练网络D(G)中G的参数。

Lipschitz约束

继续思考一下，我们会发现问题还没完。我们目前还没有对D做约束，不难发现，无约束的话Loss基本上会直接跑到负无穷去了～

最简单的方案就是采用Lipschitz约束：

‖D(y,θ)−D(y′,θ)‖≤C‖y−y′‖

也可写作：

‖∂D(y,Θ)∂y‖≤C

KL散度和JS散度由于不是距离，数学特性并不够好。

如上图所示，从左到右，PG和Pdata的分布是越来越接近，然而前两个的JS散度居然是一样的。

究其原因在于：

1.对于两个没有交集的分布，它们的JS散度为log⁡2。然而没有交集，并不意味着在空间中距离遥远。

2.采样总是有限的，即便是有交集的分布，其采样也未必有交集。

显然，在这种情况下，JS散度是没有区分度的，梯度也就不存在了。

因此，Martín Arjovsky于2017年1月，提出了Wasserstein GAN。

其中的一项改进就是使用Wasserstein距离替代KL散度和JS散度。Wasserstein距离的定义参看《机器学习（二十七）》。

WGAN极大程度的改善了GAN训练困难的问题，成为当前GAN研究的主流。

《Wasserstein GAN》

此外，还有使用最小二乘代替JS散度的GAN——LSGAN。

https://zhuanlan.zhihu.com/p/25071913

令人拍案叫绝的Wasserstein GAN

https://zhuanlan.zhihu.com/p/25204020

条条大路通罗马LS-GAN：把GAN建立在Lipschitz密度上

https://mp.weixin.qq.com/s/UO0pNLcwYN5tE5x_4azVJA

LSGAN：最小二乘生成对抗网络

https://zhuanlan.zhihu.com/p/65002974

《Towards Principled Methods for Training GAN》阅读笔记

https://mp.weixin.qq.com/s/cBj6n8BlqLjt8M8N4Tc5qQ

详解对偶与WGAN

1.GAN的目的是在高维非凸的参数空间中找到纳什均衡点（Nash equilibrium），GAN的纳什均衡点是一个鞍点。而SGD只会找到局部极小值，所以GAN中的优化器不常用SGD。

纳什均衡的相关概念参见《强化学习（十）》。

https://mp.weixin.qq.com/s/xa3F3kCprE6DEQclas4umg

GAN的数学原理

http://www.jianshu.com/p/e2d2d7cbbe49

50行代码实现GAN

https://mp.weixin.qq.com/s/pgWysIGObceGVrxs85kyew

白话生成对抗网络GAN，50行代码玩转GAN模型！

https://mp.weixin.qq.com/s/YnOF9CCUFvtaiTY8HXYOuw

深入浅出：GAN原理与应用入门介绍

http://blog.csdn.net/u011534057/article/category/6396518

GAN系列blog

https://mp.weixin.qq.com/s/4CypEZscTfmUzOk-p_rZog

生成对抗网络初学入门：一文读懂GAN的基本原理

http://mp.weixin.qq.com/s/bzwG0QxnP2drqS4RwcZlBg

微软详解：到底什么是生成式对抗网络GAN？

https://mp.weixin.qq.com/s/TIgRVbnZYtrGUCDNLcL1uw

GAN的入门与实践

https://mp.weixin.qq.com/s/er-VG1P8iNIcQew2gXZqGw

一文读懂生成对抗网络

https://mp.weixin.qq.com/s/BNWPTPl_vowAlQUQ7__wvQ

有三说GANs

https://zhuanlan.zhihu.com/p/24897387

GAN的基本原理、应用和走向

https://mp.weixin.qq.com/s/YUMIL-f019vKpQ84mKS-8g

这篇TensorFlow实例教程文章告诉你GANs为何引爆机器学习？

https://zhuanlan.zhihu.com/p/27012520

从头开始GAN

https://mp.weixin.qq.com/s/uyn41vKKoptXPZXBP2vVDQ

生成对抗网络（GAN）之MNIST数据生成

http://mp.weixin.qq.com/s/21CN4hAA6p7ZjWsO1sT2rA

一文看懂生成式对抗网络GANs：介绍指南及前景展望

https://mp.weixin.qq.com/s/Lll9e5bCVwxdD0-Q2wamKg

一文详解生成对抗网络(GAN)的原理

https://mp.weixin.qq.com/s/Qso0pv0NjtNrYhZR-sV2xg

通俗了解对抗生成网络(GAN)核心思想

https://mp.weixin.qq.com/s/YLys6L9WT7eCC-xGr1j0Iw

带多分类判别器的GAN模型

https://mp.weixin.qq.com/s/lqQeCpLQVqSdJPWx0oxs2g

例解生成对抗网络

https://mp.weixin.qq.com/s/LAS0KgPiVekGdQXbqlw1cQ

深度学习的三大生成模型：VAE、GAN、GAN的变种

https://mp.weixin.qq.com/s/mPtv1fQd0NBgdY2b_ALNTQ

机器之心GitHub项目：GAN完整理论推导与实现，Perfect！

https://mp.weixin.qq.com/s/uUSq3irEIcBM35JCYGDPfw

生成对抗网络综述：从架构到训练技巧，看这篇论文就够了

https://mp.weixin.qq.com/s/d_W0O7LNqlBuZV87Ou9uqw

训练GAN的16个技巧

https://mp.weixin.qq.com/s/uJlgx9Bq-XI49l8wwmdIsw

用GAN让晴天下大雨，小猫变狮子，黑夜转白天

https://mp.weixin.qq.com/s/hjsFBVE3_IiKTZSesa44ug

GAN系列学习(1)——前生今世

https://mp.weixin.qq.com/s/JRyQ5vp_zDwcG3X15e32Gw

GAN系列学习(2)——前生今世

https://mp.weixin.qq.com/s/FL63vEAhp8mElI5RFxnbSQ

GAN开山之作及最新综述

https://mp.weixin.qq.com/s/A66WeHH77IOCv61RHiDE0w

生成式对抗网络（GAN）如何快速理解？这里有一篇最直观的解读

https://mp.weixin.qq.com/s/wW8kTQ7eQeCJsHC9ju8VLA

GAN_keras版

GAN进阶

Structured Learning

机器学习模型所预测的对象，不仅有值（例如线性回归模型），或者类别（例如逻辑回归模型），也可以是一个复杂的结构，例如Sequence、List、Tree、Image、Bounding Box等。

输出结果是复杂结构的ML，通常被称作Structured Learning。

Structured Learning有以下特点：

1.在分类任务中，每一个类别都有一定的样例Sample，但是在结构化预测中，如果把每一个output（例如一个sequence）当做一个类别来看的话，输出空间就非常大了，因为测试数据的输出很有可能都是训练数据没有见过的（毕竟完全相同的sequence会比较少）。

2.模型需要有planning的能力，以组合各种有依赖的component，从而达到全局最优。

https://www.cnblogs.com/bluemapleman/p/9277175.html

结构化学习（Structured Learning）

传统GAN的局限

1.没有用户控制（user control）能力。

在传统的GAN里，输入一个随机噪声，就会输出一幅随机图像。

但用户是有想法的，我们想输出的图像是我们想要的那种图像，和我们的输入是对应的、有关联的。比如输入一只喵的草图，输出同一形态的喵的真实图片。

2.低分辨率（Low resolution）和低质量（Low quality）问题。

GAN的发展

最早的GAN出现在2014年6月，但直到2015年底，也只有5个变种，发展并不迅速。

2016年，GAN开始发力，年底时已有52个变种。2017年6月底，更达到142个变种。

https://github.com/hindupuravinash/the-gan-zoo

GAN的各种变种

GAN的变种（或者说改进）主要分为两大类：

1.修改Loss。这一类的典型就是前述的WGAN。Sebastian Nowozin提出的f-GAN，对这一类改进进行了总结。

https://mp.weixin.qq.com/s/f93aCYrxlBFhRn0bgPDiTg

微软剑桥研究院153页最新GAN教程

Sebastian Nowozin，微软剑桥研究院首席研究员。

https://mp.weixin.qq.com/s/IYQij9JbOKKbH3IuRvM9SQ

一览IPM框架下的各种GAN

2.修改网络结构。

上图的源地址：

https://github.com/hwalsuklee/tensorflow-generative-model-collections

《Generating Reasonable and Diversified Story Ending Using Sequence to Sequence Model with Adversarial Training》，这篇论文提出的Seq2Seq+RL+GAN的组合模型，也算是让我开眼界了。

《The Six Fronts of the Generative Adversarial Networks》

这篇论文把GAN的改进分为了6个方向：

https://machinelearningmindset.com/generative-adversarial-networks-roadmap/

生成对抗网络GANs学习路线

https://zhuanlan.zhihu.com/p/58812258

GAN万字长文综述

https://mp.weixin.qq.com/s/SBYtetkfi-DboM5jFTXVIQ

生成式对抗网络GAN最新进展综述

https://mp.weixin.qq.com/s/gH6b5zgvWArOSfKBSIG1Ww

必读！生成对抗网络GAN论文TOP 10

https://zhuanlan.zhihu.com/p/34016536

历史最全GAN网络及其各种变体整理

https://mp.weixin.qq.com/s/rE_RYklz8G_Etg5Gstlhew

十款神奇的GAN，总有一个适合你！

https://mp.weixin.qq.com/s/N7YU-YeXiVX7gSB-mzYgnw

生成式对抗网络GAN的研究进展与展望

https://mp.weixin.qq.com/s/IjlIT-3FVY7IfYzNDtkkgg

谷歌大脑发布GAN全景图：看百家争鸣的生成对抗网络

https://mp.weixin.qq.com/s/Y4Ags-yupq__gQZmparhsg

COLING 2018⽤对抗增强的端到端模型⽣成合理且多样的故事结尾

https://mp.weixin.qq.com/s/df51nYaA-uz7vd4WbBuE8g

GAN货：生成对抗网络知识资料全集

https://mp.weixin.qq.com/s/QRmy8f88eJcdp1xCxCI8bg

历数GAN的5大基本结构

https://mp.weixin.qq.com/s/LHCEh4BPZ_qbSKaar19nNg

十种主流GANs，我该如何选择？

https://mp.weixin.qq.com/s/RAlQVWMBYeddG2Mvu2bF4w

生成对抗网络（GANs）最新家谱：为你揭秘GANs的前世今生

https://mp.weixin.qq.com/s/NPUJ89nddF1WHfFv2nn-Hg

GANs有嘻哈：一次学完10个GANs明星模型

http://www.gwylab.com/pdf/生成模型-生成对抗网络.pdf

这篇中文综述写的很好

https://mp.weixin.qq.com/s/trFM7dfBL23TykWCY9rRtw

别人家的高中生：入大学前，Ta详细梳理了GAN的发展脉络

https://mp.weixin.qq.com/s/ynZj6OCfHJ_0t8qlS9txXQ

能生成Deepfake也能诊断癌症，GAN与恶的距离

https://zhuanlan.zhihu.com/p/70033932

一文看懂GAN演进图谱

https://zhuanlan.zhihu.com/p/88862044

万字综述之生成对抗网络

https://mp.weixin.qq.com/s/oEnQPWs5WFak_qwajYKq3A

在图像生成领域里，GAN这一大家族是如何生根发芽的

https://mp.weixin.qq.com/s/X1DPEcNP1mFc1DGUdzh3eQ

生成式深度学习

https://zhuanlan.zhihu.com/p/96025520

9102年入门GAN的补习

https://mp.weixin.qq.com/s/iLAE_WR-rQrqd4dtYWB_gA

史上最全GAN综述2020版：算法、理论及应用

https://mp.weixin.qq.com/s/4CPfejPrAhJuYMgSj6aGsw

生成式对抗网络(GANs)最新2020综述，41页pdf阐述GAN训练、挑战、解决方案和未来方向

https://mp.weixin.qq.com/s/qtSyLcNOcIgORPvk6_juww

CV视觉中GAN的调研和分类