DeepLearning深度学习教程_第七章_生成对抗网络.pdf资源-CSDN文库

版权申诉

DeepLearning

深度学习

164 浏览量 2023-08-23 21:13:20 上传评论收藏 5.03MB PDF 举报

资源推荐

资源详情

资源评论

DeepLearning

第七章第七章⽣成对抗⽹络⽣成对抗⽹络

DeepLearning

第七章⽣成对抗⽹络

7.1 GAN基本概念

7.1.1 如何通俗理解GAN？

7.1.2 GAN的形式化表达

7.1.3 GAN的⽬标函数是什么？

7.1.4 GAN的⽬标函数和交叉熵有什么区别？

7.1.5 GAN的Loss为什么降不下去？

7.1.6 ⽣成式模型、判别式模型的区别？

7.1.7 什么是mode collapsing?

7.1.8 如何解决mode collapsing？

7.2 GAN的⽣成能⼒评价

7.2.1 如何客观评价GAN的⽣成能⼒？

7.2.2 Incept ion Score

7.2.3 Mode Score

7.2.4 Kernel MMD (Maximum Mean Discrepancy)

7.2.5 Wasserstein dist ance

7.2.6 Fréchet Incept ion Dist ance (FID)

7.2.7 1-Nearest Neighbor classif ier

7.2.8 其他评价⽅法

7.3 其他常见的⽣成式模型有哪些？

7.3.1 什么是⾃回归模型：pixelRNN与pixelCNN？

7.3.2 什么是VAE？

7.4 GAN的改进与优化

7.4.1 如何⽣成指定类型的图像——条件GAN

7.4.2 CNN与GAN——DCGAN

7.4.3 如何理解GAN中的输⼊随机噪声？

7.4.4 GAN为什么容易训练崩溃？

7.4.5 WGAN如何解决训练崩溃问题？

7.4.6 WGAN-GP：带有梯度正则的WGAN

7.4.7 LSGAN

7.4.8 如何尽量避免GAN的训练崩溃问题？

7.3 GAN的应⽤（图像翻译）

7.3.1 什么是图像翻译？

7.3.2 有监督图像翻译：pix2pix

7.3.3 其他图像翻译的t ricks

7.3.4 如何⽣成⾼分辨率图像和⾼分辨率视频？

7.3.5 有监督的图像翻译的缺点？

7.3.6 ⽆监督图像翻译：CycleGAN

7.3.7 多领域的⽆监督图像翻译：St arGAN

7.4 GAN的应⽤（⽂本⽣成）

7.4.1 GAN为什么不适合⽂本任务？

7.4.2 seqGAN⽤于⽂本⽣成

7.5 GAN在其他领域的应⽤

7.5.1 数据增⼴

7.5.2 图像超分辨与图像补全

7.5.3 语⾳领域

参考⽂献

第七章⽣成对抗⽹络

7.1 GAN基本概念

7.1.1 如何通俗理解GAN？

⽣成对抗⽹络(GAN, Generative adversarial net work)⾃从2014年被Ian Goodf ellow提出以来，掀起来了⼀股研究热潮。

GAN由⽣成器和判别器组成，⽣成器负责⽣成样本，判别器负责判断⽣成器⽣成的样本是否为真。⽣成器要尽可能迷惑判别

器，⽽判别器要尽可能区分⽣成器⽣成的样本和真实样本。

第七章⽣成对抗⽹络

1/20

DeepLearning

在GAN的原作[1]中，作者将⽣成器⽐喻为印假钞票的犯罪分⼦，判别器则类⽐为警察。犯罪分⼦努⼒让钞票看起来逼真，警

察则不断提升对于假钞的辨识能⼒。⼆者互相博弈，随着时间的进⾏，都会越来越强。那么类⽐于图像⽣成任务，⽣成器不

断⽣成尽可能逼真的假图像。判别器则判断图像是否是真实的图像，还是⽣成的图像，⼆者不断博弈优化。最终⽣成器⽣成

的图像使得判别器完全⽆法判别真假。

7.1.2 GAN的形式化表达

上述例⼦只是简要介绍了⼀下GAN的思想，下⾯对于GAN做⼀个形式化的，更加具体的定义。通常情况下，⽆论是⽣成器还

是判别器，我们都可以⽤神经⽹络来实现。那么，我们可以把通俗化的定义⽤下⾯这个模型来表⽰：

上述模型左边是⽣成器G，其输⼊是，对于原始的GAN，是由⾼斯分布随机采样得到的噪声。噪声通过⽣成器得到了⽣

成的假样本。

⽣成的假样本与真实样本放到⼀起，被随机抽取送⼊到判别器D，由判别器去区分输⼊的样本是⽣成的假样本还是真实的样

本。整个过程简单明了，⽣成对抗⽹络中的“⽣成对抗”主要体现在⽣成器和判别器之间的对抗。

7.1.3 GAN的⽬标函数是什么？

对于上述神经⽹络模型，如果想要学习其参数，⾸先需要⼀个⽬标函数。GAN的⽬标函数定义如下：

这个⽬标函数可以分为两个部分来理解：

第⼀部分：判别器的优化通过实现，为判别器的⽬标函数，其第⼀项表

⽰对于从真实数据分布中采⽤的样本 ,其被判别器判定为真实样本概率的数学期望。对于真实数据分布中采样的样本，其预

测为正样本的概率当然是越接近1越好。因此希望最⼤化这⼀项。第⼆项表⽰：对于从噪声

分布当中采样得到的样本，经过⽣成器⽣成之后得到的⽣成图⽚，然后送⼊判别器，其预测概率的负对数的期望，这个

值⾃然是越⼤越好，这个值越⼤，越接近0，也就代表判别器越好。

第⼆部分：⽣成器的优化通过来实现。注意，⽣成器的⽬标不是，即⽣成器不是

最⼩化判别器的⽬标函数，⼆是最⼩化判别器⽬标函数的最⼤值，判别器⽬标函数的最⼤值代表的是真实数据分布与⽣成数

据分布的JS散度(详情可以参阅附录的推导)，JS散度可以度量分布的相似性，两个分布越接近，JS散度越⼩。

7.1.4 GAN的⽬标函数和交叉熵有什么区别？

判别器⽬标函数写成离散形式即为:

第七章⽣成对抗⽹络

2/20

剩余22页未读，继续阅读

评论收藏

内容反馈

版权申诉

安全方案

粉丝: 1103
资源: 4000

DeepLearning深度学习教程_第七章_生成对抗网络.pdf

深度学习-对抗生成网络实战(GAN)

DeepLearning深度学习教程_第八章_目标检测.pdf

DeepLearning深度学习教程_第十七章_模型压缩、加速及移动端部署.pdf

DeepLearning深度学习教程_第一章_数学基础.pdf

DeepLearning深度学习教程_第二章_机器学习基础.pdf

DeepLearning深度学习教程_第四章_经典网络.pdf

DeepLearning深度学习教程_第五章 卷积神经网络(CNN).pdf

DeepLearning深度学习教程_第三章_深度学习基础.pdf

DeepLearning深度学习教程_第九章_图像分割.pdf

DeepLearning深度学习教程_第十四章_超参数调整.pdf

DeepLearning深度学习教程_第十三章_优化算法.pdf

DeepLearning深度学习教程_第十一章_迁移学习.pdf

DeepLearning深度学习教程_第十六章_NLP.pdf

DeepLearning深度学习教程_第十五章_异构运算、GPU及框架选型.pdf

DeepLearning深度学习教程_第六章_循环神经网络(RNN).pdf

DeepLearning深度学习教程_第十章_强化学习.pdf

DeepLearning深度学习教程_第十二章_网络搭建及训练.pdf

Matlab_Deep_Learning_深度学习_深度神经网络_deeplearning_deeplearning_深度学习m

ENVI Deep Learning V1.0深度学习操作教程_202003.pdf

DeepLearning深度学习教程_第十八章_后端架构选型及应用场景.pdf

DeepLearning深度学习教程_第十八章_后端架构选型、离线及实时计算.pdf

YOLOv8-deepsort 实现智能车辆目标检测+车辆跟踪+车辆计数

YOLOv8网络结构图，自制visio文件，yolov8.vsds，需要的自取，在原有的基础上直接改就行了

yolov8(2023年8月版本),已经下好yolov8s.pt和yolov8n.pt

Transformer模型实现长期预测并可视化结果（附代码+数据集+原理介绍）

社交平台上经济类话题的文章热度信息，数据是真实的，但不是真实日期

行人跌倒数据集（VOC格式）

Unet眼底血管图像分割数据集+代码+模型+系统界面+教学视频.zip

全新的SOTA模型YOLOv9

最新资源

DeepLearning深度学习教程_第五章卷积神经网络(CNN).pdf