原始GAN(生成对抗网络)详细解析

【GAN】若干常见GAN中的Loss及部分知识 1. GAN 原始GAN论文[1]中指出,生成器GGG和判别器DDD在进行最小最大博弈。可以用下面的函数表示: min⁡Gmax⁡DV(G,D)=min⁡Gmax⁡DEx∼pdata[log⁡D(x)]+Ez∼pz[log⁡(1−D(G(z)))] \min_{G} \max_{D} V(G, D) = \min_{G} \max_{D} \mathbb{E}_{x \sim p_{data}}[\log D(x)] + \mathbb{E}_{z \sim p_{z}}[\log (1-D(G(z)))] 阅读详情

前言:以下所有内容是学习过程中产生的,不一定具有Ture可信度,仅供初学者学习参考,如果有不对的地方,敬请指正再批评;所有参考资料均来源于互联网和论文(做了整理,不算抄袭吧)。

摘要:主要从警察与造假币者的通俗例子讲解生成对抗网络的基本原理,生成器与判别器的概念,怎么样叫对抗过程?引出在图像生成中所用的生成对抗网络是怎么样的?论文中的原始GAN Loss函数的详细解释,它为什么就写成那么巧妙的样子?怎么训练GAN呢?会存在哪些问题呢?我们怎么知道GAN就训练好了呢?这些问题的答案都会在背后的数学逻辑中全部体现。

一、GAN的基本原理

1.经典的警察与造假币者

  • 造假币者按照真实钱币的样子来造假,警察要分辨遇到的钱币是真还是假(造假币者就是生成器G,警察就是判别器D)
  • 最初的时候,造假者造假能力不强,警察很容易判别出来;当被警察容易识别出来的时候,造假者就会继续修炼自己的技艺;于此同时,警察也要积累经验提高自己的判别能力;不断的造假,不断的判别,不断的提高自己的能力(这就是一个对抗过程)
  • 最后的结果,造假者可以创造出以假乱真的钱币,警察难以区分(造假者已经是一个很好的可以刻画钱币的人)

2.图像生成中的生成对抗网络

生成器:试图生成逼真的图像来欺骗判别器
判别器:试图完美区分真实和虚假的图像
在这里插入图片描述
(图片来源于网络课程,名字忘了)

  • 其中的生成器和判别器可以看成两个神经网络,全连接和卷积网络等都行,就是平常所见的神经网络;我们输入随机噪声给生成器网络,随机噪声一般是高斯分布或者均匀分布的,你也可以理解成反正输入一个多维向量给生成器网络就行;输入经过生成器网络以后就会被变成一个更高维的向量,也就是我们的生成器输出了一张生成图片,你可以想象成把图片的每个像素点看做向量的每个维度元素,一张图片那么多像素点,不就是个高维向量嘛;把生成器生成的图片输入到判别器网络,也会同时输入真实的图片给判别器,判别器就会对图片进行打分,也就是判别真假,它的目标是尽可能给真实的图片高分,给生成器网络生成的虚假图片低分;这就是图像生成中的生成器与判别器的概念。
    在这里插入图片描述
  • 上图是一个对抗训练的过程。从左向右看,在刚开始也就是v1的时候生成器生成的这些二次元图像是模糊的乱糟糟的,判别器就很容易判断出真实图像与虚假图像了;这时候生成器知道了判别器对自己生成的图像判断很差,那可不行,我需要生成更好的图像去骗过判别器,需要进化,就慢慢进化到了v2,v2能生成比v1更好的图像了;判别器可能判断难度增加了,因为生成器生成的图像跟真实图像越来越像了,它是可以知道自己的判断能力的,不能被生成器欺骗,它也需要进化,尽可能的去区分真实图像和生成器生成的虚假图像…这个过程一直持续下去,相互进化,相互对抗。直到判别器在生成图像与真实图像之间没法判断,换个说法就是判断一张图像是真实图像的概率是1/2的时候,生成对抗网络就达到了理想状态,这时候生成器也可以生成逼真的图像了,可以类比前面的警察与造假币者的案例。(这就是生成对抗网络中对抗以及纳什均衡的含义)

<

生成对抗网络(GAN)原始论文深度解析:从博弈原理到复现调参实战 在生成式AI的众多技术路线中,如何让模型从数据中学习真实分布始终是核心命题。传统像素级损失易导致模糊,而生成对抗网络(GAN)通过让生成器与判别器相互博弈,以对抗方式逼近数据分布,这成为理解现代生成模型的重要基石。本文从原始论文出发,详解了min-max目标函数推导、最优判别器解析解与训练迭代逻辑,并结合真实复现经验,分析loss曲线解读、模式坍塌排查、训练不稳定应对等关键问题。无论你在做图像生成、风格迁移还是可控合成,掌握这套博弈框架都能帮助你更深刻地理解生成器与判别器的本质,并少走调参弯路。 阅读详情

相关推荐

生成对抗网络(GAN)详解,应用及原理

目录 1.GAN网络介绍 2.原始GAN的问题 3.GAN网络训练技巧 1.GAN的介绍 Generative Adversarial Network简称GAN网络,是一种通过训练,使判别器(Generator)和生成器(Discriminator)达到一种平衡状态。 下面通过具体的网络结构,介绍GAN网络的训练过程。 如图所示为一个基因补全的一个GAN网络,输入为有缺失的基因,通过Generator生成完整的基因序列;然后,Discriminator将真...

Jack Frost的博客 4282

详解生成对抗网络(GAN)

详解生成对抗网络(GAN) 本篇博文从以下几个结构介绍GAN模型 概述 模型优化训练 GAN的一些经典变种 1 概述 GAN是由Ian Goodfellow于2014年首次提出,学习GAN的初衷,即生成不存在于真实世界的数据。类似于AI具有创造力和想象力。 GAN有两大护法G和D: G是generator,生成器: 负责凭空捏造数据出来 D是discriminator,判别器: 负责判断数据是不是真数据 这样可以简单看作是两个网络的博弈过程。在原始的GAN论文里面,G和D都是两个多层感知机

literacy_wang的博客 5万+

生成对抗网络(GAN)在计算机视觉中的全面解析

实验表明,深度学习模型在测试时对基于输入微小修改的攻击非常脆弱。比如,一个训练好的分类器能够正确识别图像中的物体并给出正确标签,但可以构造出视觉上几乎无法区分的对抗样本,通过噪声扰动构建的这些对抗图像可能会被错误分类。为解决这个问题,常见方法是将对抗样本注入训练集进行对抗训练,以提高神经网络的鲁棒性。不过,这些技术有些是手工制作的,总会有不同的扰动可以用来欺骗分类器。换个角度思考,如果我们不关注构建鲁棒的分类器,而是想取代手工制作对抗样本的过程,让网络生成视觉上吸引人的不同样本呢?

m0_74337424的博客 301

AMBA VIP基础使用方式(AXI)

AXI环境配置 1)基础配置 作为master或者slave使用时,对应的is_active = 1 只作为i监测(monitor)使用时,对应slave_cfg的is_active = 0(对应端口连接也有所区别) class smu_axi_cfg extends svt_axi_system_configuration; `uvm_object_utils(smu_aix_cfg) function new(string name="smu_axi_cfg); super.new(n..

qq_37573794的博客 7985

MuJoCo新手必看:5分钟搞定你的第一个机器人仿真(附Python代码)

本文为零基础新手提供了一份详尽的MuJoCo物理仿真引擎入门指南。从环境搭建、MJCF模型文件解析,到编写Python控制代码,手把手教你5分钟内创建并运行第一个机器人仿真。内容涵盖双摆模型控制与自定义四轮小车构建,帮助你快速掌握这一高性能开源工具,迈出机器人学与强化学习仿真的第一步。

weixin_29032489的博客 659

【COMSOL超材料和超表面仿真设计】

超材料和超表面的设计通常需要自定义材料属性。在COMSOL中,可以通过定义介电常数和磁导率的张量来模拟超材料的特性。对于超表面,通常需要定义表面阻抗或等效电路模型。

weixin_51101456的博客 1687

ROS开发者的福音:用Anaconda虚拟环境解决Python包冲突(附完整配置流程)

本文为ROS开发者提供了使用Anaconda虚拟环境解决Python包冲突的完整方案。通过分析冲突根源,详细介绍了Miniconda安装、专用环境创建以及核心桥梁包的配置流程,并阐述了“混合环境运行”与“纯虚拟环境构建”两种实战工作流,帮助开发者实现ROS核心与特定Python库的和谐共存,从而提升开发效率和项目可维护性。

weixin_28835789的博客 341

90+个各种疾病相关医疗数据集

含新冠、传染病、医学图像等

2万+

太阳敏感器:卫星姿态控制的“指南针

在卫星姿态控制系统中,太阳敏感器(Sun Sensor) 是至关重要的光学姿态敏感器之一。它通过探测太阳光的方向,为卫星提供关键的姿态参考信息,确保卫星能够正确调整自身方位,维持稳定的对日定向,保障能源供应和任务执行。

ScilogyHunter的博客 1736

Adams Car——Adams car与Simulink联合仿真

Adams与simulink悬架联合仿真

Mr.邹的博客 2129

PSM倾向性评分分析介绍、spss进行倾向性评分分析示例

PSM倾向性评分分析介绍、spss进行倾向性评分分析示例

statistics+insight+vista+power 1486

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

上一篇: HM配置参数的介绍
下一篇: Wireshark如何导出h264码流和h265码流
hello_next_day
博客等级 码龄9年 26粉丝 4原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址