Generative Adversarial Nets

研究动机与问题背景

深度学习的核心承诺是发现能够表示各种模态数据（图像、音频、文本等）概率分布的丰富层次模型。但在 2014 年之前，深度学习在判别式模型（如图像分类）上取得了巨大成功，生成式模型的进展却相对滞后。

现有方法的痛点与局限

• 配分函数不可解 (Intractable Partition Function)：无向图模型（如 RBMs、DBMs）的极大似然估计中，配分函数及其梯度涉及难以解析的积分/求和，计算极其困难。
• 对 MCMC 的重度依赖：为了近似上述不可解的推断，通常必须求助于马尔可夫链蒙特卡洛方法。但 MCMC 在高维空间中存在严重的"混合 (Mixing)"慢问题，采样效率极低。
• 分段线性单元的受限：ReLU 等分段线性单元在反向传播中表现极好，但在带有反馈循环的生成模型中容易产生无界激活。
• 近似方法的瓶颈：如噪声对比估计 (NCE)，在模型学到数据空间的一个近似分布后，学习速度会急剧下降。

核心目标

本文试图解答的核心问题是：能否抛弃复杂的近似推断和马尔可夫链，设计一种仅利用标准反向传播就能高效训练的深度生成模型？

数学表示与建模

本文最优雅之处在于其极其简洁却严密的数学建模。所有对抗过程都被收敛到一个漂亮的目标函数中。

极小化极大目标函数

判别器 $D$ 的训练目标是最大化对真实样本和生成样本赋予正确标签的概率。生成器 $G$ 的训练目标则是最小化 $\log(1 - D(G(z)))$。两个模型构成极小化极大双人博弈，其价值函数 $V(G, D)$ 定义如下：

$$\min_G \max_D V(D,G) = \mathbb{E}_{x \sim p_{data}(x)}[\log D(x)] + \mathbb{E}_{z \sim p_z(z)}[\log(1 - D(G(z)))]$$

• 第一项 $\mathbb{E}_{x \sim p_{data}}[\log D(x)]$：针对真实数据分布的期望。若 $D$ 能准确识别真图，则 $D(x) \to 1$，该项趋近于 $0$（最大值）。
• 第二项 $\mathbb{E}_{z \sim p_z}[\log(1 - D(G(z)))]$：针对生成假数据的期望。若 $D$ 能识破假图，$D(G(z)) \to 0$，该项趋近于 $0$。而 $G$ 则希望使 $D(G(z)) \to 1$，从而使该项趋近于 $-\infty$。

最优判别器 $D_G^*$

固定生成器 $G$，对价值函数关于 $D(x)$ 求偏导并令其为 $0$，可得任意给定 $G$ 时的最优判别器：

$$D_G^*(x) = \frac{p_{data}(x)}{p_{data}(x) + p_g(x)}$$

JS 散度与全局最优证明

将最优判别器 $D_G^*(x)$ 代回目标函数，得到虚拟训练准则 $C(G)$：

$$C(G) = \mathbb{E}_{x \sim p_{data}}\!\left[\log \frac{p_{data}(x)}{p_{data}(x) + p_g(x)}\right] + \mathbb{E}_{x \sim p_g}\!\left[\log \frac{p_g(x)}{p_{data}(x) + p_g(x)}\right]$$

经过代数变形，这可以转化为 Jensen-Shannon (JS) 散度：

$$C(G) = -\log(4) + 2 \cdot \text{JSD}(p_{data} \| p_g)$$

由于 JS 散度非负，且仅在两个分布完全相等时为 $0$，因此全局最小值为 $-\log(4)$，唯一解为 $p_g = p_{data}$（生成分布完美拟合真实分布）。此时 $D_G^*(x) = \frac{1}{2}$，判别器无法区分真假。

Algorithm 1：交替训练流程

实际操作中采用交替训练策略。每轮先训练判别器 $k$ 步，再训练生成器 $1$ 步：

非饱和技巧 (Non-Saturating Trick)

实验设置与复现细节

为验证所提出的框架，论文在一系列图像数据集上进行了无监督生成实验与似然评估。

数据集

• MNIST：$28 \times 28$ 手写数字灰度图像（实值版本，非二值化）。
• TFD (Toronto Face Database)：人脸灰度图像，跨折交叉验证。
• CIFAR-10：$32 \times 32$ 彩色自然图像，10 分类。

评测指标

• 定量：由于 GAN 不显式提供概率密度，作者利用生成样本拟合高斯 Parzen 窗 (Gaussian Parzen Window)，在测试集上报告对数似然估计值。
• 定性：人工观察生成图像的逼真度，以及在潜在空间（$z$ 空间）中进行线性插值，验证模型学到了数据流形而非记忆训练集。

模型架构与实现细节

实验结果与核心结论

核心数据

定量评估：对数似然对比

尽管 Parzen 窗估计存在方差大的问题，但与其他深度生成模型相比，GAN 显示出极强的竞争力。以下为原文 Table 1 的核心对比：

结果分析

• 在 MNIST 上，Adversarial Nets 以 $225 \pm 2$ 大幅超越 Deep GSN ($214 \pm 1.1$) 等模型，取得最优成绩。
• 在 TFD 人脸数据集上，GAN 达到 $2057 \pm 26$，与最佳模型 Stacked CAE ($2110 \pm 50$) 表现可比，远超 DBN 和 Deep GSN。
• 这证明了在完全摒弃马尔可夫链和复杂近似推断的前提下，仅利用反向传播，GAN 在数值评估上即可达到甚至超越领域前沿水平。

定性评估：平滑的隐空间插值

图像可视化与插值实验传达了两个关键信息：

1. 生成图像锐度高：由于不需要 MCMC 混合的平滑性约束，GAN 生成的图像相比传统方法明显更加锐利。
2. 未发生严重过拟合：潜在空间的线性插值序列展现的并非训练样本的直接跳跃，而是语义的平滑过渡（如数字 "1" 渐变为 "5"），证明模型真正学到了数据流形。

犀利短评

优点

• 范式转移：将难度极高的分布匹配问题，通过博弈机制转化为深度学习最擅长的分类任务（交叉熵）。这在当时犹如降维打击，开创了生成模型的全新研究范式。
• 理论的纯粹与优雅：非参数极限下的证明极其优美——将对抗博弈的纳什均衡与 JS 散度完美桥接，为后世 f-GAN、WGAN 等工作定下理论基调。
• 解耦的架构：生成器从不直接接触真实数据，仅通过判别器回传的梯度更新。这种机制允许模型逼近极其尖锐、退化的分布，打破了 VAE 等模型因重建损失导致的模糊问题。

不足与疑问

• 训练极其脆弱 (Instability)：论文中提到了同步 $D$ 和 $G$ 的困难，即臭名昭著的模式崩溃 (Mode Collapse)。极小极大博弈是一个非凸非凹问题，SGD 并不能保证收敛到纳什均衡。
• 评测方法的硬伤：采用 Parzen 窗在高维空间估计似然是非常不准确的。这反映了早期生成模型在评价指标上的匮乏——IS 和 FID 直到数年后才被发明。
• 理论与实践的裂痕：证明基于 JS 散度，但工程实现上采用的非饱和目标函数 (Non-saturating Game) 对应的是另一种不具良好对称性的散度，理论与实际在此出现了根本性的脱节。