变分自编码器代码（变分自编码器原来是这样工作的）

变分自编码器代码（变分自编码器原来是这样工作的）我将使用MNIST手写数字数据集解释VAE。模型的输入是28∙28维空间中的图像（R[28∙28]）。如果输入看起来像数字，则模型应估计高概率值。VAE模型还可以从学习的概率密度函数（PDF）中采样示例，这是最酷的部分，因为它将能够生成看起来与原始数据集类似的新示例！在以后的文章中，我将提供一个变分自编码器（VAE）的工作代码，这个变分自编码器（VAE）是在手写数字图像的数据集上训练的，我们将获得一些产生新数字的乐趣！生成模型VAE是一种生成模型-----它估计训练数据的概率密度函数（PDF）。如果在自然视觉图像上训练这样的模型，则应该为狮子的图像分配高概率值。另一方面，随机乱码的图像应该被分配低概率值。

点击上方关注，All in AI中国

作者：Yoel Zeldes

有没有想过变分自编码器（VAE）模型是如何工作的？你想知道变分自编码器（VAE）如何生成类似于其训练的数据集的新示例吗？

阅读本文后，你将掌握对变分自编码器（VAE）内部工作原理的理论知识，并能够自己实现。

在以后的文章中，我将提供一个变分自编码器（VAE）的工作代码，这个变分自编码器（VAE）是在手写数字图像的数据集上训练的，我们将获得一些产生新数字的乐趣！

生成模型

VAE是一种生成模型-----它估计训练数据的概率密度函数（PDF）。如果在自然视觉图像上训练这样的模型，则应该为狮子的图像分配高概率值。另一方面，随机乱码的图像应该被分配低概率值。

VAE模型还可以从学习的概率密度函数（PDF）中采样示例，这是最酷的部分，因为它将能够生成看起来与原始数据集类似的新示例！

我将使用MNIST手写数字数据集解释VAE。模型的输入是28∙28维空间中的图像（R[28∙28]）。如果输入看起来像数字，则模型应估计高概率值。

建模图像面临的挑战

像素之间的相互作用是一个巨大的挑战。如果像素彼此独立，我们需要独立学习每个像素的概率密度函数（PDF），这很容易。采样也是轻而易举的，这是因为我们只是独立地对每个像素进行采样。

在数字图像中，像素之间存在明显的依赖关系。如果你看一下图像的左半边并看到4的开头，你会非常惊讶地看到右边的一半是0的结尾。但是为什么呢？...

潜在的空间

你知道一个数字的每个图像应该包含一个数字。R[28∙28]中的输入未明确包含该信息。但它必须驻留在某个地方......而某处是潜在的空间。

潜在的空间

你可以将潜在空间视为R[k]，其中每个向量包含绘制图像所需的k条基本信息。假设第一个维度包含数字所代表的数字，第二个维度可以是宽度。第三个是角度，等等。

我们可以把生成图像的过程看作两个步骤。首先，某人有意识地或不自觉地决定他要画的数字的所有属性。接下来，这些决策转化为笔触。

VAE尝试对此过程进行建模：给定图像x，我们希望找到至少一个能够描述它的潜在向量 - 一个包含生成x的指令的向量。我们得到了使用总概率定律来表达它。

让我们关注这个方程：

• 积分意味着我们应该在候选人的整个潜在空间中进行搜索。
• 对于每个候选人z，我们都会问：可以使用z的指令生成x吗？ P（x | z）足够大吗？例如，如果z对数字为7的信息进行编码，那么8的图像是不可能的。然而，1的图像可能是可能的，因为1和7看起来相似。
• 我们找到了一个很好的z？很好！但等一下......这个Z可能吗？ P（z）足够大吗？让我们考虑一个倒置的给定图像7。一个潜在的矢量描述一个类似的外观7，其中角度尺寸设置为180度将是一个完美的匹配。但是，z不太可能，因为通常数字不是以180度角绘制的。

VAE的训练目标是最大化P（x）。我们将使用多元高斯

---

对P（x | z）进行建模。

f（z）将使用神经网络建模。σ是一个超参数，乘以单位矩阵I.

你应该记住，f是我们在使用训练模型生成新图像时将要使用的内容。施加高斯分布仅用于训练目的。如果我们使用σ函数（即确定性地x = f（z）），我们将无法使用梯度下降来训练模型！

潜伏空间的奇迹

潜在空间方法存在两个大问题：

1. 每个维度包含哪些信息？某些维度可能涉及抽象的信息，例如：样式。即使很容易解释所有维度，我们也不希望为数据集分配标签。这种方法无法扩展到新数据集。
2. 潜在的空间可能是纠缠在一起的，即维度可能是相关的。例如，绘制得非常快的数字可能会导致角度更小和笔触更细。确定这些依赖关系很难。

深入学习救援

事实证明，通过在标准多元高斯上应用足够复杂的函数，可以生成每个分布。

因此，我们将选择P（z）作为标准多元高斯。f由神经网络建模，因此可以分为两个阶段：

第一层将高斯映射到潜在空间上的真实分布。我们将无法解释这些维度，但这并不重要。

然后，随后的层将从潜在空间映射到P（x|z）。

那么我们如何训练这头野兽呢？

P（x）的公式是难以处理的，因此我们将使用蒙特卡罗方法对其进行近似：

1. 来自先前P（z）的样本{zi }（i=1 ... n）
2. 使用P（x）≈（1/n）∙ΣP（x|zi）进行近似

这很好！所以我们只是采样一组z，并让其反向传播！

不幸的是，由于x具有高维度，因此需要许多样本来获得合理的近似值。我的意思是，如果你对z进行采样，那么您最终会得到一个与x有关的图像的可能性有多大？顺便说一下，这解释了为什么P（x|z）必须为任何可能的图像分配正概率值的原因，否则模型将无法学习：采样的z将导致几乎肯定与x不同的图像，如果概率为0，则梯度不会传播。

那么我们如何解决这个问题呢？

我们走捷径吧！

大多数采样的z都不会对P（x）做出任何贡献，它们太过分了。如果我们事先知道从哪里采样就好了......

我们可以引入Q（z|x）。将训练Q以给出可能产生x的z的高概率值。现在我们可以使用来自Q的少得多的样本来计算蒙特卡罗估计。

不幸的是，出现了一个新问题！而不是最大化

我们将最大化以下内容

这两者如何相互关联？

变分推理

变分推理是它自己的一个主题，所以我不会在这里详细说明。我要说的是，这两个都是通过这个等式来联系的：

KL是Kullback-Leibler散度，它直观地测量两种分布的相似程度。

片刻之后，你将看到我们如何才能最大化方程式的右侧。通过这样做，左侧也将最大化：

• P（x）将最大化。
• Q（z|x）与P（z|x）的关系 - 我们不知道的真正的后验将被最小化。

方程右侧背后的直觉是我们有一点紧张：

1. 一方面，我们希望最大化X如何从Z～Q解码。
2. 另一方面，我们希望Q（z|x）（编码器）类似于先前的P（z）（多元高斯）。人们可以将这个术语视为正则化。

正确选择分布，最大限度地减少KL散度很容易。我们将Q（z|x）建模为神经网络，其输出是多元高斯的参数：

• 平均μ_Q
• 对角协方差矩阵Σ_Q

然后KL散度变得可以解析地解决，这对我们和梯度来说是很好的。

解码器部分有点棘手。通常，我们通过使用蒙特卡罗来解决这个难以处理的事实。但是从Q采样z将不允许梯度通过Q传播，因为采样不是可微分的运算。这是有问题的，因为输出Σ_Q和μ_Q的层的权重将不会更新。

重新参数化的技巧

我们可以用无参数随机变量的确定性参数化变换代替Q：

1. 来自标准（无参数）高斯的样本。
2. 将样本乘以Σ_Q的平方根。
3. 将μ_Q添加到结果中。

结果将具有等于Q的分布。现在，采样操作将来自标准高斯。因此，梯度将能够通过Σ_Q和μ_Q传播，因为它们是现在的确定性路径。

其结果是什么？该模型将能够学习如何调整Q的参数：它将集中在能够产生x的良好z上。

连接点

VAE模型很难掌握。我们在这里介绍了很多材料，它可能是颠覆性的。

因此，让我总结一下为实现VAE而需要掌握的所有步骤。

在左侧，我们有模型定义：

1. 输入图像通过编码器网络。
2. 编码器输出分布Q（z|x）的参数。
3. 从Q（z|x）采样潜在矢量z。如果编码器学会了很好地完成其工作，大多数的可能性是z将包含描述x的信息。
4. 解码器将z解码为图像。

在右边我们有损失：

1. 重建错误：输出应与输入类似。
2. Q（z|x）应与先验（多变量标准高斯）相似。

为了生成新图像，你可以直接从先验分布中采样潜在向量，并将其解码为图像。

在下一篇文章中，我将为你提供VAE的工作代码。 另外，我将向你展示如何使用一个巧妙的技巧来调节潜在的矢量，以便你可以决定要为哪个数字生成图像。

这篇文章是基于我的直觉和这些来源：

·变分推理与深度学习：一种新的综合

https://pure.uva.nl/ws/files/17891313/Thesis.pdf ·变分自编码器教程

https://arxiv.org/abs/1606.05908