快捷搜索:  汽车  科技

r语言机器学习预测模型(看穿机器学习W-GAN模型)

r语言机器学习预测模型(看穿机器学习W-GAN模型)图1. GAN的算法流程图。生成器G一般是将一个随机变量(例如高斯分布,或者均匀分布),通过参数化的概率生成模型(通常是用一个深度神经网来进行参数化),进行概率分布的逆变换采样,从而得到一个生成的概率分布。判别器D也通常采用深度卷积神经网。生成对抗网络 GAN训练模型生成对抗网络GAN (Generative Adversarial Networks)是一个“自相矛盾”的系统,就是以己之矛克以己之盾,在矛盾中发展,使得矛更加锋利,盾更加强韧。这里的矛被称为是判别器(Descriminator),这里的盾被称为是生成器(Generator)。图b. Generative Model.

r语言机器学习预测模型(看穿机器学习W-GAN模型)(1)

本文授权转自老顾谈几何(conformalgeometry)

作者:顾险峰

r语言机器学习预测模型(看穿机器学习W-GAN模型)(2)

图a. Principle of GAN.

前两天纽约暴雪,天地一片苍茫。今天元宵节,长岛依然清冷寂寥,正月十五闹花灯的喧嚣热闹已成为悠远的回忆。这学期,老顾在讲授一门研究生水平的数字几何课程,目前讲到了2016年和丘成桐先生、罗锋教授共同完成的一个几何定理【3】,这个工作给出了经典亚历山大定理(Alexandrov Theorem)的构造性证明,也给出了最优传输理论(Optimal Mass Transportation)的一个几何解释。这几天,机器学习领域的Wasserstein GAN突然变得火热,其中关键的概念可以完全用我们的理论来给出几何解释,这允许我们在一定程度上亲眼“看穿”传统机器学习中的“黑箱”。下面是老顾下周一授课的讲稿。

生成对抗网络 GAN

训练模型生成对抗网络GAN (Generative Adversarial Networks)是一个“自相矛盾”的系统,就是以己之矛克以己之盾,在矛盾中发展,使得矛更加锋利,盾更加强韧。这里的矛被称为是判别器(Descriminator),这里的盾被称为是生成器(Generator)。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(3)

图b. Generative Model.

生成器G一般是将一个随机变量(例如高斯分布,或者均匀分布),通过参数化的概率生成模型(通常是用一个深度神经网来进行参数化),进行概率分布的逆变换采样,从而得到一个生成的概率分布。判别器D也通常采用深度卷积神经网。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(4)

图1. GAN的算法流程图。

矛盾的交锋过程如下:给定真实的数据,其内部的统计规律表示为概率分布,我们的目的就是能够找出。为此,我们制作了一个随机变量生成器G,G能够产生随机变量,其概率分布是,我们希望尽量接近。为了区分真实概率分布和生成概率分布,我们又制作了一个判别器D,给定一个样本,D来复制判别这个样本是来自真实数据还是来自伪造数据。Goodfellow给GAN中的判别器设计了如下的损失函数(lost function), 尽可能将真实样本判为正例,生成样本判为负例:

r语言机器学习预测模型(看穿机器学习W-GAN模型)(5)

第一项不依赖于生成器G 此式也可以定义GAN中的生成器的损失函数。

在训练中,判别器D和生成器G交替学习,最终达到纳什均衡(零和游戏),判别器无法区分真实样本和生成样本。

优点GAN具有非常重要的优越性。当真实数据的概率分布不可计算的时候,传统依赖于数据内在解释的生成模型无法直接应用。但是GAN依然可以使用,这是因为GAN引入了内部对抗的训练机制,能够逼近一下难以计算的概率分布。更为重要的,Yann LeCun一直积极倡导GAN,因为GAN为无监督学习提供了一个强有力的算法框架,而无监督学习被广泛认为是通往人工智能重要的一环。

缺点 原始GAN形式具有致命缺陷:判别器越好,生成器的梯度消失越严重。我们固定生成器G来优化判别器D。考察任意一个样本

r语言机器学习预测模型(看穿机器学习W-GAN模型)(6)

,其对判别器损失函数的贡献是

r语言机器学习预测模型(看穿机器学习W-GAN模型)(7)

两边对

r语言机器学习预测模型(看穿机器学习W-GAN模型)(8)

求导,得到最优判别器函数

r语言机器学习预测模型(看穿机器学习W-GAN模型)(9)

代入生成器损失函数,我们得到所谓的Jensen-Shannon散度(JS)

r语言机器学习预测模型(看穿机器学习W-GAN模型)(10)

在这种情况下(判别器最优),如果的支撑集合(support)交集为零测度,则生成器的损失函数恒为0,梯度消失。

改进本质上,JS散度给出了概率分布之间的差异程度,亦即概率分布间的度量。我们可以用其他的度量来替换JS散度。Wasserstein距离就是一个好的选择,因为即便的支撑集合(support)交集为零测度,它们之间的Wasserstein距离依然非零。这样,我们就得到了Wasserstein GAN的模式【1】【2】。Wasserstein距离的好处在于即便两个分布之间没有重叠,Wasserstein距离依然能够度量它们的远近。

为此,我们引入最优传输的几何理论(Optimal Mass Transportation),这个理论可视化了W-GAN的关键概念,例如概率分布,概率生成模型(生成器),Wasserstein距离。更为重要的,这套理论中,所有的概念,原理都是透明的。例如,对于概率生成模型,理论上我们可以用最优传输的框架取代深度神经网络来构造生成器,从而使得黑箱透明。

最优传输理论梗概

给定欧氏空间中的一个区域

r语言机器学习预测模型(看穿机器学习W-GAN模型)(11)

,上面定义有两个概率测度和,满足

r语言机器学习预测模型(看穿机器学习W-GAN模型)(12)

我们寻找一个区域到自身的同胚映射(diffeomorphism),

r语言机器学习预测模型(看穿机器学习W-GAN模型)(13)

满足两个条件:保持测度和极小化传输代价。

保持测度对于一切波莱尔集

r语言机器学习预测模型(看穿机器学习W-GAN模型)(14)

r语言机器学习预测模型(看穿机器学习W-GAN模型)(15)

换句话说映射T将概率分布映射成了概率分布,记成

r语言机器学习预测模型(看穿机器学习W-GAN模型)(16)

。直观上,自映射

r语言机器学习预测模型(看穿机器学习W-GAN模型)(17)

,带来体积元的变化,因此改变了概率分布。我们用和来表示概率密度函数,用

r语言机器学习预测模型(看穿机器学习W-GAN模型)(18)

来表示映射的雅克比矩阵(Jacobian matrix),那么保持测度的微分方程应该是:

r语言机器学习预测模型(看穿机器学习W-GAN模型)(19)

r语言机器学习预测模型(看穿机器学习W-GAN模型)(20)

这被称为是雅克比方程(Jacobian Equation)。

最优传输映射自映射的传输代价(Transportation Cost)定义为

r语言机器学习预测模型(看穿机器学习W-GAN模型)(21)

在所有保持测度的自映射中,传输代价最小者被称为是最优传输映射(Optimal Mass Transportation Map),亦即:

r语言机器学习预测模型(看穿机器学习W-GAN模型)(22)

最优传输映射的传输代价被称为是概率测度和概率测度之间的Wasserstein距离,记为

r语言机器学习预测模型(看穿机器学习W-GAN模型)(23)

在这种情形下,Brenier证明存在一个凸函数

r语言机器学习预测模型(看穿机器学习W-GAN模型)(24)

,其梯度映射

r语言机器学习预测模型(看穿机器学习W-GAN模型)(25)

就是唯一的最优传输映射。这个凸函数被称为是Brenier势能函数(Brenier potential)。

由Jacobian方程,我们得到Brenier势满足蒙日-安培方程,梯度映射的雅克比矩阵是Brenier势能函数的海森矩阵(Hessian Matrix),

蒙日-安培方程解的存在性、唯一性等价于经典的凸几何中的亚历山大定理(Alexandrov Theorem)。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(26)

图2. 亚历山大定理。

亚历山大定理如图2所示,给定平面凸区域

r语言机器学习预测模型(看穿机器学习W-GAN模型)(27)

,考察一个开放的凸多面体

r语言机器学习预测模型(看穿机器学习W-GAN模型)(28)

,选定一个面,的法向量记为

r语言机器学习预测模型(看穿机器学习W-GAN模型)(29)

,的投影和

r语言机器学习预测模型(看穿机器学习W-GAN模型)(30)

相交的面积记为

r语言机器学习预测模型(看穿机器学习W-GAN模型)(31)

,则总投影面积满足

r语言机器学习预测模型(看穿机器学习W-GAN模型)(32)

凸多面体可以被

r语言机器学习预测模型(看穿机器学习W-GAN模型)(33)

确定。亚历山大定理对任意维凸多面体都成立。

后面,我们可以看到,这个凸多面体就是Brenier势能函数,其梯度映射将一个概率分布

r语言机器学习预测模型(看穿机器学习W-GAN模型)(34)

映到另外一个概率分布

r语言机器学习预测模型(看穿机器学习W-GAN模型)(35)

,并且这两个概率分布之间的Wasserstein 距离对偶于此凸多面体决定的体积。理论上,这个凸多面体可以作为W-GAN模型中的生成器G。

W-GAN中关键概念可视化

Wasserstein-GAN模型中,关键的概念包括概率分布(概率测度),概率测度间的最优传输映射(生成器),概率测度间的Wasserstein距离。下面,我们详细解释每个概念所对应的构造方法,和相应的几何意义。

概率分布GAN模型中有两个至关重要的概率分布(probability measure),一个是真实数据的概率分布,一个是生成数据的概率分布。另外,生成器的输入随机变量,满足标准概率分布(高斯、均匀分布)。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(36)

图3. 由保角变换(conformal mapping)诱导的圆盘上概率测度。

概率测度可以看成是一种推广的面积(或者体积)。我们可以用几何变换随意构造一个概率测度。如图3所示,我们用三维扫描仪获取一张人脸曲面,那么人脸曲面上的面积就是一个概率测度。我们缩放变换人脸曲面,使得总曲面等于。然后,我们用保角变换将人脸曲面映射到平面圆盘。如图3所示,保角变换将人脸曲面上的无穷小圆映到平面上的无穷小圆,但是,小圆的面积发生了变化。每对小圆的面积比率定义了平面圆盘上的概率密度函数。

我们可以将以上的描述严格化。人脸曲面记为

r语言机器学习预测模型(看穿机器学习W-GAN模型)(37)

,其上具有黎曼度量

r语言机器学习预测模型(看穿机器学习W-GAN模型)(38)

。平面圆盘记为,平面坐标为,平面的欧氏度量为。保角映射记为

则,这里面积变换率函数给出了概率密度函数。诱导了圆盘上的一个概率测度。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(39)

图4. 两个概率测度之间的最优传输映射。

最优传输映射圆盘上本来有均匀分布,又有保角变换诱导的概率分布,则存在唯一的最优传输映射。图4显示了这个映射,中间帧到右帧的映射就是最优传输映射。我们看到,鼻尖周围的区域被压缩,概率密度提高。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(40)

图5. 离散最优传输。

离散最优传输映射最优传输映射的数值计算非常几何化,因此可以直接被可视化。我们将目标概率测度离散化,表示成一族离散点,;每点被赋予一个狄拉克测度,,满足。然后,我们求得单位圆盘的一个胞腔分解,,每个胞腔映到相应的目标点,。映射保持概率测度,胞腔的面积等于目标测度,

同时极小化传输代价,

r语言机器学习预测模型(看穿机器学习W-GAN模型)(41)

图6. 离散Brenier势能函数,离散最优传输映射。

离散Brenier势能离散最优传输映射是离散Brenier势能函数的梯度映射。对于每一个目标离散点,我们构造一个平面 ,这里平面的截距是未知变量。这些平面的上包络(upper envelope)构成一个开放的凸多面体,恰为离散Brenier势能函数的图(Graph)

图6左侧显示了离散Briener势能函数。凸多面体在平面上的投影构成了平面的胞腔分解,凸多面体的每个面被映成了一个胞腔;每个面的梯度都是,因此Brenier势能函数的梯度映射就是。

根据保测度性质,每个胞腔的面积应该等于指定面积。由此,我们调节平面的截距以满足这个限制。根据亚历山大定理,这种截距存在,并且本质上唯一。

离散Wasserstein距离我们和丘成桐先生建立了变分法来求取平面的截距。给定截距向量,平面族为,其上包络构成的Briener势能函数为 上包络的投影生成了平面的胞腔分解 胞腔的面积记为。我们定义的能量为,

这个能量在子空间 上是严格凹的,其唯一的全局最大点就给出了满足保测度条件的截距。这个能量的非线性项,实际上是上包络截出的柱体体积,

图7给出了柱体体积的可视化,柱体体积是凸函数。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(42)

图7. 离散Brenier势能函数的图截出的柱体体积。

体积函数和Wasserstein距离之间相差一个勒让德变换(Legendre Transformation)。勒让德变换非常几何化,我们可以将其可视化。给定一个定义在实数轴上的二阶光滑凸函数,其图是一条凸曲线,这条凸曲线由其所有的切线包络而成。如果,在任意一点,函数的切线的斜率为y,则此切线的截距满足

这被称为是函数的勒让德变换。以切线的斜率为参数,以切线的截距为函数值。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(43)

图8.凸函数的图像由其切线包络而成,切线集合被表示成原函数的勒让德对偶。

因为的凸性,映射是微分同胚,记为。那么,原函数和勒让德变换后的函数满足关系:

这里c d是常数。原函数和其勒让德变换的直观图解由图9给出。我们在xy-平面上画出曲线,曲线下面的面积是,曲线上面的面积是勒让德变换。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(44)

图9. 图解勒让德变换。

勒让德变换的几何图景对任意维都对。我们下面来考察体积函数的勒让德变换。根据定义,

假如我们变动截距,或者等价地变动胞腔面积,考察两个胞腔交界处,

p本来属于,变化后属于,所有这种点的总面积为。则为Wasserstein距离带来的变化是:

因此,总的Wasserstein距离的变化是

由此我们看到Wasserstein距离等于

其非线性部分是柱体积的勒让德变换。

总结

通过以上讨论,我们看到给定两个概率分布,则存在唯一的一个凸函数(Brenier 势函数),其梯度映射把一个概率分布映成了另外一个概率分布。这个最优传输映射的传输代价就给出了两个概率分布之间的Wasserstein距离。Brenier势能函数,Wasserstein距离都有明晰的几何解释。

在Wasserstein-GAN模型中,通常生成器和判别器是用深度神经网络来实现的。根据最优传输理论,我们可以用Briener势函数来代替深度神经网络这个黑箱,从而使得整个系统变得透明。在另一层面上,深度神经网络本质上是在训练概率分布间的传输映射,因此有可能隐含地在学习最优传输映射,或者等价地Brenier势能函数。对这些问题的深入了解,将有助于我们看穿黑箱。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(45)

图10. 基于二维最优传输映射计算的曲面保面积参数化(area preserving parameterization),苏政宇作。

r语言机器学习预测模型(看穿机器学习W-GAN模型)(46)

r语言机器学习预测模型(看穿机器学习W-GAN模型)(47)

图11. 基于三维最优传输映射计算的保体积参数化 (volume preserving parameterization),苏科华作。

参考资料

  • [1]Arjovsky M. & Bottou L.eon (2017) Towards Principled Methods for Training Generative Adversarial Networks

  • [2] Arjovsky M. Soumith C. & Bottou L.eon (2017) Wasserstein GAN.

  • [3] Xianfeng Gu Feng Luo Jian Sun and Shing-Tung Yau Variational Principles forMinkowski Type Problems Discrete Optimal Transport and Discrete Monge-Ampere

    Equations Vol. 20 No. 2 pp. 383-398 Asian Journal of Mathematics (AJM) April 2016.

往期精彩文章

哈佛教授用3个大数据案例告诉你:大数据,重要的不是数据!

r语言机器学习预测模型(看穿机器学习W-GAN模型)(48)

r语言机器学习预测模型(看穿机器学习W-GAN模型)(49)

猜您喜欢: