一键换脸软件（一键换脸明星被参与）
一键换脸软件（一键换脸明星被参与）▲经过长达8小时的工作，Kevin Roose将自己的脸覆盖在了瑞恩·高斯林（Ryan Gosling）的脸上。视频有些模糊，高斯林的脸会偶尔闪现，基本上能看出来是合成视频。 ▲测试正式开始。首先，这个小团队给Kevin Roose的面部拍了几百张照片，其中包括各种角度的奇怪表情。 即使是在像Reddit这样的道德松懈的网站上，deepfake视频也引起了公愤。当有人开始用FakeApp制作色情视频并散布后，Pornhub、Twitter等网站都在第一时间屏蔽了这些视频。Reddit也关闭了几个deepfake群组，其中一个群组拥有近 10 万名成员。但是潘多拉的盒子已经被打开，即使群组被关闭，很多成员还在私下举办分享会，聚在一起交流视频编辑技巧并展示自己新作的假视频。即使如此，仍有Reddit用户为deepfake视频鸣不平，他们认为媒体夸大了它的潜在危害。有一些用户把他们的视频转移到其
BBC记录片一向制作精良，受到很多人的追捧。但5日BBC承认在2011年出品的《人类星球》（Human Planet）中，伪造了西巴布亚居民在35米高的树屋上居住的场景，令不少粉丝感到心碎。面对类似事件的发生，包括肆无忌惮地抄袭类节目、为了达到播放效果而违背事实进行的视频造假，人们是否越来越对自己所看到的东西产生怀疑？今年，更有以假乱真的deepfake视频出现，他们利用科技对视频画面进行“换脸”，将明星变成了色情片的主人公。
现实版《黑镜》deepfake视频是基于FakeApp程序创建的、一种通过人工智能软件制作、效果极其逼真的假视频。它将女星的面孔与色情演员的身体合成，合成之后的效果不可思议，如果你不知道真相，很可能会认为这是一起“艳照门”。《权力的游戏》《哈利波特》《神奇女侠》的女演员，甚至美国前第一夫人米歇尔·奥巴马（Michelle Obama）都曾成为假视频主角。
▲以假乱真的“盖尔·加朵”。
自1月份在Reddit发布之后，通过谷歌开源软件建立的FakeApp下载量已经超过12万次。deepfake视频明显是数字媒体精妙处理的最新结晶，也很容易运用到各种恶搞当中。不难想象，这种技术可用于抹黑政客、伪造报复性色情内容，甚至陷害他人入罪。立法者开始担心，这种视频可能被用于政治阴谋和虚假宣传。
即使是在像Reddit这样的道德松懈的网站上，deepfake视频也引起了公愤。当有人开始用FakeApp制作色情视频并散布后，Pornhub、Twitter等网站都在第一时间屏蔽了这些视频。Reddit也关闭了几个deepfake群组，其中一个群组拥有近 10 万名成员。但是潘多拉的盒子已经被打开，即使群组被关闭，很多成员还在私下举办分享会，聚在一起交流视频编辑技巧并展示自己新作的假视频。
即使如此，仍有Reddit用户为deepfake视频鸣不平，他们认为媒体夸大了它的潜在危害。有一些用户把他们的视频转移到其他平台上，还有一些人出于道德对这种技术的出现深感不安。但视频的制作仍未停下。一名用户认为“这简直可以拍成《黑镜》了”，如果将B的脸以无缝、不可追踪的方式叠加在A的脸上，那么A的裸照是否直接成为了B的裸照？在更广泛的意义上来说，在互联网上，表象与现实有区别吗？
创作一个deepfake视频真的很容易吗？《纽约时报》记者Kevin Roose在Reddit的deepfake社区潜伏几个星期之后，决定用自己的脸做个试验制作一些非色情的视频。他下载了FakeApp之后找到了《纽约时报》研发部门的同事马克·麦基格（Mark McKeague）和Reddit上找到的一个昵称是Derpfakes的deepfake视频制作者帮忙。（Derpfakes制作的视频多以幽默类为主。）
▲测试正式开始。首先，这个小团队给Kevin Roose的面部拍了几百张照片，其中包括各种角度的奇怪表情。
▲经过长达8小时的工作，Kevin Roose将自己的脸覆盖在了瑞恩·高斯林（Ryan Gosling）的脸上。视频有些模糊，高斯林的脸会偶尔闪现，基本上能看出来是合成视频。
▲随后，他们又尝试覆盖了《侏罗纪世界》主演克里斯·帕拉特（Chris Pratt）的面部。为了此次测试，他们使用了更大的数据集，并让模型彻夜运行，取得了较好的效果。
▲几天后，Derpfakes发给了Kevin Roose一个deepfake视频——一个将Kevin Roose与演员杰克·吉伦哈尔（Jake Gyllenhaal）面部结合的视频，效果十分逼真，几乎难以辨认。
▲吉米·坎摩尔（Jimmy Kimmel）和列维·施瑞博尔（Liev Schreiber）也成为了他们的素材之一。
整个实验历时了3天，Kevin Roose在Google云计算平台上花费了85.96美元，对于想要搞些大新闻的人而言，这确实是小数目。最终，他得出一个结论：制作一个deepfake视频并非轻而易举，但也不像火箭技术那样难以钻研。随后，Kevin Roose联系了FakeApp的开发者，想知道他开发这个软件的初衷，是否真的是为了让大家聚在一起制作视频作品？一名男子回信表示，这本是一个创造性的实验，但是事件发展至此他感到很懊悔。他也不支持通过FakeApp制作非自愿的色情作品和不良内容，但他认为不应当对技术本身进行谴责，因为技术的诞生本就意味着它会被运用于多种目的，无论好坏。
打击假视频，AI之外区块链也可行？
从这件事来说，人工智能的发展与运用已经超出了一些人的想象。一张脸换成另一张脸，这与Snapchat等软件中的低级却富有趣味性的换脸技术相比，有着完全不一样的现实意义与影响，《大西洋月刊》认为这简直就是互联网时代发明的最残忍、最具侵略性的身份盗窃形式之一。如果要说其他形式，那又要提到俄罗斯水军工厂在社交媒体上洗脑网友、Facebook数据泄露事件。互联网上总是蕴藏着后现代地狱的种子，在这个让“身份”变得可怕的地方，越来越多的粗俗和混乱事件滋生。
目前，大多数平台都依赖于关键词过滤及用户的举报来屏蔽内容不良的deepfake视频。但GIF动图托管公司Gfycat开始利用人工智能识别假视频，一般情况下，他们在识别到deepfake视频后会重新上传更好的版本或是直接将视频主角的脸部覆盖。但是，人们仍旧担心deepfake视频的创作者学会如何规避，这可能只是时间问题。
《连线》杂志还提出区块链或许也能用于打击假视频，毕竟条形码一开始也并非运用于商品包装。区块链的基本原理是分散式公共账本的概念，并不仅限于被狂热的无政府主义者所用。由于区块链无法存储大量流媒体数据，得克萨斯州的Factom公司正基于现有的比特币基础设施打造一个平台，计划用简化的方式记录某个数据或文件在特定时间的存在证据。这意味着，实际操作中来自某个摄像机的10分钟视频数据块会存储在Factom数据结构中。而基于Factom的分析方法，能保证这一时间段的视频数据的“真实性”。
