当科技超越人类(纵使披上科技的外衣)
当科技超越人类(纵使披上科技的外衣)之前的DeepFake就是使用了GAN技术,它可生成不存在的人脸。GAN之所以如此优秀,是因为它会让两个神经网络互相博弈,网络的一部分生成照片,另一部分将它们与训练数据进行比较。但如果图片的分辨率较低,或者只是随便看一眼,伪造的图像很容易被误认为是真实的东西。DeepNude背后是一种叫“生成对抗网络 (GAN)” 的机器学习方法。这些网络通过大量数据(在DeepNude的例子里,是1万张裸女的照片)进行操作,学习其中的模式,然后尝试复制所看到的内容。
最近,一个新的软件工具在国外流行,只需要提供一张照片,它就可以生成一张逼真的女性裸体图。
该应用程序被称为DeepNude,它是人工智能用来伪造图片的最新例子,该软件可以免费下载到Windows,其高级版本提供更高分辨率的输出图像,售价99美元。
软件的免费版和高级版都为AI生成的裸体添加了水印,清楚地将它们标识为“假的”。
假的裸体并不完美,放大图片,会发现肉体模糊且像素化,当目标已经穿着像泳衣这样的“露肉”衣服时,生成的照片和原作的差别就更加明显。
但如果图片的分辨率较低,或者只是随便看一眼,伪造的图像很容易被误认为是真实的东西。
DeepNude背后是一种叫“生成对抗网络 (GAN)” 的机器学习方法。
这些网络通过大量数据(在DeepNude的例子里,是1万张裸女的照片)进行操作,学习其中的模式,然后尝试复制所看到的内容。
GAN之所以如此优秀,是因为它会让两个神经网络互相博弈,网络的一部分生成照片,另一部分将它们与训练数据进行比较。
之前的DeepFake就是使用了GAN技术,它可生成不存在的人脸。
DeepFake还可以用来制造视频,给视频里的主角“换脸”。
DeepFake用Google搜索的图片和YouTube视频搜集了好莱坞女星盖尔加朵的大量素材,然后用这些素材训练深度学习网络。
经过反复的训练,系统从素材中提取出了图像,并生成图谱,然后在视频中对头像进行替换,找到合适的帧率,一段价值连城的AV视频就诞生了:
此前人们对于Deepfake最大的担忧在于假新闻和政治宣传上。
比如制造一张假的特朗普视频,说一些特朗普现实中从未说过的话,就能对政治甚至社会产生很深的影响。
但事实是,DeepFake自诞生以来,最大的受害群体一直是女性,大量的视频和照片在PornHub和Reddit等平台上传播。
在这一点上,DeepNude也是如出一辙。
DeepNude在一上线就引起了轰动,短短几天内获得了50万的用户,服务器几度出现了宕机。
很多使用者都不怀好意,它们用软件生成女性裸体照片进行传播,有的为了自娱自乐,有的为了更深层次的目的。
这些照片除了可以“剥离”女明星的衣服外,也可以对同事、朋友使用,最后就变成了另一种形式的复仇色情,可以用来骚扰、恐吓、羞辱女性,对受害者产生心理阴影,甚至危害职业生涯。
DeepNude的开发者可能并没有恶意,它们故意在生成的图片上强制加上水印,就是为了防止图片泄露后容易被人信以为真。
在DeepNude上线几天后,由于潜在风险和越来越高的知名度封杀,只剩下官方留下的一段话:
在DeepNude的终点,我们想谈谈它简短的历史。几个月前,我们启动了这个项目,完全是出于娱乐的目的。
我们最初以为,网站一个月也就卖个几份,一切都在可控范围内。说实话,这个应用没那么完美,它只对特定的图片才有效,我们从来没想过它会像病毒一样传播,流量大到控制不住。
出于安全的考虑,我们给照片打了码,但面对50万用户,滥用的风险还是很大的。我们不希望通过这种方式挣钱,一些照片会在网上流传,但我们不想做那个背后获利的人。
如果有人能从其他渠道下载分享假照片,就违背了我们本来的意图。所以从现在开始,DeepNude不会再放出其他版本,也不会授权任何人使用。
这个世界还没做好迎接DeepNude的准备。
回顾历史,很多技术的起步都是以暴力和色情为主的,VR早期的爆发式增长,离不开VR色情小电影的传播,区块链最早的大规模应用,是暗网上用来非法交易和洗钱的加密货币...
这个世界永远不会做好迎接DeepNude的准备,该感到羞耻的不是技术而是人。
我们只希望DeepNude背后的GAN能被更好地管控和应用,不要让它成为人类展现恶的出口。