一张自拍，就能够把短视频中的人物换成用户自己的脸。8月30日晚间以来，AI换脸运用“ZAO”刷屏朋友圈。
从技能原理上来说，“ZAO”选用的AI（人工智能）换脸技能，早在2017年12月就在海外呈现。开端，这项名为“deepfakes”的技能，被少量懂技能的人用来换脸色情片女主角。跟着一款桌面运用程序FakeApp的呈现，不明白技能的人也能简略制造换脸假视频，互联网上广泛呈现的假脸视频早已广泛撒播。
在美国，出于私家报复意图制造的换脸视频，以及政党进犯的政客换脸视频随后呈现，蒙骗了数百万人，花费了很长时刻才得以驳斥谣言。
2019年6月，Bill Posters制造的扎克伯格换脸视频发布在Instagram上
2019年6月，一则以Facebook创始人兼首席执行官马克·扎克伯格为主角的的换脸视频呈现，引发媒体和言论的广泛重视。对此，Facebook决议不删去这条视频，而是依据渠道处理假新闻的一向流程操作，终究给予了这条视频限流处理。
同月，美国众议员对deepfakes正式举行听证会，敦促科技公司要在2020年美国总统大选之前拟定出方针，“维护用户免受假新闻的误导。”
换脸技能Deepfakes初露脸，用于换脸色情视频
2017年12月，Deepfakes被媒体曝光后初次呈现在群众视界。一位网名为“deepfakes”的Reddit论坛用户运用人工智能技能，将色情片女主角的脸换成了《神奇女侠》主演盖尔·加朵。
“deepfakes”发布了一系列换脸女明星的色情片视频，Deepfakes这个网名因此在媒体报导中，成为了这类换脸假视频的专有名词。即把“深度学习（Deep learning）”一词改写为“深度造假”。短短几个月内，deepfakes账号现已具有了超越8万名重视者。
2018年2月，Reddit总算出手，封禁了deepfakes色情视频，封闭了网站上的deepfakes内容社区。
2018年2月，Reddit封闭了网站上的deepfakes内容社区
据华盛顿邮报其时报导，这种换脸视频制造简略，不需求专门的影视工作室，是这种视频在网上敏捷激增的主要原因。
据Vice旗下Motherboard解说的技能原理，这种视频选用现成的技能即可制造。首要，制造者运用开源东西在交际网络上下载受害者的很多相片，大约需求几百张。一旦他们取得足够多的方针名人面部相片之后，再寻觅一个适宜的色情片女演员的身体，就能够进行嫁接。从这个意义上说，色情片女演员也是受害者。
一些deepfakes视频制造者现已能够很熟练地运用依据浏览器的运用，运用面部辨认软件来寻觅最适合匹配的脸和身体。把数据喂给给互联网上免费可得的机器学习算法，就能够制造出非常传神可信的假色情视频。
桌面运用FakeApp呈现，不明白技能的人也能制造换脸视频
2018年1月底，一款匿名开发者依据deepfakes制造的、用户友爱的桌面运用程序FakeApp正式问世，并敞开下载。这款运用选用了和开端deepfakes相同的谷歌开源的TensorFlow结构，让不明白技能的用户能够相对简略地制造换脸色情视频。
很快，Vice宣布了一篇后续文章，报导了人们发现有的换脸色情视频中是自己在高中或其他场合知道的人，被AI换脸技能制造了报复色情片。在Reddit网站和谈天运用Discord上，都呈现了指认人物的帖子，这才导致2018年2月起多家网站对这种换脸视频的一系列封禁。
但全球互联网上广泛呈现的作假视频现已众多。
2018年4月，美国文娱网站Buzzfeed发布了一条极端传神的视频，视频中，美国前总统奥巴马用他的声响和惯用动作讲了一段他从没说过的话。这条视频是一个人选用FakeApp制造的，听说花费了56个小时来收集和汇总奥巴马的模型。该视频清晰表明便是用AI换脸技能制造，为了正告咱们这种技能的危害性。
2018年4月，Buzzfeed制造的奥巴马换脸视频
但这条视频发布之后，各类政经大佬的换脸假视频开端病毒式传达，骗过了数百万人。让Deepfakes视频的危险性越发杰出，迫使大型渠道采纳技能手段对其封禁。
换脸扎克伯格视频引发言论争议
除了多位美国政客说话的做假视频掀起了言论波涛，花费很长时刻才得以驳斥谣言之外，2019年6月，一则Facebook创始人马克·扎克伯格的假视频也引发了广泛重视。
这则扎克伯格的换脸视频开端在Instagram上呈现，打上了CBSN电视台的角标，伪装成电视节目，但这则节目从未有过。视频中的“扎克伯格”说：“幻想一下，一个人，彻底把握着数十亿人的数据，他们的隐秘、他们的日子、他们的未来。我将这一切都归功于Spectre。Spectre向我展现了谁操控了数据，谁就操控了未来。”
上述扎克伯格换脸视频其实是一场营销。视频中“扎克伯格”所说的Spectre字面意思是鬼魂，实际上是指一个艺术展。该展览中展出了艺术家Bill Posters和一个广告公司一同制造的一系列deepfakes假视频。Posters称，视频是对大型科技公司的批评。
这一换脸视频引发了CBSN电视台的商标投诉，别的，Facebook回绝撤下视频。
Facebook对Vice表明：“咱们会像处理一切的Instagram上面的假新闻相同处理这个内容。假如第三方核对者将它标记为假，咱们就会从Instagram的引荐页上将其滤除，如发现页面和hashtag页面。”
随后，多个Facebook的现实核对员标记了这个视频，并限流了这个视频的传达。制造了这个换脸视频的艺术家对此表明批评，称“假如咱们不能用艺术批评性地详细询问科技巨子，那咱们要怎么才干对这些极端重要的议题打开严厉讨论和争辩呢？”
美国众议院举行听证会，敦促科技公司大选前主意处理
2019年6月，deepfakes换脸技能呈现一年半之后，美国众议院总算对deepfakes打开了一场听证会。
这场美国众议院情报委员会听证会上，美国立法者总算听到了围绕着deepfakes打开的官方证词，并许诺要审视“AI赋能的虚伪内容引发的国家安全的要挟，要采纳哪些办法才干发现并进行冲击。在这之中，公共部门、私营部门和整个社会要怎么做才干应对这种严峻的‘后本相’的未来。”
听证会上，共和党众议员Schiff敦促科技公司，要在2020年美国总统大选之前拟定出方针，“维护用户免受假新闻的误导。”
现在，“ZAO”刷屏朋友圈，在我国引发了关于隐私安全的忧虑。
有网友谈论：“有手机号，有面部图画，经过技能组成，犯罪分子能够替你和你家人通话了。”
