视频换脸:人工智能的一场狂想曲

来源:《中国报业》杂志    作者:汤 慧    人气:    发布时间:2019-12-30    
  【摘要】人工智能迅速发展, AI视频换脸技术风靡一时,面对产生的一系列的连锁反应,不免让人心存疑虑。本文从AI技术视频换脸软件的源起,探讨当下国内APP的应用现象,分析在人工智能大环境下,AI技术换脸应用对个人和社会的影响,以及公众应该如何面对。
  【关键词】AI技术  视频换脸  人工智能 深度伪造  【中图分类号】 F23   【文献标识码】A
 
  近期,名为AI技术换脸(“ZAO”)的视频合成APP应用被人们所注意,随之被一些领域滥用,引发人们的担忧。一直以来人们津津乐道的人工智能技术,这次怎么成为了众矢之的?
  AI技术换脸视频的源起
  2017年底,国外一位网友创造了AI换脸算法(Deepfake),并公开在帖子中详细介绍AI换脸视频的生成方法。短短30天,就有1.5万用户在社交媒体上阅读了这条消息,并根据教程生成出大量换脸视频。
  “Deepfake”是一项基于AI的假视频生成方法,是人工智能大家族里的一个分支。实际上,“Deepfake”并不是一种单纯的技术和容易上手操作的软件,它是多种技术的组合形式,以特定人脸为目标来源,输入之后软件进行图像处理,原来的人脸被另一个人脸所替代。换脸分为五个步骤:视频转换图片、提取脸部、训练模型、人脸替换、合成视频。经过适当的后期处理,生成的视频可以达到较高的真实度。
  给无法分辨虚假的网络带来又一次冲击
  基于机器自动处理的免费软件,让用户在视频中进行人脸替换变得容易,观看者几乎发现不了操作痕迹,这就是所谓的“Deepfake”视频。之后更出现了“FakeApp”“DeepFaceLab”等制作技术更逼真的软件工具。
  由于互联网中存在的大量照片和素材,明星和政治家首当其冲成为第一批深度伪造的素材。奥巴马、特朗普、斯佳丽·约翰、盖儿·加朵、艾玛·沃森特等都成为制作素材。AI技术通过机器学习素材原脸的面部动态、说话时的嘴唇形状和视线聚焦角度等,实现人脸的更换。
  2019年6月,社交媒体Facebook首席执行官Mark Zuckerbegn的一段被换脸的视频出现在网上,在合成的视频里,Zuckerberg的声音听起来像机器人。在此之前,有一段美国众议院院长Nancy Pelosi被篡改的视频,视频中Nancy Pelosi形似酒醉,声音奇怪,视频速度放慢了75%。在人工智能技术越来越完善的情况下,公众无法判断什么是真相。在极端情况下,一个伪装的换脸假视频可能会损害新闻媒体的可信度,甚至导致社会动荡,影响公共安全。
  在过去一年里,女明星斯佳丽·约翰的脸已经被嫁接到数十个色情视频里,播放量最高超过150万次。在类似事件中,受害者远远不止明星,普通女性也可能某天会发现自己的脸出现在视频中。对于明星而言,毕竟公众都知道影片是假的。但如果是普通人,真假就难以辨别了。因此,影像资料保护变得尤为重要。
  需要引起重视的是,制造换脸软件的人一直在不断地研究新技术,这个趋势更加让人担忧。前几年,大家还在说“无图无真相”,现在即使“有视频也无真相”。AI换脸软件给本来无法分辨虚假的网络带来了又一次冲击。
  仅需一张照片,出演天下好戏
  “仅需一张照片,出演天下好戏”——这句话是“ZAO”在苹果手机客户商店的下载介绍说明。在计算机技术日益成熟的情况下,换脸软件可以用网络上便利的资源包以及操作程序来完成。2019年8月,微博上的APP软件“ZAO”让用户体验换脸,很快火了起来。换脸短视频分辨率要求不高,用户只要使用手机输入图片,便可以得到一段30秒的短视频,这项操作大大降低了换脸技术的门槛。
  对于普通大众而言,在社交媒体上看到周围的人都在玩,对专业技术畏难的心理会逐渐瓦解,简单的体验程序,新奇好玩有代入感,都在一个小小的短视频传播中得以实现。对于市场而言,换脸APP在社交网络中火爆传播,对市场甚至整个产业,都可能是一次新趋势的狂欢。
  从《速度与激情7》中已逝演员保罗·沃克的音容笑貌重现出现,到动漫人物形象洛天依的跨年演唱,再到《射雕英雄传》中演员杨幂和朱茵角色的更换,电视剧《都挺好》里吴彦祖的脸替换倪大红,换脸技术很快深入大众生活,引发公众的点击狂潮。
  假象成为独立的拟象
  当AI收集的人脸数据库足够丰富时,伴随着人工智能技术的发展,无论是AI人脸成像,还是AI空间场景建立,“深度造假”伪装成“真实存在”的技术,会让大家丧失对真实还是虚拟世界的判断能力。
  “你要的样子我都有”,AI换脸技术APP将用户上传的照片投放到社交媒体平台上,实现用户和明星以视频方式“换脸”。针对这项创意,用户也表达出了担忧:通过眨眼识别、点头、面容疲惫的方式采集用户面貌,像极了很多支付平台用人脸识别的付款方式。在当下的付款方式中,输入支付密码和指纹已经不是唯一途径,更多平台可以“刷脸”支付,人脸已经成为付款途径之一。动态的人脸验证,会给用户带来隐私、肖像权等方面的安全隐患。因为网络平台上的视频有可能是深度伪造。
  随着人工智能的不断强化,人们很难通过技术手段判断人的面容是否被替换过,所以该技术在带给人们新鲜感的同时,也一直存在争议。显而易见,AI技术换脸APP存在不少缺陷。由于操作相对简便,容易被心存不良的人违法使用,制作各种触碰法律、伦理、道德边界,甚至引发政治冲突的事件。
  一夜之间爆红的换脸软件,一键操作视频的输入输出,恐惧也随之出现,就像ZAO在签订用户协议时,在“必要授权”栏中要求有实际权力人及肖像权人的同意和授权。在大数据时代,数据获取边界模糊,这种广泛收集数据的方式,势必会形成对个人隐私安全的威胁。
  除此之外,由于视频记录了物体动态的变化,人们往往认为视频是可靠真实的媒体来源,比图片的可信度更高。AI技术换脸APP的出现,损害了信息的真实性。伪造视频是AI技术精心设计的一种假象,人脸成为符号,被替换、合成、滥用、恶搞,而普通大众却无法预知未来将会发生的伤害。
  机器可以替代人类完成很多事情,但机器是纯粹沉默的理性操作,人类必须承担自己的责任。在工业化和数字化的今天,无数文本和形象作为视频中传播的构成元素,本身携带了太多的信息。AI技术换脸后的新视频,由视频产生过程中的各个事件组成,这些事件相互之间发生牵连和影响,使视频组成了一个相互联系的体系,其中各个事件所生成的结果都具有特殊性。
  AI换脸APP在视频生成过程中,新的信息在不断构建记录,并延续着过去的状态,衍生出新的内容。这个新视频可能由整个事件构成,也可能由事件中的一些片段组成。在人工智能的大环境下,我们担心的是未来的发展,因为我们所见到的视频未必是真实的。人工智能带来科技的力量,但也带来可怕之处——可以伪造真相,这是我们必须要高度警惕的。
  (作者单位:上海大学)
  参考文献
  [1]智东西.美国刮起“反AI换脸”热潮,创企各出奇招,联合对抗deepfakes [EB/OL].https://t.cj.sina.com.cn/articles/view/5213469505/136bf3b4102700gron,2019.
  [2]岛子.后现代艺术系谱[M].重庆:重庆出版社,2007.
  责编/邓应华
来源:《中国报业》杂志2019年11月(下)P60-61

责任编辑:王文钰 审核:戴靖