【摘要】 近日，一款名为“ZAO”的换脸APP在社交网络走红，不少网友的朋友圈纷纷被这款能够利用AI技术“无缝换脸”的APP给刷屏。但是在走红也同时，关于这款APP的应用也引发了不
近日，一款名为“ZAO”的换脸APP在社交网络走红，不少网友的朋友圈纷纷被这款能够利用AI技术“无缝换脸”的APP给刷屏。但是在走红也同时，关于这款APP的应用也引发了不小的争议。
AI换脸APP“一夜爆红”
记者下载ZAO后发现，ZAO的口号为“仅需一张照片，出演天下好戏”。根据官方的介绍，利用AI技术，用户可以在ZAO软件上使用自己的照片替换影视剧或者小视频中的人物，从而生成以自己为主角的视频，完成一键换脸。
不过，需要注意的是，对于公众人物，需要确认肖像权有效后才可以正常使用。根据ZAO官方介绍，ZAO的精髓在于加好友玩，由此可见社交才是其产品定位，换脸只是为了吸引用户和互动的方式。
根据公开信息显示，ZAO在三个月前就已经发布，8月30日上线了正式版本，在引发了众多用户甚至明星的关注后，也吸引了众多用户的尝鲜。
一夜之间走红也让ZAO的服务器受到了考验。ZAO官方助手在30日夜间发布微博称“这个月花700万租的服务器，今晚已经消耗1/3了。明天如果继续火爆，我们只能做严格一些的限制。而在今天凌晨，ZAO又发布微博称，服务器现在还是满负荷。”
据记者从天眼查的公开信息了解到，ZAO所属公司由海南猫咖网络科技有限公司100%控股，法定代表人为陌陌联合创始人雷小亮。其中，海南猫咖网络科技有限公司则由雷小亮和陌陌COO王力各持股50%。
版权与隐私成最大隐患
据记者了解，在AI技术快速发展的今天，AI换脸视频并不是新鲜事。
资料显示，早在2017年，国外就首次出现用户将制作的AI换脸视频发布在网络上，但是由于该技术的特性，后期被大量应用于明星和色情行业，也备受外界争议。
而在国内，让公众对于AI换脸技术有所认知的，则是今年B站UP主"换脸哥"发布的一段94版射雕英雄传视频。在这段流传广泛的视频中，原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸，从这段视频可见，利用AI实现的换脸效果已经几乎以假乱真。
对于AI换脸技术的逐渐受到大众应用，业内人士也普遍表达了担忧：当任何人都能轻易使用这项技术并生成视频进行传播的话，对于版权和隐私将会造成极大的威胁。
据记者在ZAO的软件的版权声明中看到，"ZAO产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。"由此可见ZAO已经将版权问题归纳为用户行为，与平台无关。
此外在隐私保护方面，ZAO在用户使用前需要用户进行活体验证，且软件也向用户声明了详细的隐私保护协议，并对可能造成的隐私风险进行了说明，但从目前用户发布的“作品”看来，似乎也并不能阻止用户盗用他人照片进行视频的制作。
不仅如此，在ZAO的版权声明中“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”的条款也惹来了众多用户吐槽。不少网友表示，该条款“不仅离谱”，而且会为用户的信息安全带来重大风险，“如果被犯罪分子的利用怎么办？”
监管缺乏可能会引发重大安全风险
这种担忧并非空穴来风？腾讯研究院高级研究员曹建峰此前在接受记者采访时就曾表示，AI换脸会带来所谓的深度造假（deepfake），结合语音合成等技术，可以生成虚假的视频（如之前奥巴马的虚假视频）对政治、舆论等造成影响，使假新闻更难识别。
此外，就AI换脸技术自身而言，可能给个人的隐私、名誉、私生活安宁造成损害，因为恶意使用者可能用这项技术来诽谤、攻击他人。甚至用于从事诈骗。当然，也有可能触犯刑法，即如果用换脸技术来制作、传播淫秽色情。他建议，为AI技术制定伦理底线，鼓励正向利用，避免恶意滥用。
“AI技术也能达到武侠小说中的‘易容术’，那么，这将是人类有史以来最大规模的针对人的身份的欺诈行为。”中国社科院哲学研究所研究员段伟文告诉记者，这项技术如何应用，应该分清楚真实和虚拟的界限，例如在影视、游戏等领域可能会得到应用，而其它领域则应该被限制使用。利用AI技术对身份造假，越发表明隐私和数据的重要性，例如脸部信息、讲话、录像等信息，应禁止一般企业将其拿来造假。
除了引发的道德和伦理问题，一些“黑灰产”盯上了“AI换脸”技术。
早在2017年的央视3·15晚会直播的“换脸术”，主持人仅凭一张观众自拍照就上演了现实版“换脸术”，成功攻破人脸认证。据阿里安全图灵实验室高级算法专家觉奥介绍，黑灰产也在利用AI换脸，是目前常见的一种攻击手段，“在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用AI的手段来解决AI的攻击”。
“这几年，由于深度学习的迅猛发展，攻、防的技术都在不断进步，这是一个持续、动态对抗的过程。”觉奥表示。当前无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，包括人脸识别系统，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。
据记者了解，此前《民法典人格权编（草案）》二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定：不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。此项法律规定，无疑将对当前似乎愈演愈烈的AI换脸潮流有明确的规范作用。
【南方网全媒体记者】叶丹
相关话题
“AI换脸”侵权了吗？
肖像权要保护，批评调侃要包容
从明星杨幂成功换脸《射雕英雄传》中的朱茵，到蔡徐坤因鬼畜视频向哔哩哔哩弹幕网发去律师函，今年来，“AI换脸”多次成为网上热词。
在互联网高速发展时代，“P图”早已见怪不怪，但当发现“换脸”后的视频也真假难辨时，不少人开始感到担忧：换脸技术是否会被滥用？视频证据可信度是否会打折？个人权益是否会被损害？……
4月20日，民法典人格权编草案二审稿提交审议，并对“AI换脸”等问题作出了规范，明确任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。
这一消息给众人打了一剂“强心针”，不过，一些法律工作者认为，公众人物与一般人的肖像权保护应有所区别，对合理的批评调侃声音，立法应给予一定空间。
以营利作为侵权要件具有局限性
今年2月，一条女星换脸视频在网上走红，视频中，1994版《射雕英雄传》电视剧里朱茵扮演的黄蓉，被换上了杨幂的脸，但表情仍然活灵活现，几乎找不出破绽。这条视频让不少人第一次认识到“AI换脸”以假乱真的程度，网上点击量很快超过了1亿。
在一些技术论坛上，这种技术被称为“Deepfakes”，可以通过人工智能算法，对大量的照片进行模型训练，然后将训练运用在另一个人的视频上，让人工智能对视频中的人脸进行自动匹配。
记者调查发现，这种技术门槛并不高，一些爱好者还专门在论坛上发布了使用教程，并提供了安装包。
结果，不少名人因此“躺枪”。除了将女主播的脸换成明星唐嫣、将电视剧《回家的诱惑》中女角色的脸换成演员凌潇肃，一些人还对通过选秀节目C位出道的蔡徐坤进行了恶搞。
4月12日，蔡徐坤工作室公布了针对B站（哔哩哔哩弹幕网）的律师函，称B站严重侵犯蔡徐坤的“名誉权”“肖像权”“表演权”等多项权利。这一事件迅速引爆网络，连日来讨论不断。
“AI换脸”是否构成侵权？广州市律师协会副会长詹礼愿告诉记者，现行法律对肖像权的规定相对宽松，将侵犯肖像权的行为多限制在营利范围之内，司法实践中常见的侵权形式，主要是未经本人同意、以营利为目的的使用行为。
“保护肖像权更重要的目的在于保护肖像权人的人格权利，将以营利为目的作为侵权要件，具有一定局限性。”广东国匠律师事务所党支部书记、律师颜勇认为，如果恶搞视频存在捏造事实，公然丑化明星人格，或用侮辱、诽谤等方式损害明星名誉的情况，可能构成名誉权侵权，他建议社会公众对公众人物的批判控制在合理合法的范围内。
立法应平衡合理监督与肖像权保护
不过，随着民法典人格权编草案二审稿的提请审议，“AI换脸”的讨论迎来新进展。草案针对肖像权的专门规定，被业界认为是一种严格保护。
这意味着，如果这一规定在后续立法流程中没有更改，当《民法典》正式施行后，只要权利人没有同意，即便不以营利为目的，对权利人的恶搞、换脸等行为也将构成侵权。
但在一些法律工作者看来，出于维护公共利益和满足公众兴趣的需要，公众人物的隐私权、肖像权等理应受到一定程度的限制，适当的曝光、批评与监督，恰恰是公民言论自由的重要组成部分，不应对此过于苛责。
事实上，一些坦然接受调侃或批评的公众人物，反而收获了更高的人气。
在B站鬼畜（一种再创作艺术形式）视频区，拍摄洗发水广告的成龙、电视剧《三国演义》中舌战王朗的唐国强、在综艺节目中因一句“真香”成为“梗王”的王境泽等，都是热门的鬼畜素材。唐国强甚至还亲自到B站给up主（音视频上传者）颁奖，这样的心态受到了更多年轻人的喜爱。
但詹礼愿认为，公众人物也是民法规定的民事主体中的自然人，具有完全的民事主体资格，对侵犯其人格权的行为不应无条件放任。“无论‘AI换脸’还是别的形式，能否使用他人肖像，不是看是否增加了权利人知名度，而要取决于权利人的主观意愿。”
詹礼愿建议，对肖像权的规定可适当折衷，当公众人物明确表态禁止使用其肖像时，相关网站或视频上传者仍不删除，才可认定为侵权。
在华南师范大学法学院副教授阳庚德看来，“AI换脸”是新技术对老问题的一个挑战，立法过程中应考虑到公众合理监督与公众人物肖像权保护的平衡，故意侵害他人权益的行为，自然要承担侵权责任，但对过失侵权应考虑给予一定的豁免。
“侵权责任法中有过错客观标准的概念，具体来说，就是是否尽到了一般人应尽的注意义务。”阳庚德说，比如恶搞明星，如果是一般人都能接受的程度，对这样的批评或调侃声音，公众人物应当适度地包容。
【南方网全媒体记者】尚黎阳