移动互联网时代，某款应用的一夜爆红并不令人意外，毕竟大家已经对此习以为常了！但似乎还没有哪一款应用能能像ZAO这样，从“一夜爆红”到“一夜潮退”的速度如此之快，中间还引发过舆论对网络隐私的讨论，并被工信部约谈，如此大起大落相当少有！
仅六天！ZAO从爆红到潮退
相信大家对AI换脸都非常熟悉，而ZAO就是这样一款应用，仅需刷脸就能制作换脸视频，瞬间刷爆朋友圈，满足了许多用户成为明星/与喜爱演员同台竞技的梦想。但该应用一夜蹿红之后的第二天，就被发现用户协议存猫腻，涉嫌过度攫取用户授权，严重侵犯用户的人脸ID隐私权（用户协议要求用户“同意或者确保肖像权利人同意授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”）。
在引发隐私争议之后，ZAO回应称“十分理解大家对隐私问题的担忧”，并修改了具有争议的用户协议，增加“特别提示”称“用户上传的短视频及人脸等相关的内容将严格按相关法律法规的规定保留在ZAO上”。到了9月2日，ZAO的微信分享链接已被停止访问，更多网友也开始担心“个人肖像有被利用在低俗、色情换脸视频中的风险”。
9月3日，工业和信息化部网络安全管理局对ZAO的运营机构北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护，ZAO运营团队在当天发表致歉，并对用户协议引发的争议做了说明。
但不幸的是，在经历一系列质疑、修改用户协议、工信部约谈和官方致歉后，ZAO并没有得到网友“原谅”，不仅评分大跌，而且也社交圈似乎也销声匿迹了。事实上，我们恐怕无法期待ZAO带来明确的商业模式，以及较长产品生命力，这款引发舆论对人脸ID隐私担忧的应用看起来已“一夜潮退”，只留下大家对AI换脸技术的热议！
AI换脸技术饱受争议
虽说让“ZAO”饱受诟病的是其实际功能设计和用户协议条款，但我们也不得不承认，AI换脸技术本身就存在很大的隐私/道德/侵权风险：早在ZAO之前，就有许多AI换脸技术引发过业界关注，无论是用AI换脸技术将94版《射雕英雄传》中朱茵饰演的黄蓉换“脸”成杨幂的小视频，还是类似FakeApp等应用，都难以逃离用户隐私的困扰。
而最令人印象深刻的一款AI换脸技术，当属基于深度学习的AI换脸技术DeepFake，源于2017年底Reddit论坛上一位ID为“deepfakes”的网友，包括尼古拉斯·凯奇等明星在内的恶搞视频，引发了众多网友热情。不久之后，网络上有一些人开始将DeepFake用于合成色情影片，众多女明星（如盖尔·加朵，泰勒·斯威夫特、艾玛·沃特森和斯嘉丽·约翰逊等）成为受害者，不仅对明星名誉和隐私造成伤害，也让让大家意识到，AI换脸技术让真实和虚幻之间的界限正变得模糊。
可以说，能让任何没有技术背景、编程经验的人使用这类合成视频技术的DeepFake打开了“潘多拉魔盒”，以至于其脱离了恶搞范畴（特别该技术被用于色情影片后，成为与偷拍无异的工具，甚至开始往色情复仇方向发展）。而腾讯优图实验室总经理吴运声也曾指出，“现在网上有换脸技术，可通过技术制造声音、视频，还能用技术模拟出摄像头的录制，比如你没有到这里，但技术可以把你做到这里，很容易被黑产、灰产利用。”
用AI来对抗AI？
但我们也应意识到，业内不仅注意到类似现象，开始思考技术的底线在哪儿，并且也在尝试用AI来对抗AI，要避免新技术“助纣为虐”：Facebook与微软、Partnership on AI及多所大学的学者共同发起了一场竞赛，希望能更好地检测深度伪造技术；Facebook还委托研究人员生成逼真的深度伪造内容，希望通过这些数据集来测试检测工具的效果。
但另一方面，深度伪造技术的迅速发展在制作者与检测者之间引发了军备竞赛。“这是一场猫鼠游戏。如果我设计一个深度探测器，就会给攻击者一个新的鉴别器进行测试“，纽约大学坦登学校计算机工程助理教授Siddharth Garg表示。事实上，尽管许多人都试图找到检测AI换脸技术（如Deepfake）的方法，但单一有效的解决方案尚未出现。
虽然我们常说，技术本身没有问题，是有人利用技术作恶，但Deepfake作为被开源的技术仍可能被滥用的事实告诉我们，利用技术进行反制技术被用于作恶相当重要，因此Facebook等公司的研究结果相当值得期待。
写在最后
事实上，无论是ZAO所引发的各种争议，还是类Deepfake等技术的不断出现均表明，要高效安全地运用AI技术，法律的进一步完善、监管部门的规范管理、用户的隐私保护意识缺一不可。但目前来看，AI技术虽然引发了全球关注，但与之相对的工具伦理性等问题一直未被解决，进而造成个人隐私泄露、法律伦理困境。
至于在国内曾引发轰动的ZAO，有评论称，ZAO从盛到衰也不过是短短4天时间，这种过山车式玩法即使是在以速度著称的信息时代，也足够让人惊掉下巴了。也有业内评论称，ZAO很快就会卷土重来，并且大概率是携带着更确定的商业化应用场景。那么各位网友，你看好ZAO卷土重来吗？又对其背后的AI换脸技术有何看法？欢迎留言评论！
