▪ AI换脸App“ZAO”引爆社交网络,但背后的技术由来已久;
▪ 刷屏视频涉嫌侵犯他人肖像权、名誉权、著作权等多项权力;
▪ AI换脸可能引发一系列隐私及伦理问题,作为普通用户也不得不防。
从昨天晚间开始,一个名为“ZAO”的AI换脸App忽然火爆全网,用这款App制作的换脸视频在微博、朋友圈随处可见。用户只需要上传一张照片,就能将自己的脸替换成“小李子”“周润发”“白展堂”“玛丽莲梦露”“绯红女巫”等人的脸,其人脸融合效果几乎能够以假乱真。用户可以通过这个软件制作GIF动画表情,也可以将自己换脸成偶像的搭档,还可以与好友两人一起进行换脸。微信指数显示,“ZAO” App 的传播热度直线上升早在2017年12月,国外一个ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸,有些肉眼甚至难以分辨真假。由于效果逼真,“deepfakes”技术也被人应用在了一些**中。数以万计的名人**电影迅速充斥Reddit,随后国外不少**网站的各种推送页面也被占领,最后连社交网络Twitter也沦陷。包括斯嘉丽·约翰逊和《神奇女侠》女主角盖尔·加朵在内的多名女星都因为AI换脸技术,“出演”了多部**电影。随后,面临法律和公关等多重压力,Reddit等网站先后撤下所有AI换脸视频,并宣布此后禁止类似视频上传。迫于压力,Reddit还封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。在代码开源后,只要具备基础的电脑知识,即使一个“菜鸟”也能在几个小时内做出一部换脸视频,该项技术立刻风靡全球。人们为了纪念“deepfakes”,就采用它的ID命名了AI换脸技术,称之为“deepfakes”。今年年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频中,饰演黄蓉的朱茵的脸被替换成杨幂,“换脸哥”所使用的技术就是“deepfakes”。
虽然“ZAO” App并没有表示其换脸技术源自开源的“deepfakes”(“深度造假”)代码,但二者的技术确实存在强烈的相似性。“AI换脸一时爽”,但从目前看来,后续侵权、伦理等方面的风险层出不穷。作为一个用户,在下载App尝鲜制作、传播换脸视频的同时,也要考虑到它可能会给你带来的麻烦。涉及到换脸这么一个魔幻而又敏感的话题,是否可能侵权自然是第一个重要议题。针对逐渐开始泛滥的AI换脸视频,北京金诚同达律师事务所的刘宗鑫律师曾表示,AI换脸技术涉嫌侵犯他人的肖像权、名誉权和著作权等多项权利。我们来具体看一下很多用户恐怕在注册的事后都没有细看过的“ZAO”的用户协议。其中有这么一部分:“6. 您的必要授权:除非另有约定,您使用“ZAO”上传及/或发布的用户内容的所有权、知识产权及其他法律权利,归您、您的许可方或者您的关联方所有,责任亦由您承担。”这个条款字面上的意思已经非常明确了,基于细节条款,“ZAO”及其关联公司以及“ZAO”用户实质上获得许可,用户上传内容后即是默认授予了自己上传内容的部分使用权;而一旦构成侵权,“责任亦由您承担”。
“1) 在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予“ZAO”及其关联公司以及“ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利;”
这也就意味着你的内容一旦上传之后,就是默认许可“ZAO”以及“ZAO”平台上的所有用户进行再次改编使用了——这里的风险想来也不用我们细说。“2)如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。”这一条则是明确了“ZAO”及其关联公司有对用户内容再次使用的权利。“3) “ZAO”及其关联公司可自行选择是否使用以及使用方式,包括但不限于将前述信息在“ZAO”及其关联公司旗下的服务平台上使用与传播,将上述信息再次编辑后使用,以及由“ZAO”及其关联公司授权给合作方使用、编辑与传播等。“ZAO”及其关联公司将尽最大努力在合理范围内使用上述内容,且您的必要授权并不代表“ZAO”及其关联公司对上述信息内容的必然使用,也不改变上述信息内容的所有权及其知识产权归属,更不影响您对上述内容信息任何合法使用;”这一条则是为“ZAO”之后对用户UGC的使用、跨平台的二次传播,以及再编辑后使用,以及向合作方再次授权进行了规定。也就是说,基于这些条款下,你上传的内容不但可能在“ZAO”被传播,甚至可能经“ZAO”的授权许可被分发到其他平台上——而这一切都是在你点击注册的一刻就已经默认授权许可了的。
实际上,根据法律规定,任何人在未经肖像权人同意之前,都不得擅自将他人的形象制作成肖像,或者擅自使用他人肖像,否则构成侵权行为。今年4月二审的《民法典人格权编(草案)》里,就已经有明文规定“任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。”一个简单粗暴的解释就是,在新的《民法典人格权编(草案)》下,管你是不是营利行为,只要被使用了肖像权的用户(可能是你随手上传上去的同学照片)没有明确同意授权,而你又“一时手贱”做了合成小视频,对方就可以告你侵权了。而根据“ZAO”的条款,上传了就是授权了全平台及用户使用乃至于二次编辑。但一旦侵权,那就仅仅是你的麻烦了。其次,除了肖像权,AI换脸技术的滥用也可能侵犯他人的名誉权。AI换脸技术可以将他人的面部任意“PS”在其他视频中,从国外某视频小网站一度被AI换脸视频“攻占”,就可以想象到有多少AI换脸可能被用到不利于肖像权本人的方面上。而根据法规,只要行为人合成的视频可能导致他人评价降低,就涉嫌侵犯了他人的名誉权。这个范围就不仅仅局限于不雅视频了。北京金诚同达律师事务所的刘宗鑫律师表示,除了不雅视频之外,凡是将他人的面部PS在诸如辱骂、斗殴、**等可能导致他人社会评价的降低的视频中,都可能构成侵权。比如说你把某个当红偶像明星换上了经典的发哥点烟电影桥段,但对方恰好是禁烟宣传大使,那这也有可能因为“导致他人评价降低”,而构成侵权。
除了肖像权、名誉权等人身权利,制作对影视作品的换脸视频还可能涉嫌侵犯著作权人所享有的“保护作品完整权”。所谓保护作品完整权,是著作权人所享有的保护作品不受歪曲、篡改的权利。司法实践中,北京知产法院曾在(2015)京知民终字第811号案中明确指出:“侵犯保护作品完整权的行为不以“有损作者声誉”为要件。也就是说,不论使用者是恶意还是善意、是否出于故意,只要对作品的使用客观上起到歪曲、篡改的效果,改变了作品的内容、观点、形式,就应判定构成对作品完整权的损害。”也就是说,即便你仅仅是看不惯流量明星蹩脚的演技,把他们换成了一众老戏骨, 依照上述观点,你利用AI换脸技术“改编”影视作品的行为并没有损害到著作权人的声誉,但由于客观上属于未经作者许可改变作品的行为,也会涉嫌构成侵权。
综合下来可以说,侵权方式何其多。可谓是,“AI换脸一时爽”,事后侵权火葬场。事实上,AI换脸技术自爆发后,就一再被人恶意使用,随之引发的隐私及伦理问题层出不穷。最直接的一个问题就是名人明星的名誉权很难被保障了。目前,国内外都有用户使用AI换脸技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年6月时,Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面。在视频中,扎克伯格的口型和声音受到操控,正在以负面论调讨论Facebook的影响力。这段视频的标题是Facebook将“提高广告透明度”,但被篡改过的扎克伯格的声音则在说:“花一秒钟想象一下,一个人完全掌控着被窃取的数十亿人的数据,掌控着他们所有的秘密、他们的生活、他们的未来。”而讽刺的是,网友查证这段假视频的素材似乎来自于扎克伯格谈论俄罗斯干预美国2016年总统选举的视频。受此类事件影响,Facebook最近更新了相关政策,任何被第三方事实核查人员认定为虚假或具有误导性的内容,都将被自动从运营广告和Facebook盈利中被删除。为了解决类似问题,美国学术界、政府机构和一些创企已经开始纷纷推出自己的图像、视频验证、标记技术,期望通过在你拍摄照片或视频的时候自动添加时间、位置信息等方式,对抗AI换脸视频、图片带来的威胁。例如,创业公司Truepic正在与高通公司合作,将其技术添加到手机硬件组件中。这项技术将在拍摄照片和视频时自动标记时间和位置等数据,以便日后进行验证。Truepic还提供了一个免费的应用程序,消费者可以用它在智能手机上拍摄经过验证的照片。另一方面,随着“刷脸支付”逐渐被推广开来,那么类似的“AI换脸”技术是否会对我们的支付安全造成影响,也成了普通用户的一个直接忧虑。2017年的央视“315晚会”就曾经披露过人脸识别技术可能曾存在的风险。在晚会现场,主持人在网上随便找来的一张人物自拍,通过简单的图像处理和动态合成技术,将网络人脸合成到事先准备好的视频上,覆盖原视频的人脸,就能骗过一些通过面部识别作为认证信息的软件。两年后的今天,虽然“AI换脸”技术日**进,但在“刷脸支付”逐渐推广开来的情况下,安全防护与当时自然也是不可同日而语。目前的“刷脸支付”除了人脸识别以外,通常还附加有多项活体检测技术的支持。旷视科技手机解锁项目负责人乔梁曾在InfoQ的活动上介绍过,现在线上金融场景的活体攻击主要有三类:第一类是换脸攻击,把这个人脸上贴成另一个人的脸。第二类是屏幕翻拍攻击,类似于手机解锁攻击。第三类是通过计算生成一张3D假脸进行攻击。因为金融场景直接与经济利益相关,攻击手段也是层出不穷。目前类似旷视科技的技术企业,会采用不同类型的活体算法来防御这些攻击,例如要求用户摇摇头、眨眨眼,来判断当前进行操作的对象是不是一个“活人”。乔梁表示,在支付上,只有特定的摄像头硬件方案才能达到这种安全水准,例如苹果所采用的结构光双摄。基于结构光双摄所采用的原理,它能防御所有的2D攻击手段,包括屏幕和纸张——那么两年前“315”晚会上的简单破解方式,就很难在今天再次实现。但由于支付场景的敏感性,攻击者可能采用3D打印或者硅胶膜此类成本更高的攻击手段来窃取机主的财产,这就需要算法公司继续针对特定场景研究应对措施,解决此类问题。所以说,“道高一尺,魔高一丈”,安全从来都是一个攻防交叠的领域,你有你的张良计,黑产也难免有黑产的过墙梯,我们也只能是保持乐观,保持警惕。而在大量伦理、法理、安全问题没有解决的情况下,AI换脸就已经迎来了这样消费级的移动端产品,难免会对市场带来不小的冲击。不难想象,在“ZAO”一炮而红之后,必然会有大量相似的产品迅速跟上——而这些快速上架的产品在用户隐私、安全保护等方面考虑得有多深就不好说了。
今天,在只要几张照片、视频就能快速换脸的时代,你的“脸”不再是你的脸,那你还会是你吗?
你制作过AI换脸视频吗?
我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求,为完善跟帖评论自律管理,为了保护用户创造的内容、维护开放、真实、专业的平台氛围,我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容,同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。
一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规,对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息,主要表现为:
1)反对宪法所确定的基本原则;
2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一,损害国家荣誉和利益;
3)侮辱、滥用英烈形象,歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉;
4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动;
5)煽动民族仇恨、民族歧视,破坏民族团结;
6)破坏国家宗教政策,宣扬邪教和封建迷信;
7)散布谣言,扰乱社会秩序,破坏社会稳定;
8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪;
9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序;
10)侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益;
11)通过网络以文字、图片、音视频等形式,对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的;
12)危害未成年人身心健康的;
13)含有法律、行政法规禁止的其他内容;
2. 不友善:不尊重用户及其所贡献内容的信息或行为。主要表现为:
1)轻蔑:贬低、轻视他人及其劳动成果;
2)诽谤:捏造、散布虚假事实,损害他人名誉;
3)嘲讽:以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述,以此来激怒他人;
4)挑衅:以不友好的方式激怒他人,意图使对方对自己的言论作出回应,蓄意制造事端;
5)羞辱:贬低他人的能力、行为、生理或身份特征,让对方难堪;
6)谩骂:以不文明的语言对他人进行负面评价;
7)歧视:煽动人群歧视、地域歧视等,针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击;
8)威胁:许诺以不良的后果来迫使他人服从自己的意志;
3. 发布垃圾广告信息:以推广曝光为目的,发布影响用户体验、扰乱本网站秩序的内容,或进行相关行为。主要表现为:
1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式:
2)单个帐号多次发布包含垃圾广告的内容;
3)多个广告帐号互相配合发布、传播包含垃圾广告的内容;
4)多次发布包含欺骗性外链的内容,如未注明的淘宝客链接、跳转网站等,诱骗用户点击链接
5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光;
6)购买或出售帐号之间虚假地互动,发布干扰网站秩序的推广内容及相关交易。
7)发布包含欺骗性的恶意营销内容,如通过伪造经历、冒充他人等方式进行恶意营销;
8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。
4. 色情低俗信息,主要表现为:
1)包含自己或他人性经验的细节描述或露骨的感受描述;
2)涉及色情段子、两性笑话的低俗内容;
3)配图、头图中包含庸俗或挑逗性图片的内容;
4)带有性暗示、性挑逗等易使人产生性联想;
5)展现血腥、惊悚、残忍等致人身心不适;
6)炒作绯闻、丑闻、劣迹等;
7)宣扬低俗、庸俗、媚俗内容。
5. 不实信息,主要表现为:
1)可能存在事实性错误或者造谣等内容;
2)存在事实夸大、伪造虚假经历等误导他人的内容;
3)伪造身份、冒充他人,通过头像、用户名等个人信息暗示自己具有特定身份,或与特定机构或个人存在关联。
6. 传播封建迷信,主要表现为:
1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病;
2)求推荐算命看相大师;
3)针对具体风水等问题进行求助或咨询;
4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失,包括通过占卜方法问婚姻、前程、运势,东西宠物丢了能不能找回、取名改名等;
7. 文章标题党,主要表现为:
1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户;
2)内容与标题之间存在严重不实或者原意扭曲;
3)使用夸张标题,内容与标题严重不符的。
8.「饭圈」乱象行为,主要表现为:
1)诱导未成年人应援集资、高额消费、投票打榜
2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
5)通过「蹭热点」、制造话题等形式干扰舆论,影响传播秩序
9. 其他危害行为或内容,主要表现为:
1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的;
2)不当评述自然灾害、重大事故等灾难的;
3)美化、粉饰侵略战争行为的;
4)法律、行政法规禁止,或可能对网络生态造成不良影响的其他内容。
二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时,本网站将依据相关用户违规情节严重程度,对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号,或者滥用多个帐号发布违规内容时,本网站将加重处罚。
三、申诉
随着平台管理经验的不断丰富,本网站出于维护本网站氛围和秩序的目的,将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议,可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)