欢迎来到资讯世界!

AI换脸最近很火,但是背后两大风险你知道吗

科技 2019-09-01 12:3462未知admin

据中国之声报道:这几天,一款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。什么是所谓“换脸视频”呢?就是通过这款软件,用户可以将影视剧、综艺节目片段中明星的脸换成自己的照片,因为是AI人工智能技术,所以呈现出的换脸效果比较好,脸部表情自然,效果十分逼真,就像是自己演的一样。

因为看到很多朋友的分享,中国之声记者昨天也去应用商店下载了这个免费的软件。打开软件之后,赶紧通过软件自拍了一张符合提示要求的自拍照,可是当选择了想替换明星脸的影视片段时,软件一直出现“服务器繁忙”的提示,可见飞速增长的用户给软件服务器带来多大的压力。

没玩成这个软件,你没准是幸运的。在软件火爆之余,昨天开始也有用户在社交媒体表达了对隐私泄露的担忧。由于换脸后需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,同时注册平台需要手机号码,不少用户担心脸部数据被泄漏会引发一系列问题。也有细心的用户发现,这款软件的用户协议中还暗藏玄机。专家指出,此类软件的确存在隐私泄露风险,同时,软件中提供给用户用来换脸的影视剧片段也存在侵权可能性。

“换脸”有风险,存在泄漏核心个人信息可能

利用这款软件进行“换脸”,首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频,则需要进行验证确认所使用的照片的确是用户本人,而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析,这个过程中,可能存在核心个人信息泄露的风险:“首先‘换脸’技术,包括在搜集过程中左脸右脸转动、眨眼,本质是搜集了你的面部的识别信息,这个是一个用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里面,有可能涉及到财产安全和人身安全的问题。”

软件宣称,照片提交上传后,会对照片进行非公众人物验证和肖像权验证,确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制,也无法被分享或下载。虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞,但朱巍指出:“这种东西看似是以娱乐为目的,因为大家笑一笑不会产生什么伤害。但是技术的发展道高一尺魔高一丈,如果被坏人利用这个技术,盗取了你换脸的这些信息,包括你的个人信息,一旦匹配成功了,轻则是精准诈骗,重则的话有可能你的账号、密码都是一个不安全的状态。所以平台的责任实际是更大的。软件的影响范围越大、越火,平台的社会责任和道德责任层面的法律责任也就越高。”

使用影视剧片段“换脸”,是否侵权有隐患

与此同时,软件内置可供选择的影视剧片段中,有包括《延禧攻略》、《长安十二时辰》、《还珠格格》在内的多部热门国内电视剧,也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段,还有大量热门的综艺片段。对此,朱巍指出:“换脸技术涉及的是放到影视剧里面去,那么影视剧本身涉及著作权、知识产权。你突然间把这个脸换了的话,是不是构成合理使用?这个可能跟知识产权法是有密切关系的。”

其实,人工智能进行换脸的技术数年前已经出现。2017年,国外一个论坛用户首先将自己制作的换脸视频发布在网络上,利用这一技术,他将国外女明星的照片与色情影片合成,几乎以假乱真,一度引发巨大争议。虽然相关视频最终被删除,但是这项技术随后被开源。今年年初,有国内用户在网络上发布一段合成的换脸视频,将一段电影片段中朱茵的脸换成了杨幂,也曾引起争议。随着如今这款软件的爆红,视频“换脸”门槛进一步降低。朱巍分析:“很多的换脸,它实际上并非是以娱乐为目的的,有一些涉及到一些比如说人格尊严,包括人的名誉权,肖像权的侵害,他换的可能不是自己的脸,可能是别人的脸,或者是在一些这种非法低俗的网站上进行这样的一个行为,尤其它做的特别逼真,非常有可能让其他人认为是不是被换脸的这个人就实际从事的表演,这些都是安全隐患。”

用户协议暗藏玄机 “必要授权”存在大幅修改

有细心的用户发现,这款软件的用户协议中还暗藏玄机。其中写道,使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出:“我授权给你以后,但是你不能够把我的照片用于其他的一些非法用途,或者是把我的照片来进行修改丑化,或者恶搞这样的一些变化、修改,那这样的话对于我授权给你的使用肖像权的目的,其实可能就会存在着一定的偏差。这个时候其实对于上传照片的这些APP用户来讲的话,可能构成的是一种名誉上的侵权,或者说是导致他的社会评价降低等等,这些也有可能会构成侵权。”

用户协议中还写道,该款软件及其关联公司可自行选择是否使用以及使用方式,包括但不限于编辑相关信息、授权给合作方使用、编辑与传播。还称会“尽最大努力在合理范围内使用”。岳屾山分析:“APP用户在上传了之后,或者说是授权给了APP经营者之后,它的经营者还要求说可能会给他的关联公司,或者说给其他人。这个时候对于转售权来讲的话是过于的模糊并不清晰,而且很有可能会造成自己的隐私的这种泄露,所以说也是建议相关部门对于这类的用户协议予以相应规制,包括使用者也要仔细的看一下这些用户协议,如果说确实存在着这些风险和对自己很不利和不公平的条款存在的话,建议不要使用。”

昨晚中国之声记者发现,该款软件“用户协议”中,“您的必要授权”这一项内容与此前相比进行了较大幅度的修改,去掉了关联公司等相关表述。同时在用户协议的醒目位置,增加了一则特别提示,其中指出,用户上传的短视频及人脸等信息,将仅限用于为用户提供上传/发布短视频,以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务。

同时,新增内容中承诺,相关的内容将严格按相关法律法规的规定保留在软件上,除非为了改善该款软件为用户提供的服务,或另行取得用户的再次同意,不会以任何其他形式或目的使用上述内容。此外,用户协议中相比之前补充了撤回及删除条款,并承诺用户执行相关操作后,将依据相关法律法规的规定在服务器上删除。有关事件的最新进展,中国之声将持续关注。

延伸阅读:

从对生物原型的原始模仿,到融合结构和生物特性的类生命系统,“人工智能”距离真正的生命还有多远?业内人士认为,如今的人工智能尚处在“幼儿”阶段,只能简单的“听”和“看”,人类功能的复杂度、认知的抽象性是其巨大挑战。

“生物”无疑为“人工智能”提供了足够的灵感。

曾是“蛟龙”号第一副总设计师的崔维成有一颗“深渊梦”。随着“蛟龙”号完成7000米级海试,崔维成计划向更深的海底进发。“大海梦”不止于此,他如今开始了一个新课题——仿生智能机器鱼。

“针对仿生鱼有各种不同的需求。有些需要速度快;有些需要续航性好,能够游得足够远;有些则需要灵活性好,对于悬停、转弯都能很好地胜任。”崔维成说。

“需要哪些特性的仿生智能机器鱼,我们就观察大自然中相应种类的鱼,包括它们的生理结构、运动方式,寻找灵感。亿万年的自然选择后,鱼类的游泳技巧远高于人类现有的航海科技,为仿生鱼的设计提供很多灵感。”崔维成说。

南京航空航天大学仿生所教授戴振东团队研发的“壁虎机器人”在关键技术上有了突破,利用壁虎黏附机制做成的仿生脚爪,可以随意抓取鸡蛋、药盒,以及非规则形状物品。“我们对壁虎运动过程中‘力’的变化进行观测,得到的运动模型可以很好适用于机器人抓握,相关的多维力传感器已经实现批量生产。”

“目前来看,实现人工智能有两条技术路径。一类是基于神经科学,在了解生物构造和神经信息作用规律后,运用计算神经学和神经系统建模方法,实现人工智能。‘壁虎机器人’便是这种方式。”戴振东介绍,“另一类则是在大数据的基础上,利用深度学习算法,不断完善模型。”

基于深度学习算法的人工智能近几年发展迅速,并在多个领域落地应用。以人脸识别为例,已经广泛应用在安检、解锁以及支付等场景中。随着语音、语义识别技术成熟,智能音箱走进越来越多的家庭中。此外,不少产品提供的“语音转文字”功能,准确率已经达到一定要求,节省了不少录音整理的时间。

但业内人士认为,与生物能够实现的复杂功能相比,目前的人工智能还是“狭隘”的人工智能,功能完成相对单一。“‘通用的’人工智能不会那么快的发生。”曾参加开发AlphaGo项目的牛津大学计算机科学系主任迈克尔·伍尔德里奇教授说。

“有些人工智能只能做人脸识别;有些聚焦于语音识别。虽然在各自的领域表现都不错,但距离人所完成的‘综合性功能’还相差甚远。”中科院上海微系统所仿生视觉系统实验室主任张晓林说。

张晓林举例了一个场景,“耳朵里听到‘我要杯子’这句话,机器能够进行语音和语义识别;然后对周边环境进行探索,通过图像识别寻找杯子,然后做逻辑决策,进而做运动规划,然后控制手脚做动作。当所有环路打通的时候,机器人距离真正的‘智能’就更近了一步。”

“这个过程中,需要多个传感器进行多模态的融合,把眼睛看的、耳朵听的,甚至舌头尝的信息进行初期处理,并将视觉的三维重建、听觉的语音语义识别结果等相互连接。”张晓林介绍,其课题组正在搭建一个具备完整“五识”功能的系统,“先具备完整的功能板块,再不断修改完善。”

张晓林表示,系统“智能”程度的提高,要伴随更多人体,尤其是大脑奥秘的揭示,才能更好帮助模型的建立。

“现在的人工智能像是人类的‘幼儿’时期,处于只是简单‘听’和‘看’的阶段。”上海交通大学致远讲席教授徐雷说。但特斯拉首席执行官埃隆·马斯克显然更乐观,“一般来说电脑进步的速度是惊人的,我觉得未来科技发展的速度变化会非常快,超越我们理解的能力。大家一般都会低估人工智能的能力,觉得可能就像是聪明的人而已。实际上,人工智能可能比最聪明的人还要聪明。”

麦北新闻网 返回麦北网首页>>
本文所有观点来源于网络,不代表“麦北新闻网”立场,文字本站自编,转载请注明出处:http://www.csmbw.com/kj/2457.html

麦北新闻网 Copyright © 20019-2020 版权所有 LARGEMS  备案号:xxxxxxxxx号