东北知青网

联系我们您的当前位置:主页 > 联系我们 > 正文 >

一夜爆红引发病毒式传播 换脸软件刷屏风险不容忽视

时间:2020-03-06    来源:www.dbzqcn.com

2019-09-06 07: 27: 43

资料来源:法制日报

作者:$ {新记者的名字}

主编:叶潘

2019年9月6日07: 27来源:法制日报参与互动

视频:AI变脸软件“ZAO”爆发红色隐私和版权问题担忧来源:上海东方高清

讨论了一夜红色爆发导致病毒传播和数据泄漏。

改变面部软件的风险不容忽视

ZAO一夜之间爆发出红色,引起了人工智能变脸软件的普遍关注,但也因为过度收集用户的个人信息而受到广泛质疑。 9月1日,该软件的微信共享链接已经停止,由此产生的隐私和安全纠纷仍在继续。人们对人工智能未来发展方向的讨论正变得越来越激烈。

技术一直是一把双刃剑。如何使技术进步服务于人类社会和经济的发展,是全社会需要思考的重要问题。为此,本报今天发布专题报道,梳理出人工智能发展带来的相关法律问题和科技伦理风险,敬请关注。

●在隐私政策中,ZAO收集的用户隐私信息范围极广,包括人像信息,如肖像和面部识别功能,身份证,军官卡,护照,驾驶执照,社会保险卡,居留许可等身份信息。信息,以及芝麻信贷。个人敏感信息

●对于用户而言,ZAO变脸服务的最大风险是用户面部数据的收集。 ZAO承担的个人信息安全义务包括建立完整合法的隐私政策,收集和使用个人信息的目的,方式和范围,以及建立全面的个人信息安全保护措施。

●ZAO的出现意味着使用AI深度变脸技术的门槛大大降低。当相关的伪对比音视频被犯罪分子使用时,会给国家安全,新闻舆论,公共安全,刑事审判,政府通信等领域带来许多不可预测的问题。风险

我们的记者赵莉

8月30日晚,改变面貌的变脸软件ZAO用“只有一张照片,在世界上出演”的口号刷新了屏幕,引发了社交平台的病毒式传播。

9月3日,ZAO用户隐私协议对媒体公开报道和用户曝光不规范,存在数据泄露风险等数据安全风险。北京莫莫科技有限公司工业和信息化部网络安全管理局莫莫科技相关负责人进行了采访。

在采访中,网络安全管理局要求莫莫科技严格按照国家法律法规和有关主管部门的要求组织自查和整改,依法收集和使用用户个人信息,规范协议,并加强网络数据和用户。个人信息安全保护。同时,有必要进一步加强对新技术和新业务的安全评估,采取有效措施,积极防范因使用自身业务平台使用电信网络欺诈所带来的潜在风险。

用户协议存在争议

容易造成隐私泄露

在ZAO开始流行后不到24小时,由于隐私和安全问题,它引起了集体焦虑。

“有手机号码,面部图像和技术综合。犯罪分子可以与您和您的家人交谈。“用户对ZAO披露个人隐私的担忧反映在此用户评论中。

据了解,在隐私政策中,ZAO收集的用户隐私信息范围极广,包括生物识别信息,如肖像和面部识别功能,身份证,军官卡,护照,驾驶执照,社会保险卡,居留证等。和其他身份信息,以及芝麻信用等个人敏感信息。

9月1日,ZAO修改了争议的部分内容,主要表现在四个方面:删除了用户授权ZAO“不可撤销,永久,可转让和可再授权的权利”的权利;删除ZAO可以“全部或部分”修改“用户内容”;删除ZAO可以替换用户语音的规则;删除ZAO拥有的用户内容“版权所有者享有的所有版权产权和相邻权利,由版权法。“

但是,修订后的条款仍有争议。例如,授权对象是ZAO和ZAO用户。在这方面,中国政法大学传播法研究中心副主任朱熹认为,授权对象包括ZAO用户,其范围太大,并没有单独的提示,这很容易混淆相关概念。

ZAO还在用户协议开始时添加了“特别提醒”,即用户授权内容“仅用于向您提供上传/发布短视频,并使用技术在本地修改平台上的短视频以生成新的短视频。”相关内容将严格按照相关法律法规保留在ZAO上,除非ZAO不会以任何其他形式或目的使用上述内容,以改善ZAO提供的服务或再次获得您的同意。

9月1日下午,未经认证的微博账户“ZAO官方助理”发出消息说我们完全理解每个人对隐私问题的担忧。您收到的问题已经收到,我们会在一个没有经过深思熟虑的地方进行更改。这需要一些时间。

但这还不足以消除用户的担忧。由于修订后的条款没有具体规定收集和使用用户信息的具体情况,例如“为了改善ZAO提供的服务”中的“特别提示”,没有明确列出哪些服务需要改进。

在朱熹看来,此前的“隐私披露”是在事件发生后讨论的。然而,自《网络安全法》出台以来,人们更倾向于将安全风险控制向前推进。网络安全法不仅在事后泄密,而且对此事进行管理。这些规定还包括检查提供网络服务的平台,以及它们是否能够在数据安全和核心隐私方面达到相关标准。

除了侵权问题外,还有网友担心,既然支付场景中已经应用了人脸识别,而人脸信息的泄露会导致账户被盗?

对此,支付宝安全中心8月31日公告称,“无论变脸软件多么逼真,都不可能突破人脸支付”,人脸支付是基于三维人脸识别技术,在人脸识别之前,会通过组合检测出来。通过软硬件判断采集到的人脸是由照片、视频还是软件模拟生成的,可以有效避免各种人脸伪造造成的身份欺诈。

“为面对面的软件滥用威胁付费的问题是矛和盾的问题。中国科学院神经科学博士刘耀文在接受[0x9a8b]记者采访时说,许多支付脸费的软件并不能百分之百保证不被开发,但有很多方法可以大大降低风险。目前的人脸识别是深度识别。录制视频时,眼睛与图片不同,图片不闪烁。此外,还可以通过一些左转和右转的行为来确定是否是这样。”当然,一些人脸支付软件将具有地理和技术安全的优势,但一些不安全的支付不能如此严格。”

此外,早还存在肖像权、著作权等知识产权风险。例如,用户在“换脸”之前没有获得星级授权。法律界人士认为,早《著作权公告》中没有商业著作权的概念,没有“物质的商业著作权”。版权就是版权。只要它没有被授权使用他人的作品来传播,它就侵犯了他人的版权,尽管zao没有。直接通过作品来收费,但整个平台要通过传播改变后的影视剧作品来吸引用户,然后再探索其他的商业模式。

《zao版权声明》还声明,将在用户生成的作品上标注水印以区分它们,但这些并不保证zao不会侵权。如果用户无法获得授权,则用户将传输修改后的视频材料。内容构成作品的,侵犯著作权人保护作品完整性和信息传播权的权利。

需要认真对待面部数据

一旦泄漏风险无法预测

然而,在业内人士看来,落到用户身上的真正风险,既不是可以通过诉讼或监督确认的无效用户协议,也不是不合理的肖像权安排,更不是版权侵权问题。或传输,可能完全无法控制“生物特征信息”的安全问题。

朱熹说:“人脸识别是个人身份个性化信息的核心,也是隐私保护的核心。

对于用户来说,zao变脸服务最大的风险就是收集用户的变脸数据。毕竟,面部信息的细节太丰富了。它是一种“生物信息”。可以说,这是非常敏感的个人信息。一旦被泄露,其风险远远大于上网时产生的数据信息泄露。

据中国传媒大学政法学院法律系副主任郑宁介绍,变脸技术主要涉及生物信息的采集,是敏感信息。根据“网络安全法”第41条,网络运营商在收集和使用个人信息,公开收集和使用规则时应遵循合法,正义和必要的原则,并明确说明收集和使用的目的,方式和范围。使用信息。收件人同意。网络运营商不得收集与其提供的服务无关的个人信息,不得违反法律,行政法规和双方协议的规定收集或者使用个人信息,并按照法律,行政法规的规定以及与用户的协议。个人信息。

同时,“民法通则”第111条规定,自然人的个人信息受法律保护。任何需要获取他人个人信息的组织或者个人,应当依法取得并保证信息的安全,不得非法收集,使用,处理,传播他人的个人信息,不得非法买卖。或披露他人的个人信息。

“然后,ZAO的个人信息安全义务包括建立完整合法的隐私政策,明确向用户说明收集和使用个人信息的目的,方式,范围,以及建立健全的个人信息安全保护措施,”郑宁说。

因此,刘耀文也认为:“人们的担忧是合理的。最大的问题可能是安全性,也可能是侵权行为。这种改变面貌的软件应用程序可能会导致用户侵犯名人和用户的权利。信息归平台所有。生物识别信息是最大的风险。由于软件的合同条款规定了合理使用和永久授权,因此无法判断他们将对我们的信息做些什么。“

不仅如此,业内专家还表示,这种应用的出现意味着使用AI深层改变技术的门槛大大降低。当相关的伪对比音频和视频被犯罪分子使用时,它将用于国家安全,舆论,公共安全,刑事审判,政府通信等领域带来许多不可预测的风险。

首先,从国家安全的角度来看,当高度逼真的伪造视频被恶意用于国家领导人和其他关键人物时,不仅会损害领导者的形象,而且如果伪造的领导人发表政治观点或指示,也会造成严重后果。这与国家安全相悖。虽然在中国没有这种情况,但在美国,经常会出现面对派对攻击和娱乐的变脸视频。例如,在2018年4月,美国娱乐网站Buzzfeed发布了由网民制作的改变面貌的视频,其中美国前总统巴拉克奥巴马用他的声音和习惯性手势说出他以前从未说过的话。

其次,从舆论传播的角度来看,如果人工智能深层改变技术产生假视频与社交网络相结合,不仅会使虚假新闻难以识别,而且还会导致谣言的迅速传播。例如,一名印度记者习惯于通过人工智能变脸技术制作许多道歉视频,因为他暴露了古吉拉特邦暴乱期间官员的黑幕和无所作为,严重影响了当地民意的发展方向。

最后,人工智能变脸技术也可能对公共安全,刑事审判等产生不同程度的负面影响。例如,非法元素可以使用图片和视频冒充他人与他人聊天和交易,这不仅危及他人的隐私,财产安全,甚至生命安全都可能受到威胁。在调查,证据收集和司法机关审判阶段制作的视频和录像证据也可能干扰司法程序。

“核心风险是个人信息安全。一旦改变面貌的软件,就会产生负面影响。研究人员应遵循科学技术的道德规范。企业合规和风控部门应加强对法律风险的审查。政府部门应加强监管,行业组织应加强自律,公民应积极抱怨和举报。郑宁说。

[编辑: Yepan]

更多有趣的内容,请进入财经频道

>经济新闻选择:

影视作品票房和表演直接挂钩超影片公司6%的净利润下降专家解读临港新区和“第一版”上海自贸区“三不同“平行进口新车政策能否恢复进口车市场下滑? 网红婴儿湿疹膏“诺冰婴宝专用保护霜”找出违禁成分在线咨询将纳入医疗保险支付互联网医疗利润困境可以解决? 六站停止后,央行本周重启逆回购,净回报1000亿元一夜红爆引发病毒传播面对面软件筛选风险不容忽视。美股连续两日上涨,三大股指涨幅均超过1%