威尼斯人真人赌场
当前位置: 威尼斯人真人赌场 >> 彩票规则 >> 「澳门十大首富排行榜」“ZAO”换脸背后,你担心你会成为AI合成色情网站主角吗?

「澳门十大首富排行榜」“ZAO”换脸背后,你担心你会成为AI合成色情网站主角吗?

发布时间:2020-01-11 13:51:45 人气:812

「澳门十大首富排行榜」“ZAO”换脸背后,你担心你会成为AI合成色情网站主角吗?

澳门十大首富排行榜,关于“zao”的最新动态是,它的微信分享链接已经停止访问,页面显示的理由是:“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问。”

见习记者 | 尚旭旭 实习生 | 冯洁

欣欣是一个网络安全行业的从业者,她在8月31日下午在朋友圈一连分享了两段“换脸视频”。第一段是把自己的脸换到了一位韩国女明星的脸上,第二段是把自己的脸换到了一位与李现演感情戏的女演员脸上,视频中李现试图为一位女孩子遮挡太阳,气氛甚为甜蜜。

在第二段视频上,欣欣加了一段按语:“#现男友为我遮太阳,黑产大哥们别拿我去过人脸啊……再发一个卸了。”

欣欣说,她在朋友圈中发现了这款名叫“zao”的神奇换脸软件,但不是通过其他人分享的换脸视频发现的,而是通过几篇讨论该软件信息安全问题的文章发现的。

“但是,抵不过爱臭美。”欣欣说。南都周刊记者问欣欣,是否担心头像信息被用在支付宝的刷脸支付上和被ai合成色情网站女主,她说,自己抱有一种侥幸心理:“陌生人看不到的,好友才可以。”

另一位用户咩咩是一位爱玩儿、充满少女心、喜欢表达自我的女孩,她在朋友圈发完一段换脸视频后,又立刻删掉了。

南都周刊记者找到咩咩说明来意的时候,咩咩第一句话就是:“不说了,被坑了。”

咩咩也是从朋友圈中发现的这款神器,她自嘲道:“和正常的那种乐于出卖隐私换取便利的普通用户一样。”因此,根本没有留意《用户协议》与《隐私协议》,因而对“霸王条款以及潜在的危机的不确定性”后知后觉。

咩咩说:“如果我仔细看了这条条款,以及知道有这种危机的不确定性,我不会玩。”但是她补充说,不看这类条款是一直以来的习惯。

咩咩并不担心信息泄露之后,被拿去制作色情视频,她说:“反正不是我,看别人的身体和看我的脸,本质上还是看我的脸,和我平时出门有什么差别?”她也不担心被用于刷脸支付,她对目前的3d识别充满信心。“只是授予肖像权背后的不确定性令人恐惧。”

用户小亮用zao换脸了几十段视频,除了自己的照片,她还上传了室友与亲人的图像进行换脸。与其他软件最大的不同在于,“zao”对用户的信息收集还包括了动态的面部信息,也就是所谓的ai验证。用户使用照片进行换脸时,会受到“使用次数”和“分享权限”的限制,而突破这些限制,就需要开启脸部认证,比对真人信息与面部内容。

信息收集过程中,用户需要面对镜头眨动眼睛、扭动头部等。此外,若未经过ai自拍验证,制作生成的视频播放界面还会漂浮着“未经肖像权验证,此视频无法分享”的文字。该界面禁止了手机自带的截图功能,无法抓取屏幕截图,一定程度上限制了分享,但记者操作发现,手机录屏软件可以正常使用。

该限制本是为了防止用户上传的面部信息被他人不合理利用,但很多用户担心,“zao”平台本身是否有可能对这些用户资料进行不合法的利用。

用户的担心并非没有道理。

今年3月初,网友将朱茵版“黄蓉的脸”,通过ai技术,换成了杨幂的脸,这一操作登上了微博热搜。当时就有网友感叹道,你以为把自己的脸换到明星的脸上的技术已经够厉害了,但是有些人在换脸技术上继续脑洞大开,推动事态渐渐朝“不可描述”的方向发展。根据网友爆料,南都周刊记者核实发现,一些国外的网站,已经出现了批量的、以中国当红女星为“主角”的色情视频。

在更早的2017年,reddit论坛用户就已经利用ai换脸技术,将盖尔•加朵等好莱坞明星的脸,嫁接到色情电影中,并公开发布在网络上,后来该用户还将换脸技术的源代码开放,引来骂声一片。

一开始只是明星“中招”,如果普通用户也主动加入“换脸”大军,“换脸”作品被四处散播,难保不会被居心不良的人用来制成不雅视频牟利,或者直接用作“敲诈”神器。

用户小林担心自己的面部信息被人利用来人脸支付和身份信息的认证,但他认为这种事情发生的概率并不大。

针对这一问题,蚂蚁金服在回应媒体采访时称,不管换脸效果多么逼真,都无法突破现有技术支持下的3d人脸识别。专栏作家刘远举也撰文称:“这款app并没有带来新增风险,因为风险早已存在。”他认为换脸与自拍没有本质区别,“zao”的出现,让人们见识了技术的强大,反而带来安全。他相信人们可以适应这种技术上的风险。

但另一位国有银行的网络金融负责人说,类似换脸技术的安全威胁会一直存在。

虽然概率可能真的不大,但若发生在自己身上,可能要独自承担责任。“zao”方面早已经为自己准备了退路,秘密便在它的“霸气外露”的“用户协议”中间。

“薛定谔的”《用户协议》与《隐私协议》

在事关用户权益的协议上做文章并非个案。较受人关注的类似事件还有2018年年初,支付宝2017年年度账单在不显眼的角落,替用户默认了“我同意《芝麻服务协议》”,令很多用户在不知不觉中“授权了”支付宝收集用户的信息,包括一些在第三方应用上保存的信息。淘宝方面事后立刻发文公关,进行补救。

而在“zao ”的协议中有没有隐藏一些对用户正当权利不利的条款,对用户来说是未知的,对大多数人来说,看了和没看其实差别不大。

广州市律协的一位专注于互联网及高新技术领域的律师詹朝霞认为,除了专业的法律从业人员,一般消费者无论学历高低,因其认知水平、消费习惯等各种原因,对长篇累牍的协议往往无法详尽阅读正确理解并作出选择,所以国家公权力的介入和监管是必须的也是必要的。她建议国家网信等部门对类似app从信息安全等各个方面进行合规审查,避免类似违法收集信息的应用软件上架运营。

可能是因为“zao”换脸软件对自己产品的趣味性充满自信,这一点可以从它“硬气”的旧版《用户协议》中可见一二。

比如规定:在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予“zao”及其关联公司以及“zao”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利。

旧版协议内容在不知不觉中使所有用户“被授权”了自己的人脸信息。内容广泛传播后,该软件在8月31日更新了用户协议,其中删除了该段全部内容。

但刘远举有不同的理解,他认为这段内容的意思是,用户上传自己的头像之后,要授权给“zao”,“zao”才能进行视频修改,以免事后被用户指责侵权,他认为一般的消费者不用过于担心。

詹律师认为:“旧版《用户协议》中‘您的必要授权’部分涉嫌违法。我国《网络安全法》明确规定:网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。”

她说:“网络经营者经营过程中收集个人用户信息必须明确告知使用目的、应遵循最小范围采集原则,明确告知用户需开放的权限,并自始至终遵循在被授权的目的和范围内使用,不得任意扩大其使用权限和使用范围或改变其使用目的。……如果后面协议修改了,必须进行公示,用户有权利重新选择接受或者不接受。”但她指出,即使这部分内容违反法律法规强制性规定,并不影响旧版协议其他条款的有效性,除非所认定的违法条款导致整份协议无法履行。

按照《电子商务法》的要求,商家必须向用户公示《用户协议》和《隐私协议》,而且要在app产品的显著位置全文公示或者提供相应链接,以便用户完整阅读。商家如果要更改协议内容,同样也要连续不断地在显著的位置进行公告,提示消费者根据协议内容进行选择。詹律师认为,旧版协议的做法并不妥当。

在争议声中,“zao”方面于8月31日下午,默默对旧版“用户协议”与“隐私协议”中的部分争议内容进行了删改,并着重强调了相关用户信息的授权问题。

除此之外,很多网友也对“zao”素材库的视频资源是否侵犯了原视频的版权,产生了疑问。

用户源源以录屏的形式在朋友圈分享了自己的换脸视频。原素材是前段时间争议极大的蔡徐坤“唱、跳、rap、篮球”的短视频。

该段视频素材现已下架,无法再进行制作与分享。

“zao”的版权声明中显示,“zao”产品上存在的短视频和表情等素材有两个来源:一是与“zao”有版权合作的合作方,一是用户自发上传的、“zao”不享有版权的内容。同时,“zao”表示将禁止用户随意上传和使用素材,并通过人工审核环节尽力保证zao上的内容不侵犯相关权利人的合法权益。

这些图片上的人没有一个是真实存在于这个世界上的

我们为什么热衷于“换脸”

从换脸软件本身的功能和用户需求角度而言,它和近年来美颜、自拍流行等更一般化的现象一脉相承。

心理学博士陈光耀在回应南都周刊记者时说:“换脸跟发照片没太大区别,本质就是自己发现一个好玩的东西,分享出去,吸引别人的注意力。因为人都有这种自我暴露的本能,想要寻求关注,与其他人建立链接,毕竟人是社会动物。”

另一位心理学学者认为,p图软件、美颜相机、换脸游戏这些产品本身也是在不断地挖掘人们展示自我的心理需要。只是在以前,人们可能对自己的形象会普遍呈现一种相对更谦虚的心态,一般而言在展示自我、传播自我形象方便相对会更保守,同时传播渠道也比较有限。

他说,现在,人们的自我概念、自我意识越来越强烈,对自己的形象、外貌关注程度越来越高。到社交媒体时代,朋友圈等功能的普及让大家自我表达、展示自我的需求也不断强化,所以整体上来说人们也可能变得更加愿意去展示自己。再加上ai技术等手段,能够根据自己的意愿设定自己的形象,从而产生娱乐效果。

他认为,在本能上,人们都希望竞争一个更高的社会地位,所以朋友圈里面多发一些高达上的、成功的事件,而不是一些无聊的、失败的,能够满足大家竞争社会地位的需求。“换脸”在本质上也是一种不能实际实现这种“向上”跨越的替代选择,因为现实里面要去改变自己的容貌是比较难的,通过一个游戏,既便捷、成本低,而且产出的结果处于自己可控的范围之内。

“zao”现有的玩法模式比较单一,主要“造视频”与“造表情”两项功能。此外,通过添加好友,可使用对方的面孔合演视频,为社交化提供了一定的可能性。但目前尚没有业内人士分析这款换脸软件如何盈利以及如何留存用户。目前已经有许多用户在接受采访时表示,对这款软件的兴趣已经开始下降。

而关于“zao”的最新动态是,它的微信分享链接已经停止访问,页面显示的理由是:“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问。”

“zao”的未来如何,还有待观察。

来源|南都周刊

end

欢迎朋友圈,如想取得授权请邮件:newmedia@nbweekly.com。如果想找到小南,可以在后台回复「小南」试试看哦~

热门推荐

猜你喜欢