警惕AI换脸打开“潘多拉魔盒”

2019-09-02 10:15图文来源:光明网

这几天,一款“换脸”软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。但是,此款应用走红后,也有用户在社交媒体表达了对隐私泄露的担忧。由于换脸后需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,同时注册平台需要手机号码,不少用户担心脸部数据被泄露会引发一系列问题。也有细心的用户发现,这款软件的用户协议中还暗藏玄机。专家指出,此类软件的确存在隐私泄露风险,同时,软件中提供给用户用来换脸的影视剧片段也存在侵权可能性。

只要上传一张自己的“脸照”,就可以与任意一位明星互换“头像”在影视剧中飙戏。这对很多人来说,的确是一个很大的诱惑。甚至一部分人出于好奇,也可能会乐于尝试一下这样的“新玩具”。从过去的ps到视频合成再到更为逼真的AI换脸,技术的进步,让越来越多的人实现过去不敢想或者敢想却不能做的事。可随之而来的是,越来越多的人也在向未可知的第三方交出更多的“自己”,从过去的电话号码等,到现在的脸部信息,这之中到底会存在怎样的风险,人们是否又是在牺牲个人隐私换娱乐,已经成为必须直面的议题。

其实,越来越多的技术应用需要以用户“让渡”自己的隐秘信息为条件,其风险并不仅仅只是直接的信息泄露,而是更关系到用户信息“所有权”的争夺。

这款“换脸”应用的用户协议,就可谓“泄露”了天机。其最初的用户协议中,规定使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。虽然在引发社会质疑后,这一项内容与此前相比进行了较大幅度的修改,去掉了关联公司等相关表述,并明确用户上传的短视频及人脸等信息,将仅限用于为用户提供上传/发布短视频,以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务。但是很明显,最初的版本,意味着消费者不只是要上传自己的信息,而是要把信息的使用权乃至所有权都一并交给平台。若这样的条款成立,恐怕将彻底改写个人信息所有权以及隐私权,它打开的或是一个“潘多拉魔盒”。

众所周知,巨型网络平台掌握了数以亿计的巨量用户信息,如果用户上传信息后即意味着失去自己信息的所有权,则其后续的权益都将处于巨大的风险之中,个人信息和隐私保护的基础都将被瓦解。也因此,早有专家提出,个人信息保护需立法明确数据所有权。这次换脸视频应用给出的“用户协议”,再次佐证了其必要性。目前,个人信息保护法已列入了本届全国人大常委会的立法规划,此外也应对AI时代所面临的新的个人信息保护作出有针对性的回应。

另外,技术创新和应用的边界不断拓展,对于相关的技术伦理,也该有更多的审视。这些年,人工智能、生物识别、刷脸、自动驾驶等概念很火,资本也趋之若鹜。但是,当这些技术应用越来越多的作用于“人”本身时,其可能蕴含的伦理争议,不该完全被巨大的商业利益所掩盖。前不久,《国家科技伦理委员会组建方案》已获通过,或许在这方面释放了积极信号。

新的科技应用创新带来的权益与科技伦理争议,是一个全球性问题。并且囿于技术突破本身的“超前”性,这一不确定性状态,在未来还必将长期存在。在开放与保守,在鼓励创新与守护伦理之间,构建一套符合公利的平衡性制度体系,刻不容缓。

作者:光明网评论员责任编辑:吴丽莉
0人参与
网友评论 跟帖评论服务自律规则
最新评论
    查看全部

    周刊

    9月18日下午,2020中国南京金秋经贸洽谈会重大项目集中签约仪式举行。现场,51个具有代表性的重大项目集中签约,总投资达3233.4亿元。[详细]