观察者网

郑戈:当AV遇到AI

2018-02-23 07:55:09

出生于以色列的盖尔•加朵(Gal   Gadot)曾经是一位法学院学生,2007年,一位经纪人找到她,邀请她竞聘电影《007•大破量子危机》中的邦女郎角色。虽然最终败给了乌克兰超模欧嘉•柯瑞兰蔻,但却从此放弃了法律生涯,进入演艺界。2008年,她因出演《速度与激情4》中的吉赛尔(Gisele)角色而崭露头角,接着又连续在速5和速6中精彩亮相。2017年,她在电影《神奇女侠》中出演女主角,这部迄今全球票房已过8亿美元的电影使她成为家喻户晓的人物。

神奇女侠-加朵

2017年,加朵除了收获名誉之外也遭遇了有损她名誉的事情,这件事情与2017年的最热现象“人工智能”有关。一个化名为Deepfakes(深假)的社交网站Reddit活跃网友,利用一个很常见的开源软件TensorFlow将成人色情片中女主角的脸换成了加朵的脸,并且在Reddit的一个专门制作假视频的小组里分享。而且这个片子属于重口味的“近親相姦”(乱伦)题材。

实际上,Deepfakes不仅伪造了加朵的色情视频,还伪造斯嘉丽•约翰逊(Scarlett Johansson)、麦茜•威廉姆斯(《权力的游戏》中二丫的扮演者)、泰勒•斯威夫特(Taylor Swift)和奥布瑞•普拉扎(Aubrey Plaza)等女明星的色情视频,并且在Reddit网站上与同好者交流视频换脸经验。

这些视频的流传范围很快超出了Reddit的范围,出现在包括Pornhub在内的大型色情网站上,与日本AV影片放在一起,供世界各地的成人片爱好者下载或在线观看。许多不明真相的吃瓜群众惊呼:加朵居然演过色情片!二丫居然演过色情片!进而,“加朵是否演过色情片”这样的问题也成为谷歌、百度上热搜问题。

成人色情片中的“加朵”

在匿名接受互联网媒体“母版”(Motherboard)采访的时候,Deepfakes谦虚地说自己“不是一个职业研究人员,而只是一个对人工智能感兴趣的程序员”,他只是找到了一种“使换脸更逼真、更有效率的算法”。这一轻描淡写的说法并不能掩盖这种行为掀起的巨大波澜。母版网站上评论这一事件的文章取了一个惊人的题目:“人工智能辅助下的假色情片,我们都被操了”(AI-Assisted Fake Porn is Here and We’re All Fucked),这个耸人听闻的标题揭示出一种现实:“眼见为实”“有图有真相”这样的“常识”在今天已经被彻底颠覆了。

由于相关操作的技术门槛很低,每一个人都可能成为色情片里的主角。对前男/女友心怀怨恨的人、对领导或同事不满的人、对某位影视明星有着性幻想但在现实中无法得手的人,只要略懂如何应用TensorFlow这样的免费开源软件,都可以将自己怨恨或爱慕的对象变成色情片里的人物,从而满足自己的泄愤或泄欲需求。

实际上,在成人性爱动作片(AV)的生产大国日本,媒体对上述事件高度关注,比较典型的报道题目是“AIを使い、好きな女優やアイドルの顔をエロ動画に違和感なく合成することに天才が成功”(天才成功应用AI技术将明星偶像脸合成到AV之中,毫无违和感),有人担心这种技术的广泛应用会导致日本AV业的衰落。

资料图(图/视觉中国)

如果人们制作完这样的假视频后只是自己躲在卧室里看看,倒也不会对他人造成任何影响,只是意淫的升级版。而一旦他们将这种视频放到网络空间与他人分享,便会构成对真实世界中某个人的负面影响。这种影响的性质是什么?侵犯了造假对象的何种法律权益?被侵犯的人可以获得何种法律救济?这是法律人需要思考的问题。

在先前结束的宪法学考试中,我把这些问题提给了学生:假设一位中国演员遭遇了被植入色情影片的侵害,从中国宪法和法律的角度来看,她的哪些权利受到了侵害,可以获得什么样的救济?大多数学生都提到了肖像权、隐私权、名誉权和人格尊严。但在如何将这些权利适用于上述事件,好的分析并不多见。

比如,隐私权是一个基于空间想象的概念,人在私人空间的形象和表达不能在未经本人同意的情况下被公之于众,而一个人一旦自愿地进入公共空间,她的隐私预期便应相应降低,法律对她的隐私的保护也会相应减弱,乃至完全消失。但随着我们进入物联网时代,哪怕是一个人独处一室,她的手机、可穿戴设备乃至各种家电也无时无刻不在传送着关于她的各种信息。在这个私域与公域之间的界限被数据流冲破的时代,传统的隐私权概念已经被个人数据权利所取代(或者至少是补充)。个人数据的完整性、可控性、可携带性等等都成了受法律保护的权益。

在我国,近年来通过的《网络安全法》和《民法总则》都专门规定了个人数据保护条款。哪怕一个人的个人数据(任何可以使一个人被识别出来的信息/数据都属于个人数据,其中当然包括照片和视频)已经被其本人或者经其本人同意被公布于网络公共空间,对这些数据的有违其本人意图的使用也是违法的。在大数据时代,个人把握涉及自身的数据之流向的能力才是法律应当着力保护的法益,它是人的尊严的基础条件。

由于我专门讲过人的尊严问题,所以学生们在答题时大多引用了我国《宪法》第三十八条:“中华人民共和国公民的人格尊严不受侵犯。禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。”但Deepfakes可能提出这样的辩解:我并没有对加朵进行侮辱和诽谤,正如我的网名所显示的,我毫不掩饰我是在造假,我也在视频标签上说明了这是假视频。大多数观众在看到这些视频的时候都明白这些色情影片不是那些电影明星主演的。但这种辩护是站不住脚的。

首先,这些视频的观众在观看视频的时候会联想到相应的真实世界中的电影明星,而在观看她们主演的电影时也会联想到她们的脸出现在色情影片中的样子,虚拟世界与真实事件在万物联网的时代是密切交织在一起的。

其次,并不是所有观众都知道色情影片中的明星脸是移花接木的结果,尤其是当视频离开最初发布的网站,被转贴到其他网站的时候。在这个过程中,原来的标签可能被去掉或者被修改,许多观众会认为自己看的就是那些电影明星主演的色情片,这也正是某些转帖者或网站经营者希望达到的吸引眼球效果。

这“papi酱”的照片一看就是P的……

最后,这种操作是女权主义者长期批判的“物化”(objectify)女性的经典案例,构成对受害者人格尊严的最明显的践踏。物化包含这样几个要素:

(1)工具性:物化者将物化对象变成了实现自己目的的工具;

(2)对自主性的否定:物化者将物化对象视为缺乏自主性和自我决定权的客体;

(3)被动性:物化者将物化对象视为缺乏主观感受和行动能力的对象;

(4)可替代性:物化者将物化对象视为可以与(a)其他同类对象或者(b)不同类对象相互替换的东西;

(5)可侵犯性:物化者将物化对象视为缺乏边界完整性的东西,可以被任意蹂躏、践踏和侵入;

(6)被拥有性:物化者把物化对象视为可以被买卖、被占有的东西;

(7)对主体性的否定:物化者毫不关注物化对象本身的感受和遭遇。

将明星脸拼接到色情片里面的人,正是那些在现实中无法满足自己占有、侵犯和奴役这些电影明星的人,他们试图在虚拟世界中重构人际关系,并且让其他人围观自己物化他人的成果。

正如《黑镜》第四季第一集中的罗伯特•戴利,在现实中是一个不善于与人交往的技术呆子,即便对于向他表示了仰慕之情的公司同事,他也不知道如何与她打交道。但他却创造了一个在其中他可以掌控一切的虚拟世界:一艘太空船。

他在那里化身为掌握他人生死的戴利船长,并且通过到垃圾桶里捡拾别人弃置的咖啡杯等物品而获取DNA,然后创造出别人的数字生命,让这些人成为虚拟世界中受自己操控的下属。最后,这些数字人起来反抗,使戴利在两个世界都遭遇毁灭。随着人工智能、基因编辑等技术的不断发展,我们越来越接近这个科幻世界。我们面对的不只是一个现实。作为一个平行世界,虚拟现实正在越来越强地干扰和影响我们所处的日常现实。

《庄子·齐物论》里通过一个故事提出了一个深刻的哲学问题:“昔者庄周梦为胡蝶,栩栩然胡蝶也,自喻适志与,不知周也。俄然觉,则蘧蘧然周也。不知周之梦为胡蝶与,胡蝶之梦为周欤?周与胡蝶,则必有分矣。此之谓物化。”

如今,技术已经使庄子的问题越来越贴近我们的日常生活。但体现在宪法和法律中的一些基本价值,包括人的尊严,却是我们追求美善生活必不可少的保障。我们不能让技术牵着鼻子走,而应当在技术变得不可控制之前把握它的发展方向,让它服务于我们过有尊严的人类社会生活的目的。

(本文首发于微信公众号“人工智能法学”,观察者网已获作者授权转载。)

郑戈

郑戈

上海交通大学凯原法学院教授、博士生导师

分享到
来源:人工智能法学 | 责任编辑:李泠
专题 > 人工智能
人工智能
风闻·24小时最热
网友推荐最新闻
切换网页版
下载观察者App
tocomment gotop