肖珊娜·祖博夫:我们可以是民主制,或者我们可以是监控型社会,但不能两者都是

来源:观察者网

2021-02-25 07:46

肖珊娜·祖博夫

肖珊娜·祖博夫作者

哈佛商学院名誉教授,《监控型资本主义时代》

【文/ 肖珊娜·祖博夫(Shoshana Zuboff) 翻译/ 常宜】

二十年前,面对加州刚起步的众多互联网公司,美国政府敞开民主社会的大门,温暖的火苗在欢迎中点燃。在随后的几年中,监控型社会(surveillance society)便在这些互联网公司的办公室中发端并繁荣起来了。在国家情报机关和私人互联网公司独特的相互需求之中,一种新的社会愿景诞生了。两者都沉浸在能够掌握全部信息的梦想之中。二十年之后,这一火苗蹿到了屏幕之上,今年1月6日,这把火差点儿把民主之家——美国国会烧掉。

谈到监控,《纽约时报》就用起了某种“暴力美学”

我花了整整42年的时间来研究数字技术的崛起。它的崛起作为一种经济力量,推动了我们向信息文明转型。在过去的二十年中,我观察到了这一令人惊讶的政治经济博弈的后果——这些新型的公司逐渐变成了由对人们的行为监控、分析、引导和预测的全球架构驱动的监控帝国。

这种全球架构我称之为监控型资本主义。这个新的帝国为了能从这样的监视中获利,凭借其强大的监视能力,进行了一场从根本上反民主的认知变革。这一变革的特征是:他们对我们前所未有的了解,并且这种了解产生了不可估量的力量。

在信息文明之中,社会就是些关于我们的信息的相关问题:这些信息是怎么被分配的、掌握分配权力的是那些权威机构、什么样的力量保护着这样的权威机构。谁知道这些信息?谁决定谁来知道这些信息?谁决定是谁有权力决定谁来知道这些信息?

监控资本家们知道这些问题的答案,尽管并不是我们选出他们、赋予他们掌握我们信息的权力。这就是我们提到的认识论政变的本质。通过主张对我们个人信息的所有权,他们宣称自己就是决定谁能够知道我们个人信息的权威机构。并且,他们利用控制关键信息系统和信息架构的能力来捍卫自己的这一权威。

唐纳德·特朗普企图发动政变的可怕场面,乘着暗中进行的认知政变的浪潮。在过去的二十年中,这场认知政变由那些反社会媒体暗中进行着。而我们一度欢迎这些媒体,认为他们是解放者。拜登总统在就职典礼当天说,“民主已占上风”,并承诺将真理的价值恢复到其在民主社会中应有的地位。然而,在我们击败监控型资本主义的另一场政变之前,民主和真理仍处于最可怕的威胁之下。

认知政变分为四个阶段。

首先是对认知权利的挪用,这为之后的进一步行动打下了基础。人们发现,这些互联网公司可以将人们的生活作为原材料提取行为数据,然后将其声明为私有财产。监控型资本主义就起源于此。

第二阶段的特点是认知上的不平等日趋严重,即我能知道的和我能被人知道的信息量之间的差异越来越大。

第三阶段,也就是我们现在所处的阶段,利益驱动的算法运用的扩大、被污染信息的传播与精准定位(其中大部分是由有计划的虚假信息传播方案产生的),这些都造成了“认知混乱”(epistemic chaos)。人们在现实世界中能感受到这种认知混乱。它们毁灭人们的共识、毒害公共讨论、瘫痪民主政治,有时甚至会煽动暴力和杀害。

在第四阶段,认知支配已经被制度化。私人监控资本用计算治理代替民主治理。私人监控资本的非法权威和反民主力量指导着、维持着机器和系统。这些机器掌握信息,而系统来做决定。

前三阶段中的每一个阶段都塑造了最后的阶段。通过削弱民主社会,认知混乱为大资本的认知支配地位奠定了基础——我们可以从美国国会大厦的暴乱中轻易看出来。

我们生活在信息文明的形成过程之中,也生活在一个数字化的世纪。我们的时代可以与早期工业革命时代相提并论。在那时,财产所有者拥有所有权力,他们的财产权高于其他一切需要考虑的因素。当下,令人难以忍受的事实是,美国和大多数其他自由民主国家一样,将所有数字化事务的所有权和经营权都让渡给了私人监控型资本主义的政治经济学。这种政治经济学现在正与民主制就基本权利与原则方面进行竞争。正是这些基本权利和原则将定义本世纪的社会秩序。

在过去的一年中,大流行的悲剧与特朗普政权的专制都扩大了认知政变的影响,在1月6日前便揭示了反社会媒体的杀戮潜力。人们越来越多地认识到认知政变的存在,也认识到它对民主社会的威胁,但这会不会最终迫使我们考虑这近二十年来都忽隐忽现的麻烦的真相?我们可以是民主制,或者我们可以是监控型社会,但我们不能两者都是。民主的监控型社会在政治上不可能存在。没错:这是我们为了信息文明灵魂的斗争。

欢迎来到第三个十年。

监控的例外

9月11日的公共悲剧将美国政府的关注焦点从关于联邦隐私立法的辩论戏剧性地转移到全面了解信息的狂热。这使得硅谷的创新监控实践成为人们关注的焦点。正如耶鲁大学法学院教授杰克·巴尔金(Jack Balkin)所指出的那样,情报界将不得不“依靠私营企业为其收集和生成信息”,以期超越宪法、法律法规方面的限制。这些法律法规的争议在当下是至关重要的。

2013年,美国中央情报局(CIA)首席技术官概述了自身机构的使命:“收集所有信息,永远坚持下去”,并且承认包括谷歌,脸书,YouTube,Twitter,Fitbit和电信公司在内的互联网公司正在努力实现这一目标。

监控型资本主义的变革根源就在这种不成文的监控例外主义政治学说中,绕开了民主监督,从本质上授予了新兴互联网公司盗取人类经验、将其作为私有数据的权力。

没有任何民主授权的年轻企业家收获了无穷的信息和不可估量的权力。谷歌的创始人拉里·佩奇(Larry Page)和谢尔盖·布林(Sergey Brin)对世界信息的生产、组织和呈现有绝对控制权。脸书的马克·扎克伯格(Mark Zuckerberg)对什么将成为全球交流和新闻消费的主要手段有绝对控制权。他对其网络中隐藏的所有信息也有绝对支配权。这些年轻的企业家们数量在上升,与此同时全球用户激增,并对此一无所知。

拥有窃取人们信息的许可证,是要付出代价的。这使高管们受制于民选官员和监管机构的不断造访,也使他们受制于保持用户们无知的需要,或至少是使用户们在了解相关规定后的自愿弃权。毕竟,监控例外主义是一种政治学说,要捍卫这种学说,需要未来在政治上进行操作、安抚、参与和投资。

谷歌引领世界,成为世界上最富有的游说机器之一。2018年,参议院有近一半的资金来自脸书、谷歌和亚马逊。这几家公司持续创造支出上的纪录。

最重要的是,监视例外主义意味着美国和其他自由民主国家选择了监视而非民主作为社会秩序的指导原则。作为代价,民主政府获取人民信任的能力被削弱了,这恰恰增强了政府进行监视的理由。


认知混乱的经济学与政治学

想了解认知混乱的经济学,需要知道,监控型资本主义对于事实真相实际上没有兴趣。尽管并非所有数据都是真实的,但所有数据都被一视同仁。监控型资本主义的信息提取操作就像独眼巨人一样,一气吞下了所有它获得的信息,但从根本上对这些信息的意义或者事实真相毫不关心。

在泄露的备忘录中,脸书高管安德鲁·博斯沃思(Andrew Bosworth)描述了这种蓄意无视真理和意义的做法:“我们在人们之间制造联系。如果他们之间的联系是积极的,那么这就很好。也许有些人会通过这些联系找到真爱。……如果他们之间的联系是消极的,那么这就很不好。……也许有人会死于恐怖袭击。……可怕的现实是……让我们能够去更频繁地联络更多人的任何事物,‘事实上’就是良好的。”

换句话说,要求一个监控提取器拒绝内容,就像因为煤炭容器太脏而要求煤矿作业丢弃它。这就是为什么内容节制是最后一招。它是一项公关行动,和埃克森美孚石油公司那些关于社会责任的信件一个意思。在脸书的案例中,进行数据鉴别分类是为了最大限度地减少用户退出的风险,或者避免政治制裁。两者的目标都是增加而不是减少数据流动。提取信息的迫切需求加上对内容彻底的冷漠,产生了不断扩大用户参与规模的系统,但系统本身并不关心是什么吸引了用户。

我现在针对脸书,并不是因为它是造成认知混乱的唯一元凶,而是因为这是最大的社交媒体公司,它的影响力最大。

监控型资本主义的经济学催生了“独眼巨人”(Cyclops),将脸书变成了一个广告巨头和一个真相屠宰场。然后,不遵守道德准则的的特朗普当上了总统,要求获得在大范围撒谎的权利。破坏性的经济与政治绥靖融合在一起,一切都变得极其糟糕。

这个故事的关键在于,绥靖政策所需要的不过是拒绝减轻、修改或消除监控经济学的丑恶真相。监控型资本主义在经济上的迫切需求,将脸书变成了一个社会性的火药桶。扎克伯格只需要保持低调、守着旁观者的角色。

2016年和2017年发表的内部研究证明了脸书的算法目标机制和认知混乱之间的因果关系。一名研究人员得出结论,这些算法是导致分裂性内容病毒式传播的罪魁祸首,这些内容助长了德国极端组织的增长。她发现,“加入极端组织”的案例64%是由推荐工具引起的——这种现象并非德国独有.

2018年3月,剑桥分析公司的丑闻以一种新的方式吸引了全世界对脸书的关注,为大胆的改变提供了一个窗口。公众开始意识到,脸书的政治广告业务将公司的一套精准投放目标用户的功能租出去,操纵用户,制造认知混乱,只是使整个机器小幅偏转几度,就从商业目标转向了政治目标。

但如英国卫报等媒体,当时就评论不会真正改变脸书,图片来源:卫报评论截图

该公司推出了一些适度的应对举措,承诺提高透明度,建立更健全的第三方事实核查系统,并出台政策限制“协议的不真实行为”。但在整个过程中,扎克伯格都让步于特朗普对全球信息流不受限制的使用权的要求。

扎克伯格拒绝了对于改变运营以减少认知混乱的内部建议。政治白名单认定了超过10万名官员和候选人的账户,可以免于事实核查,但实际上内部研究显示,用户更倾向于相信政客分享的虚假信息。2019年9月,公司说这种政治性广告将不受事实核查的制约。

2018年,为了安抚批评者,扎克伯格委托由美国公民自由联盟华盛顿立法办公室前主任劳拉·墨菲(Laura Murphy)牵头的民权审查。这报告在2020年出版,表达了“强烈抗议”(cri de coeur),一连串的词汇证明了希望的破灭——“沮丧的”、“失意的”、“愤怒的”、“失望的”、“恐惧的”以及“心碎的”。

美国公众对大科技公司的信任几乎完全破裂,这份报告与之相符。当被问及如果拜登政府上台,脸书将如何适应政治转向时,公司发言人尼克克莱格(Nick Clegg)表示:“我们会适应我们运营的环境。”它也确实这样做了。1月7日,也就是民主党人将控制参议院的消息明朗后的第二天,脸书宣布它会无限期封锁特朗普的账户。

我们理应相信,认知混乱的破坏性影响是捍卫言论自由权利的不可避免的代价。但事实并非如此。正如地球大气层中灾难性的二氧化碳含量是燃烧化石燃料的结果,认知混乱是监控型资本主义基本商业运作的结果,这一情形因政治义务而恶化,由一个20年来关于完全掌控信息的梦想所推动开始,并逐渐滑向噩梦。然后一场瘟疫降临美国,把反社会媒体的火变成了不受控制的野火。

认知混乱与神秘微生物相遇

早在2020年2月,世界卫生组织就报告了伴随新冠病毒的“信息疫情”,迷思和谣言在社交媒体上传播。到3月,得克萨斯大学安德森癌症中心的研究人员得出结论说,与冠状病毒有关的医疗错误信息“正在社交媒体上以惊人的速度传播”,危及公共安全。

《华盛顿邮报》3月下旬报道称,脸书上近50%的新闻推送与新冠病毒相关,而极少数“有影响力的用户”在塑造着广大用户的阅读习惯和推送内容。路透社研究所4月发布的一项研究证实,在他们的样本中,高级别的政治家、名人和其他著名的公众人物制造了20%的错误信息,却吸引了社交媒体上69%的参与。

英国战略对话研究所(Britain’s Institute for Strategic Dialogue)5月公布的一份报告指出,一个由34个极端右翼网站组成的核心群传播着关于疫情的虚假信息,或与现有的传播错误卫生信息的中心有关联,而这些中心当前的重点是新冠。从2020年1月到4月,连接到这些网站的脸书公开帖子获得了8000万次互动,而链接到世界卫生组织网站的帖子收到了620万次互动,疾病控制和预防中心收到了640万次。

阿瓦兹研究(Avaaz)8月发布的报告曝光了82家传播新冠病毒错误信息的网站。4月,脸书浏览量达到近5亿的峰值,十大最受欢迎网站的内容吸引了约3亿人浏览,而10家主要卫生机构的浏览量只有7000万。脸书为适度的内容节制做出的努力,并不能与其为认知混乱设计的机器系统相匹敌。

10月,哥伦比亚大学国家备灾中心(National Center for Disaster Preparedness)估计了本可避免的新冠致死人数。超过21.7万美国人死亡。不幸的是,分析得出的结论是,至少有13万人的死亡是可以避免的。在所列举的四个关键原因中,每一个的细节,包括“没有强制戴口罩”和“误导公众”,都反映了美国子民陷于认知混乱的狂欢。

现今世界,一种致命的神秘微生物在其中繁衍。我们求助于脸书搜索信息。但相反,我们发现了致命的策略——用认知混乱创造利润。

认知恐怖主义(Epistemic Terrorism)

1966年,彼得·伯杰(Peter Berger)和托马斯·卢克曼(Thomas Luckmann)写了一本具有前瞻重要性的短篇小说《对于现实的社会建构》(The Social Construction of Reality)。它的中心观察是,我们把所体验到的“日常生活”当做“现实”,而“现实”却是由我们不断积极建构的。社会秩序持续的奇迹依赖于“常识性知识”,即“我们在日常生活中正常的、不言自明的惯例中与他人分享的知识”。

交通就是个例子:世界上没有足够的警察来确保每辆车在每个红灯处停下来,然而并不是每一个十字路口都会引发一场谈判或一次打架。这是因为在有序的社会中,我们都知道红灯有权要求我们停下来,绿灯则被授权放行我们。这一常识意味着,我们每个人都按自己所知道的行事,同时也相信其他人会这样做。我们不只是遵守法律,我们还一起创造秩序。我们的回报是生活在这样一个世界里:我们能到达目的地,安全回家,因为我们可以相信彼此的常识。没有它,任何社会都无法存在。

伯杰和卢克曼写道,“所有社会都是面对混乱的建构”。因为社会规范就是我们的常识的总结,而违反规范就是恐怖主义的本质——恐怖是因为它否定了被视为最理所当然的社会确定性。

亚历克斯·P·施密德(Alex P. Schmid)和阿尔伯特·J·荣曼(Albert J. Jongman)在《政治恐怖主义》一文中写道“违反准则的行为创造了一批关注的受众,而不仅仅是恐怖袭击的目标,”这一文本在这个话题上被广泛引用。每个人都会经历震惊、迷失和恐惧。机构的合法性和连续性至关重要,因为它们规范化我们的常识,使我们免于混乱。

国王去世、民主国家的和平权力移交是加剧社会动荡的关键时期。针对这些紧急关头的相关法律法规的制定就尤为重要。特朗普及其盟友打响了关于选举舞弊的虚假信息战,最终转化成了暴力。它直指美国民主最大的体制性漏洞及其根本准则。因此,它足以作为“认知恐怖主义”的一种,是认知混乱的极端表现。扎克伯格为这场袭击提供了他的经济机器,成为了这次袭击的帮凶。

平时的现实和棒球运动一样,像一种从安全的本垒出发、同时回归本垒的冒险。没有哪种社会可以时刻监控着所有事情,民主社会就更不行了。一个社会对于什么是越轨行为、什么是正常行为达成了共识,才是一个健康的社会。我们虽然会冒险逾矩,但我们还是知道外场和本垒之间的区别,知道日常的现实是什么。没有这些共识,事情就会分崩离析,就像现在一样。民主党人喝血吗?当然可以,为何不呢?用羟氯喹来治疗新冠肺炎?这边请!冲进国会大厦,让特朗普先生成为独裁者吧?好的,我们知道了!

社会随着常识的发展而更新。尤其是当我们发生分歧时,就要求建立可靠、透明、尊重人的社会话语机制。但是,我们反而陷入了相反的境地,近20年来,世界由混乱的政治-经济体制主导,违反规范是获取收入的关键。

社交媒体上不再年轻的男人们为了捍卫这种混乱的体制,把“第一修正案”的权利修改得乱七八糟。社交媒体不再是公共场所,变成了私人空间,由机器操作,并被其经济需要所控制,它们没有能力也没有兴趣去区分真相和谎言,破坏还是恢复。

对于许多将言论自由视为神圣权利的人来说,奥利弗·温德尔·霍姆斯大法官(Oliver Wendell Holmes)1919年在“艾布拉姆斯诉美国”案中的反对意见是一块试金石。“理想中的终极之善最好是通过思想的自由贸易来实现,”他写道,“检验真理的最佳方式就是让思想的力量赢得思想市场的自由竞争。”虚假信息之所以在私人空间中占主导地位,并不是在自由公平的思想竞争中胜出的,而是在一场被操纵的游戏中获胜的。任何民主都无法在这场游戏中生存下来。

我们对常识被破坏的敏感性反映了一个尚未在民主中找到立足点的稚嫩的信息文明。除非我们中断监控型经济,并取消使其反社会行动合法化的偷窃许可证,否则另一场政变将继续加强并生产出新的危机。那么,现在该怎么做?

第三个十年的三项原则

我们试着想象一下:假设在20世纪,没有联邦法律来规范童工或维护工人的工资、工时和安全标准;工人无权参加工会,也没有罢工或讨价还价的权利;没有消费者权利;也没有政府机构对法律和政策进行监督,以保证工业社会为民主体制提供安全的环境。取而代之的是,每家公司自行决定将承认哪些权利,将采用何种政策和惯例,以及利润将如何分配。

幸运的是,这些权利、法律和机构确实存在,是几十年来由世界上的民主国家发明的。尽管仍然保留着这些非凡的发明,但它们并不能保护我们免受认知政变及其反民主倾向的影响。

美国的财政赤字反映出更大范围的格局:迄今为止,美国和世界其他自由民主国家始终未能建立起数字社会这一连贯的政治构想,推动民主的价值观、原则和政府的巩固。尽管中国已经设计和部署了数字技术来推进其治理体系,但西方仍然处于妥协和矛盾的状态。

这种失败造成了民主的缺失,结果就导致接下来的二十年由私人系统进行监控和行为管控,脱离了民主体制的管理。这是导向认知政变的最后一步。结果我们的民主国家在没有任何权利、法律框架和体制形式的情况下就进入了第三个十年,而这些措施是确保数字技术与民主社会相适应的必需条件。

我们仍处于信息文明的初期阶段。第三个十年对我们来说是一次机会,通过建立民主的数字社会,让20世纪先辈们的才智和决心得以充分施展。

民主陷入了围攻中,只有民主本身才能解决现在的困境。如果要结束认知政变,就只能通过民主的手段。

以下三个原则可以作为指导:

·民主法治

数字技术必须被限制在民主的框架里,应该服从于并推动而非破坏相关法律和价值观的建设。沉睡中的民主巨人终于动弹起来了,美国和欧洲正在进行重要的立法和法律行动。

从2019年到2020年中期,美国国会提出了5项综合法案、15项相关法案和一项重要的立法提案,每一项提案都对监督资本主义具有重大意义。加州迎来了具有里程碑意义的隐私立法。

2020年,国会反垄断法、商业法和行政法小组委员会对针对科技巨头的反垄断案件进行了深远的分析。当年10月,美国司法部与11个州一起,针对谷歌滥用其在线搜索垄断权提起了联邦反垄断诉讼。截至12月,联邦贸易委员会(Federal Trade Commission)对社交软件脸书提起了具有里程碑意义的反竞争诉讼,随后48名总检察长也提起了诉讼。之后,38名总检察长迅速提起诉讼,质疑谷歌的核心搜索引擎阻碍了对手的竞争,只为自己的服务谋便利。

反垄断的观点之所以重要,有两个原因:这标志着民主的回归,由市场主导的公司理应得到监管部门的约束。但是,要想阻止认知上的政变,反托拉斯的范式是不够的。理由如下。

反垄断法的出现使人们回想起镀金时代垄断企业的反竞争实践和经济权力的集中。正如反垄断大佬蒂姆·吴(Tim Wu)在《泰晤士报》上解释的那样,“脸书的策略类似于19世纪80年代约翰·D·洛克菲勒在标准石油公司的策略。两家公司都在市场上寻找潜在的竞争对手,然后收购或消灭他们。”他补充说,国会在1890年通过的《谢尔曼反托拉斯法》(Sherman Antitrust Act)禁止的正是这种商业模式。

的确,脸书、谷歌和亚马逊是残酷的资本家和监控资本家,但仅仅把关注点放在其石油公司式的垄断会带来两个问题。首先,反垄断并没有取得那么大的成功,即便是从19世纪末和20世纪初的检察官的条款,以及他们试图结束石油行业经济力量不公平集中的目标来看也是如此。1911年,最高法院的一项裁决将标准石油公司拆分为34家化石燃料行业公司。事实证明,这些公司的总价值大于原来的价值。34家中最大的那些拥有标准石油基础设施和规模的所有优势,并迅速转向并购,凭其自身的条件成为化石燃料帝国包括埃克森和美孚(后来成为埃克森美孚)、阿莫科和雪佛龙。

反垄断的第二个更重要的问题是,虽然解决公司之间残酷的反竞争行为很重要,但它无法解决监控型资本主义带来的危害,就像1911年决定解决化石燃料生产和消费的危害一样。我们不应该用19世纪的眼光来评价脸书、亚马逊或谷歌,而应该从我们这个世纪的角度来重新解读标准石油公司的案例。

另一个思想实验:我们来假设下1911年的美国了解气候变化的原理。最高法院对美孚公司的拆解决议按理说可以解决其垄断行为,但它其实忽略了更为严重的可能后果——即提取、提炼、销售和使用化石燃料会毁灭地球。如果那个时代的法学家和立法者忽略了这些事实,我们可以把他们的行为视作美国历史上的污点。

事实上,法院的判决确实忽视了美国工人和消费者面临的更为紧迫的威胁。美国法律历史学家劳伦斯·弗里德曼(Lawrence Friedman)将《谢尔曼反托拉斯法》描述为“某种欺诈行为”,认为它除了满足“政治需要”外,收效甚微。他解释说,国会“必须回应民众对限制托拉斯行动的呼吁——一些行动,任何行动都可以——”而行动就是他们的答案。当时和现在一样,人们都想要一个消灭巨头的杀手。

人们求助于法律,认为法律是唯一能保持权力平衡的力量。但是,立法者花了几十年的时间才最终通过编纂保护工人和消费者的权利法来解决伤害他们的真正来源。规范雇主行为并且保障工人组织工会权利的《国家劳动关系法》(National Labor Relations Act)直到1935年才颁布,也就是在《谢尔曼反托拉斯法》颁布的45年之后。在我们解决认知政变的真正危害及其原因之前,我们没有45年,或20年或10年的闲散时间。

要拆解大型科技帝国公司或许有合理的反垄断理由,但将脸书或其他任何一家拆分为与埃克森、雪佛龙和美孚相当的监控型资本巨头,不会保护我们免受明显且正在进行的监视资本主义的危害。在我们这个时代需要对垄断巨头采取更多的措施。

·新环境需要新权利

随着生活环境的变化,新的法定权利也不断得以具体化。例如,路易斯·布兰代斯法官就是被摄影的传播及其侵入和窃取隐私的能力所激发,而承诺保护隐私权的。

如果没有新的知情权宪章来保护公民免受监视经济大规模入侵和盗窃的强迫行为,那么民主的信息文明就无法进步。在现代社会的大部分时间里,民主社会的公民都认为一个人的生活经历与个人是不可分割的——也就是不可剥夺的。因此,了解个人经验的权力被认为是基本的权利,像影子一样与我们每个人联系在一起。我们自己决定是否以及如何分享我们的生活,与谁分享以及分享的目的是什么。

威廉·道格拉斯法官在1967年写道,人权法案的制定者认为“个人应有自由选择什么时候、在哪里与他人分享秘密,以及分享到什么程度”。“选择的自由”是基本的认识自我的权利,是隐私的合法性来源。

比如,我对被市场作为目标以及由其预测行为感到恐惧,作为“选择自由”权利的天然所有者,我不愿意让亚马逊的面部识别技术有权力知道和利用我的恐惧来为别人商业利益服务。这并不只是因为我的感情是非卖品,而是因为它们是不可分割的。不过就算我不把我的恐惧给亚马逊,他们还是把它从我这里夺走,而这只是那天提供给机器的数万亿数据中的又一个数据点。

我们基本的认知权利没有被编入法律,因为它们从来没有受到系统的威胁,这就像我们没有法律来保护我们站起来、坐下或打哈欠的权利一样。

但是监视资本家已经宣布他们有权知道我们的生活。因此,一个新的时代开始了,它建立在不成文的监视例外论学说之上,并受到其保护。现在,曾经被视为理所当然的权利即我们有权知道和决定谁能了解我们的权利,必须被编入法律,并受到民主体制的保护,只要它想存在的话。

·前所未有的危害需要前所未有的解决办法

正如新的生活条件表明我们需要新的权利一样,认知政变的危害需要有针对性的解决办法。而这就是法律如何从一个时代发展到下一个时期,不断成长和适应的过程。

当谈到监控资本主义所带来的新条件时,大多数涉及法律和监管的讨论都集中在关于数据的争论上,比如数据的隐私性、可访问性、透明度和可移植性,或是涉及我们是否认可大公司(以最低费用)购买我们的数据。

下游是我们争论内容是否适度和过滤信息泡泡的地方,是立法者和公民对执拗的高管能表达不满的地方。

下游是巨头希望我们在的地方,我们在财产合同的细节上消耗太多精力,以至于忘记了真正的问题,那就是他们的财产主张本身就是不合法的。

什么样的全新方案可以解决认知政变带来的空前危害?首先,我们要往上游走,到供给侧去终止商业型监控的数据收集行为。

在上游,它们用“偷窃许可证”创造了无情的奇迹,即利用监视技术将人们的生活——我的恐惧、他们的早餐谈话、你在公园里的散步——变成谋利的数据供应。

我们需要法律框架来中断和取缔大规模入侵人们生活的行为。我们也需要出台禁止数据收集的法律来终结监控型资本主义的非法供应链。如果没有每天提供的数万亿个数据点,那些推荐、精准定位和操纵的算法,以及每秒钟推出的数以百万计的行为预测,就不可能存在了。

其次,我们需要制定法律,将数据收集与人们的基本权利联系起来、使数据使用与公共服务挂钩,以便解决人民和社区的真正需求。数据不再是对无辜者发动信息战的手段。

这些原则已经有民主的行动了。美国联邦贸易委员会(Federal Trade Commission)在对脸书提起诉讼不到一周后,发起了一项针对社交媒体和视频流媒体公司的研究,并表示打算“揭开”内部运作的“面纱”,“仔细研究它们的运作模式”。三名委员在一份声明中把矛头对准了“能够监视……我们的个人生活并将其资本化”的科技公司,并补充说,“该行业仍有太多不透明的地方,这是危险的。”

如果欧盟和英国的开创性立法提案被通过,这三项原则将会付诸制度化。欧盟框架将对最大的那些平台的内部运作黑箱进行民主治理(包括拥有全面审计和执法的权力)。基本权利和法治将不再在网络边界上消失,因为立法者坚持要求“一个安全、可预测且值得信赖的在线环境”。

在英国,《在线危害法案》将确立法律上的“谨慎义务”,从而让科技公司对公共伤害负责。这一法案也包括广泛的新权力和执法权力。

美国国会小组委员会的反托拉斯报告中有两句话令人印象深刻,它们常常归因于布兰代斯大法官的特点。“我们必须做出选择。我们可能拥有民主,或者我们的财富可能集中在少数人的手中,但我们不能同时拥有两者。”

这个带有布兰代斯时代鲜明特征的声明仍然是对我们所知道的旧资本主义的尖锐评论,但它忽略了我们所了解的新资本主义。除非民主撤销信息偷窃的许可并质疑商业监视的基本经济学和运作,否则认知政变将会削弱并最终改变民主本身。我们必须做出选择。我们可能有民主,也可能有监控型社会,但我们不能两者兼有。我们要建设民主的信息文明,没有时间可以浪费。

罗伯特·比蒂(Robert Beatty) 对此文有贡献

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:陈轩甫
监控 资本主义
观察者APP,更好阅读体验

“美国首次暂停,以色列深感担忧”

习近平抵达巴黎开始对法国进行国事访问

刚有“明显进展”,巴以停火又陷僵局

他在以色列监狱中死亡,联合国官员:极度震惊

俄方通缉泽连斯基等乌军政要员,乌方回应