高大伟:从“原子能为和平服务”到“人工智能为全人类服务”

来源:观察者网

2017-03-16 07:46

高大伟

高大伟作者

中欧国际工商学院教授,中欧论坛创始人

鉴于“工业4.0”或者说“数字中国”正在重塑全球商业模式,人工智能(AI)对所有美国高科技公司来说都成为了重中之重。与此同时,这一科技领域的重大变数将会极大影响大国关系。

当一些简单的AI已经从实验室进入到人们的日常生活中时,该领域中的一些前沿人士例如史蒂夫·霍金、尼克·博斯特伦、比尔·盖茨以及埃隆·马斯克开始担忧人工智能,特别是那些可拥有和人类一样甚至超过人类的智能的强AI(Strong AI)的内在危险。

他们期待通过量子计算,制造出更强大、更自主的人工智能,但他们同时也号召我们反思能主宰其创造者的技术,这会对人类的未来构成巨大的威胁。

AlphaGo战胜韩国围棋冠军李世石确实说明机器学习(人工智能的核心技术)在计算机科学和神经科学交叉领域内取得了飞速的发展。

然而,紧随人工智能发展而来的就是人工智能差距,也就是我们通常说的“数字鸿沟”。尽管人工智能算法和大数据促进全球一部分地区生产力的发展,但世界上还有半数人口尚未接入互联网。谷歌可以将“不做恶徒”作为公司的格言,但他们也要面对指数增长的科技带来前所未有的不平等的风险。

AlphaGo战胜韩国围棋冠军李世石

人们常常讨论人工智能的社会和政治影响,但是“第四次产业革命”的地缘政治影响却离奇的没有出现在这类公开辩论中。

人工智能对中西关系有何影响?或者更具体的说,对中美——这一决定当今世界秩序的关系有何影响?几十年前,核武器是冷战时代的对抗符号;在今天,人工智能会成为中西战略对抗的标志吗?

对人类来说,原子时代是一个自相矛盾的时代。1945年原子弹在广岛和长崎爆炸,以及之后美苏之间包括这种致命武器在内的军备竞赛,至今核武器对人类文明来说已经是一种永久性威胁。但是,也有分析者认为正是“相互确保摧毁”(MAD)——对理性行为者构成威慑,成功阻止了两个超级大国的直接冲突。

2015年伊朗核问题全面协议的达成说明,在原子弹落在广岛和长崎70年后,世界各国正积极合作避免核扩散。尽管还有着朝鲜核问题这个违背主流的反例。

中美大国关系

但是中西之间在反对核扩散问题上的共识并不能直接平移到网络空间中。尽管中美互联网公司和金融机构之间存在一定程度的联系,整体而言,网络空间中的中美关系还是充满了战略上的不信任。

此外,在空间科学和宇宙探索领域,中美两国很不幸走了各自独立的道路。当中国正准备经营自己的组合式空间站时,国际空间站(ISS)的经验已经说明在这一战略领域,西方可以与俄罗斯合作,但中西合作是却几乎是不可能的。

任何负责任的人工智能都需要考虑到原子化时代、数字化时代和空间探索时代的教训。设想一下:一个西方制造的AI和一个中国制造的AI在两条各自独立的轨道上运行,这无疑会增加中西战略中出现不可逆的断裂的可能性。人工智能并不改变国家实力的大小,但却会改变力量运行的本质。

在人工智能与全球政治的互动的背景下,借鉴国际原子能机构(IEAE),应当建立一个国际人工智能机构。

1953年联合国大会上,美国总统艾森豪威尔(1890-1969)在题为“原子能为和平服务”的演讲中提出建立国际原子能机构。现在,建立国际人工智能机构必须遵从“人工智能为全人类服务”精神的指引。

国际人工智能机构将涉及学术界、私营企业、全球公民社会以及政府,政府应当至少为自己订下以下四个目标:

首先,政府需要创造一种有利于全社会认识AI并且鼓励讨论AI在伦理方面的影响的环境。科学家、工程师、企业家、法学家、哲学家、经济学家们需要从所有可能的角度分析AI——包括它的未来,它对人类潜在的影响等等。

国际原子能机构

其次,这一国际机构应该采取一切手段避免“数字鸿沟”扩大。人们无法接受一方面一小部分人可以利用一系列“人类增强技术”(HET)“变强”,而剩余的大多数却实质上被“削弱”。正如超人类主义简短揭示的那样,通信技术升级(H+)不能只服务于一小部分人。

第三,这个机构在人工智能研究方面应该是透明的,既指政府层面也指企业层面。紧随曼哈顿计划和原子弹在太平洋战争中的应用,核不扩散条约和国际原子能机构建立。如果人类真的想要保护自己免受强AI用于军事用途的威胁及其可能的悲剧后果,人类必须确立一系列规则和政策,将人工智能研究限制在被普遍接受的合理的区间内。国际原子能机构并不能完全处理现有的核威胁,人工智能机构将旨在防止更大的威胁。

第四,国际人工智能机构应当鼓励知识共享和国际合作。埃隆·马斯克的Open AI无疑是一个鼓励开放和协作的建设性举措,但是“人工智能为全人类服务”的理想不能仅仅依靠一群私营企业家支持。

人工智能,没有任何技术能比得上它对人类未来的影响。正因如此,走向对人类尊严的追求,而不是作为人类的新主宰被顶礼膜拜,才是它明智的选择。它必须是促进全球团结的催化剂,而不是促成新的政治分裂的源头。

(青年观察者史诗奇译自赫芬顿邮报)

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:严南
人工智能 大国关系 中国 美国
观察者APP,更好阅读体验

李强:大力发展智能网联新能源汽车

“西方媒体,看清你们了!”拜登“走后门”也没躲过

“TikTok只是烟雾弹,美情报机构才无时无刻不在…”

获得军援后以色列不会违反国际法?美国多部门:不可信

最后通牒?以色列放话“要么签,要么打”