观察者网

欧盟抢先发布人工智能道德准则:AI要以人为本,负责任且无偏见

2019-04-09 16:29:46

【文 观察者网/赵挪亚】

目前,虽然人工智能(AI)的研究还处在起步阶段,但欧盟已经为其制定了道德准则。

据美国科技网站The Verge的报道,经过52名专家的商讨,欧盟委员会于4月8日发布了人工智能道德准则。该准则的出台,标志着欧盟在寻求推广人工智能产业发展的同时,将立足于强化产业的道德水准。

欧盟公布的人工智能道德准则封面

欧盟希望在人工智能融入社会以前,未雨绸缪,制定相关准则,规范其未来发展。

参与起草制定这些准则的IBM欧洲法律部门副部长利亚姆·本纳姆表示:“(制定这些准则)就像在造房子之前,需要先打地基。而现在就是做这些事情的时候。”

该道德准则要求“值得信赖”的人工智能应当满足如下7个条件:

1.人类的力量和监督:人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫,而应该能够干预或监督软件做出的每一个决定。

2.技术的健全性和安全性:人工智能应该安全且准确。它不应该易于受到外部攻击的影响,且应该相当可靠。

3.隐私和数据管理:人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触,也不应该轻易被盗。

4.透明性:用于创建人工智能系统的数据和算法应该是可访问的,软件所做的决定应能被人类理解和跟踪。换句话说,操作员应能够解释AI系统所做的决定。

5.多样性、非歧视和公平性:人工智能提供的服务应面向所有人,无论年龄、性别、种族或其他特征。同样,系统不应该在这些方面存在偏见。

6.环境和社会福祉:人工智能系统应该是可持续的(即它们应该对生态负责)并“促进积极的社会变革”。

7.问责制:人工智能系统应该是可审计的,并被纳入企业可举报范畴,以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

人工智能,以人为本

欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为,在人工智能使用上,“透明性”是一切的关键,同时也要“以人为本”。

加布里埃尔表示:“任何公司在使用人工智能技术时,其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时,任何由算法做出的决定,都必须由公司出面解释。”

玛利亚·加布里埃尔解读人工智能道德准则 图自视觉中国

举例来说,如果一家保险公司依赖人工智能算法拒绝了某项赔偿申请,那么他们应该让消费者知道做出这项决定的依据。同时,还应由人类出面,进行这项决定的最终判断。

此外,加布里埃尔认为,隐私和数据管理同样非常重要。任何使用人工智能的机构,都应当保护好系统收集的数据,这些数据只能被人工智能和本人访问。

除了技术方面的准则以外,欧盟制定的准则里还包含了一些相对抽象的概念,例如其要求人工智能必须具有多样性、非歧视和公平性,同时也能够“促进积极的社会变革”。

由于现阶段人工智能的训练仍旧依赖于巨量数据的输入,因此这些数据将极大程度左右人工智能的公平性。

加布里埃尔举例说:“如果一家公司使用人工智能系统进行招聘,而他们所使用的数据来源于另一家大量招聘男性雇员的公司,那么这一系统将很可能拒绝女性雇员的加入。”

“如果人们使用不公平的数据来训练人工智能,那么这将毫无疑问成为一个大问题。”

另辟蹊径,欧盟想成为技术道德领域的领军者

欧盟已经不是第一次为数字技术制定规则和法律了。

2018年5月,欧洲联盟出台《通用数据保护条例》(GDPR),规范数据收集者的操作,禁止网络公司以默认隐藏的模式收集用户数据,同时保障用户对自己数据完全自主的权利。对于违规者,欧盟将会处以巨额罚款。

此次,欧盟表示,希望自己成为AI道德领域的领导者,如同制定《通用数据保护条例》(GDPR)一样,率先规范科技领域的法律和道德,保护公众的数字权利。

据The Verge分析,由于欧盟在投资和前沿研究方面,已经无法与美国和中国一争高下,因此,它才迫不得已选择了伦理作为塑造技术未来的最佳选择。

相对于欧洲,中国在人工智能领域的发展迅速 图自视觉中国

正如欧委会负责数字单一市场的副主席安斯普(Andrus Ansip)所说,“有道德的人工智能是一个能够达到双赢的主张,是欧洲在该领域的竞争优势——成为人们可以信赖的,以人为本的人工智能领导者。”

不过,欧盟在技术道德领域制定的一系列规则,也有可能成为这些技术发展的阻碍。

在当今前沿计算机科技中,大数据、云计算和人工智能的发展,都离不开巨量数据的支撑。而欧盟的《通用数据保护条例》为网络公司和研究机构的数据搜集设置了极大障碍。

同样,也有部分研究者怀疑,欧盟制定的人工智能道德准则,将会影响到这一产业的未来发展。

智库机构数据创新中心(Center for Data Innovation)的高级政策分析师艾琳·奇沃特(Eline Chivot)在接受The Verge采访时说:“欧盟希望通过制定道德标准,来确定自身在全球人工智能发展中的地位,我们对这种方法持怀疑态度。要成为人工智能伦理的领导者,首先你必须在人工智能领域遥遥领先。”

欧盟指出,提出人工智能道德准则只是第一步,未来他们还将邀请其他国家的企业和国际组织共同参与测试,制定以人为本的人工智能共识,并在G20峰会上与其他国家共同讨论。

本文系观察者网独家稿件,未经授权,不得转载。

赵挪亚

赵挪亚

分享到
来源:观察者网 | 责任编辑:赵挪亚
专题 > 人工智能
人工智能
小编最近文章
欧盟抢先发布AI道德准则,还要拿到G20讨论
她的自杀让英国立法:社交平台审核不力将重罚
以色列又瞄上约旦河西岸,阿拉伯国家炸了
世界首富分手不到一天,他的出轨对象也离了
俄入侵爱沙尼亚,美军正赶来?!
风闻·24小时最热
网友推荐最新闻
相关推荐
切换网页版
下载观察者App
tocomment gotop