钱天培等:等一下!马斯克和小扎说的可不是同一个AI

来源:微信公众号大数据文摘

2017-07-28 07:21

钱天培

钱天培作者

四线写手,三线乐手,二线学霸,想当一线____。

【作者:钱天培、Aileen、魏子敏,转载自大数据文摘(bigdatadigest)】

过去的一周,AI界颇不太平。

上周日起,Facebook的CEO小扎与特斯拉CEO马斯克针对AI悲观论正面杠了起来,两人在推特和各种场合频繁互动回应,而后更是带起了整个AI圈包括MIT Technology Review的主编Jason Pontin、Yann Lecun、李开复在内的多位大佬参与站队,俨然一场AI界“奇葩大会”。

两人对于AI的不合态度由来已久,而在这场辩论中,我们首先要搞清楚的是,两人到底在争论什么?他们所说的AI是同一个概念吗?看似代表了自己的观点的两位大佬,是否也肩负着为自己家企业铺平商业道路的责任?而AI末日论又是否真的不值一提呢?

AI界“奇葩大会”盛况:“小扎对AI的理解是很有限的”

上周日,Facebook的CEO小扎在与粉丝的直播见面会中,又与特斯拉CEO马斯克怼上了。

“关于AI,我是持相当乐观的态度的。我实在不能理解那些鼓吹末世论的人。这样的言论太负面了,是相当不负责任的。”

这段评论直指马斯克本月初在美国全国州长协会上的发言。在该会议上,马斯克称:“我已经接触到了最前沿的AI,我认为人们真的应该担心。AI是对人类文明最本质的威胁。”并表示,“AI是人类将面对的最可怕的灾难。”

为了阻止AI末日的到来,马斯克敦促州长们提前对AI进行政策干预,警告他们不要等到末日将至才感叹无力回天。

面对小扎的评论,马斯卡用一句话就轻描淡写地怼了回去:“我已经和小扎谈过了,他对AI的理解还是很有限的。”俨然一副长者训话的姿态。

几个小时后,小扎在Facebook上继续谈论AI,并贴上其团队最近发表的研究论文,似乎意在回应说:“我可不是不懂AI的人”。

实际上,参与本次AI论战的远不止这两位大佬。在上周,MIT Technology Review的主编Jason Pontin就发推特表示,马斯克对AI了解的不比他对免疫学的了解强多少。此后,Facebook AI研究院的主管Yann Lecun还转发了这条推特。

前百度首席科学家吴恩达选择挺小扎,并把马斯克的言论称为“AI恐惧贩子”。

华盛顿大学教授,《The Master Algorithm》的作者Pedro Domingos用一声叹息表示自己对马斯克的无语。他在一个访谈中说:“我们中许多人试图教育马克斯以及像他这样的人,让他们区分AI真实和虚构的危险。很显然,根本没用。”

甚至连国内AI大佬李开复也加入了这场论战。李开复表示,小扎对AI的理解绝不可能是“有限”的。同时,他也认为马斯克的AI末日论极不靠谱。

马斯克和小扎的AI论战显然已演变为群众喜闻乐见的连续剧,而两人回合制的针尖对麦芒也早已发展成了众AI大佬站队的团战。

那么,这两位AI大佬究竟有着怎样的“深仇大恨”?两人争论背后矛盾的焦点又何在呢?

就让大数据文摘来带大家梳理一下近年来两位大佬在AI这个话题上发生的争端,摸清这场AI论战中的脉络和症结。

小扎vs马斯克:由来已久的AI之争

之所以说小扎“又”怼上马斯克,是因为两人的争论是一个历史遗留问题。

时间回放到2015年,马斯克和霍金联合一众科学家和商业领袖签署了一份“公开信”(霍金、马斯克携手力推23条原则,告诫AI发展底线)。在这封信中,他们将管制超级人工智能列为了21世界最急迫的任务,这封公开信也在后来获得了比尔盖茨的认同。

这封公开信随即引来了一个高段位AI大佬的质疑,而这位大佬正是小扎,他坚决反对AI会对人类造成威胁这一看法。

在签署完这封协议之后,马斯克言行一致,砸下十亿美元于2015年末创立了非盈利人工智能研究公司OpenAI,旨在防止AI研究出现一家独大的局面,欲实现对AI的控制力的均衡分布。

就在3周后,小扎宣布即将打造Facebook自家的AI平台,Jarvis。在一位Facebook用户告诫小扎不要在无意中制造出毁灭人类的AI后,小扎随即反驳道,“某些人就喜欢鼓吹AI威胁论、煽动大家对AI的恐惧,这实在是杞人忧天。”这番话大有指桑骂槐之嫌,遥指马斯克此前的言论。

矛盾源头何在?此AI非彼AI

在这场从15年就开场的AI之争中,小扎和马斯克至今坚守着自方观点,双方的观点也没有发生太多的变化。那么在这场由来已久的AI之争中,两人发生矛盾的焦点究竟在哪,他们对AI的观点又是否真的水火不容呢?

首先来看看小扎在本次直播中怼马斯克所用的说辞。

他认为,在未来的5到10年,AI将为人类生活品质带来极大的提升。具体体现在哪呢?小扎继续说道,AI目前是促进医疗系统提升的最前沿科技,通过AI实现的自动驾驶也能够大大减少车祸事故。

等一等,这段话似乎听着很耳熟。

在特斯拉发生事故后,媒体对AI自动驾驶提出了大量质疑。马斯克批评道,媒体对于AI自动驾驶的批评对该领域的发展是相当负面的。自动驾驶的发展将大大降低交通事故的发生率,而对此项技术发展的打压无异于“隐形杀人”。

忌过度鼓吹AI的负面作用而影响AI的发展。两人的观点似乎不谋而合啊?

分歧到底出在了哪?

在我们看来,这场争端的主要矛盾在于二人对AI不同的理解。实际上,整个AI界也仍未对AI所指何物达成共识。

当前,对于AI的界定将AI届分为了两派人马:直解派(literalists)与通解派(generalists)。

在两人中,小扎是一个彻头彻尾的通解派。在通解派看来,AI是一个大伞,下面包含了各种能够理解人类指令并完成任务的智能系统,能够实现多种智能家居功能(如开灯关灯、调控室温、播放音乐)的Jarvis就是典型的AI系统。同样的,像Siri、Cortana、Google Assistant这样的智能语音助手也都是AI。

从功能上看,这些系统确能够实现人类指定的一些任务。通解派关注的正是这一结果,而非实现这一结果背后的原理。

在以小扎为代表的通解派眼中,只要你在硅谷随便扔一块石头,八成就能砸到一个AI系统。你马斯克怎么能一棍子打死那么多人呢?

至于马斯克,他则是AI直解派阵营的一员。当他被问到如何看待Facebook的Jarvis时,他毫不留情地说道,这根本就不是AI。

“控制开关灯的根本不是AI。”马斯克指出,在Jarvis系统中,人类说出的命令被语音识别系统识别,然后被转换为文字,随后经过文本分析系统得到命令的含义,最终再通过一个系统来控制灯的开关。相应的,Siri、Cortana、Google Assistant这些所谓的AI助手都不能被称为真正的AI。

马斯克眼中的AI是一个能够实现整体任务的、“端对端”的AI系统,而绝非一系列算法的结合体。

举例说,在英伟达于2016年发表的一篇论文中,他们描述了一个“端对端”的自动驾驶系统设计。在这一设计中,一个单独的神经网络观察司机开车的行为,然后就能学会驾驶车辆。这样的系统才能算作马斯克所说的AI。

分析到这里,再回过头看两人争论的内容,我们不难发现,两人的争论其实是源于他们对AI的不同定义。他们各自口中的AI根本不是同一种操作。

AI之争背后的商业逻辑

在马斯克看来,唯有实现了“端对端”的系统才能被冠名为AI,那么,被他称作为AI的特斯拉自动驾驶汽车是否真的符合他对AI的标准呢?

答案是否定的。特斯拉的自动驾驶车依赖于一个单独的视觉神经网络。

在Facebook,一方面,小扎在大呼AI能为人类社会带来质的飞跃,Facebook也不断宣称公司正在用AI为用户提供新功能,另一方面,Facebook的AI也时不时给用户推荐着令人发指的假新闻,“AI使世界更美好”的口号在Facebook是否站得住脚我们不得而知。

在这场已经历经两年的AI之争中,马斯克成立的OpenAI早已发展成全球知名的AI研发工厂,小扎也在Facebook成立了自己的AI研究室,FAIR。同时,这两人也都有望借助AI在未来赚得盆满钵满——一个是通过自动驾驶汽车,一个则是通过巨型社交网络。

马斯克“号召立法者积极主动的监管AI研究,避免AI变成威胁”的建议遭致硅谷大佬抱团似的攻击,正如他本人预料的:“有很多不喜欢被监管部门约束的公司强烈反抗。对AI立法会是个非常漫长的过程。但当我们的法律终于反应过来时,可能已经为时已晚。”在AI飞速发展的今天,每时每刻竞争对手可能就做出了更厉害的算法/系统。“我们不要急着发展,确保安全再继续”大概是所有科技公司股东最不愿意听到的。

不可否认,AI之争的背后确实有观点真实碰撞。而背后的复杂的商业逻辑,也是一名清醒的看官所不能忽视的。

马斯克:一个孤独的斗士

最后,再回到两人的观点的本身。

小扎不希望人们因为马斯克“遥远”的担忧而杯弓蛇影,停滞AI发展。马斯克认为,对AI的管制必须要做到未雨绸缪,考虑这一巨大的潜在危险绝不是杞人忧天。

诚然,AI为我们的生活带来的改变是有目共睹,AI末世论这一观点在我们看来也确实是缥缈而不可即。从大佬的站队也不难看出,马斯克对AI发表的言论已到了千夫所指的地步。

不可否认,马斯克的观点确实制造出了大量人们对AI的恐慌——AI失业论已经足够使人们害怕,更何况是末日降临?

从另一个角度看,马斯克也像是一个孤独的战士,即便在他昔日的“导师”、启发他AI潜在危机的Nick Bostrom也反水之后,却依然固守阵地。作为一个超前的未来主义者,他似乎一直在做些别人不敢想象的事情,把科幻变成现实: 火箭回收,火星殖民,月球旅游,地下真空管道运输,给大脑插上电极,这些“痴人说梦式”的想法也确实正在马斯克的手下一步步向现实迈进。那么,他对AI“过度超前”的预言,又是否真的只是庸人自扰呢?

如果有这么一天,当我们身边的所有“人”都告诉我们,AI不可能毁灭人类时,我们是否要冷静地想一想:我们的世界是否已经迎来了一位AI统治者?在这个和谐世界的下一秒,是否真的就会是末日降临?

让我们用人类在“AI之战”中最引以为豪的思辨力,再想一想。

责任编辑:小婷
人工智能 扎克伯格 科技创新
观察者APP,更好阅读体验

美方对俄隐瞒了部分信息?克宫回应

这条中马“一带一路”重点铁路项目 “或延伸至泰国”

国防部表态:中方不会在南海问题上任菲胡来

关于ASML出口管制,荷兰首相在华表态

警惕!“隐秘”的调查暗藏国家安全风险