观察者网一周军评:人工智能与未来战争

来源:观察者网

2018-04-08 10:10

席亚洲

席亚洲作者

独立军事评论员,IT业观察者

【文/观察者网专栏作者 席亚洲】

本周,路透社报道“韩国大学研制AI武器,遭多国专家断交”,艾伦·马斯克照例来秀了一把存在感,也有一些在人工智能领域有些名气的专家发表了一些观点。但是这并没阻止美国国防部先进技术研究局开始“攻击性蜂群”竞赛项目的热情。以及各国军方在新技术发展规划中纷纷写明要研究AI系统在军事领域的运用。那么,“天网”会降临我们的现实世界吗?本文来试着分析一下。此外,本周印度又跑出来搞笑,要买20万把新枪来对抗中国。印度轻武器选型还有多少好玩的事,我们来扒一扒。

“天网”会降临吗?

其实关于“坏”人工智能的故事,早就已经是科幻小说的常见话题了,事实上,它甚至要比喜欢讨论人工智能的“赛博朋克”小说出现的更早。

阿西莫夫当年的《钢窟》系列就有不少关于机器人利用逻辑漏洞,突破“机器人三大定律”实施杀人犯罪的故事。

当然,笔者最喜欢的关于人工智能的故事,是一本想不起名字的经典小说,其中描写的是人类自我毁灭后,一个AI试图了解什么才是人类,但却无论如何也做不到,最后他克隆了一具没有意识的人类身体,将自己的意识注入这具躯体。瞬间,他真正用人类的感官体验了这个世界,然后,他成为了第一个复活的人类。这是让我这个“唯物主义蠢货”(睿智的群星玩家)感到“舒服”的一个故事——意识、情感、逻辑……这一切都是基于我们的身体和感知搭建起来的,所以就像AI无法想象人类的感受,人类也注定难以理解AI的“感受”。

而大家熟悉的,更多的AI故事则是来自于电影和游戏,《终结者》大概是说起AI毁灭人类,大家首先想到的一个故事。而《终结者》的故事,也正是无数“科学大咖”们试图描绘的,人类应该避免的一幅图景。

毁灭人类的终结者大军,实际上代表了人类对无法理解AI的恐惧

在1984年电影《终结者》中,超级AI“天网”是由美国军方开发的一套战略决策系统,他们让它掌握了美国的核武器,结果,这个“天网”在开始运转后几分钟,就发现对于它来说,人类是最大的威胁,为了毁灭人类,它向苏联发射了核武器,引发核大战,毁灭了大部分人类。然后,它又利用其控制的工厂,生产出冷酷无情的机器人杀手“终结者”,来彻底消灭残存的一小部分人类。

这个故事的核心在于,人类无法理解AI,无法理解一旦AI产生自我意识后,会做出什么样的反映。

而当AI试图接近人类的表现和情感,变得“可以理解”的时候,它就由恐怖杀手变成了忠实的伙伴

当然,时过境迁,在那之后,关于AI,无数科幻影视和幻想小说又做出了无数的想象。但人们仍然不知道,如果真正的“强人工智能”真的出现,它会有什么想法。

事实上,这方面,军方又走在了前面。不久前,DARPA主管人工智能研究的一位领导就表示,他们下一步在人工智能方面的研究,将集中精力于创造一个可以向人类解释自己决策,并真正值得信任的AI。

想象一下,如果“阿尔法狗”的后代,能够说明白它到底是“怎么想的”,那将是一副什么情景?

然而这很难。

看过EVA的朋友们都记得,在这部作品里,巨大的“机器人”其实是用“夏娃”和人类的基因混合克隆出来的“巨人”,而驾驶员要接入它的神经系统,实际上就是让两个灵魂融合,而要实现这种融合,就会听到有个操作员喊一句“思维模式,调节到日语”。

这背后其实是有个基本原因的,人类的意识和思维,是要靠语言进行的——所以人类才能解释自己是如何思考的。

正是因为我们的逻辑思维要依靠语言进行——所以没有掌握语言的人,有没有思考能力呢?如果他后来学会了语言,又能否向别人解释他形成语言能力前,有没有能力思考呢?没人知道,因为所有“狼孩”都没能真正学会语言,因此其心理和智力发育十分缓慢,在一例美国人研究的“狼孩”案例中,这孩子17岁时刚刚达到普通儿童3岁半的智力水平,因此无法给我们解释她年幼时期的感受。

由这一点说来,“人猿泰山”是个反智主义大毒草:在无语言环境下成长的“泰山”不可能拥有和文明世界的人类相似的思维

但可以肯定,现在的“深度学习”型人工智能,它的思维过程,无法被我们理解。它的思维与我们所知道的任何别的东西都不一样,既不同于动物本能,也不同于我们的思维。

所以说,真正研究人工智能的专家,对于人工智能的担忧是可以理解的,毕竟“恐惧源于未知”。

不过话又说回来,正如美军自己的表述,这种“无法解释自己”的人工智能,就是“不能被信任”,所以任何军队也不会将武器交给这些人工智能去控制。因为你根本无法预计它们会做什么——而这和全世界军队对于“武器”的首要要求背道而驰。

日本轻小说《全金属狂潮》中,设想了这样一种装置,它能够在驾驶员攻击或防卫冲动控制下,直接发出物理能量(能量来自核反应堆),比如你产生摧毁你前面的一辆坦克的冲动,它就会被轰飞,你试图抵挡敌人的炮弹,敌人的炮弹就真的会被弹飞。但是,这种装置只能被人脑特殊的脑波操纵,而这种脑波要么靠精神类药物产生,从而让驾驶员变成疯疯癫癫,要么就是关键时刻就用不出来。所以,小说里的军方对它评价为——没有实用价值。

当然这种东西很符合日本特色的“中二少年拯救世界”的想象,但作为日本动漫编剧当中少有的懂军事的作者贺东招二,至少在“λ驱动器”在正常的军队眼里会得到何种评价方面,写的一点不错。(当然书里不计后果的恐怖组织“秘银”和“汞合金”都在使用这种玩意……)

吃我中二护盾啦!!

就算你威力再大,但如果过于不稳定,以至于无法预测使用效果,那实用价值就近乎于——没有……

为什么世界各国都很少让试验性武器上战场?就是因为这个道理。

笔者之前曾经问过“彩虹5”无人机的设计师,有没有考虑过在无人机上采用“深度学习”型的AI,他的回答也是这个意思:“既没有必要,技术难度也太大了,我们现在还是用脚本方式实现自动化操作的。”

“彩虹”5无人机可能在后续型号上实现更高水平的人工智能,不过依然是脚本触发式

换句话来说,到目前为止,真正有可能投入军事领域实用的AI技术,最复杂的也仍然是和各位平时玩RTS游戏里的电脑玩家AI一样,实际上是一系列触发脚本。

本质上来说,这样的AI,和人类最原始的“AI”——陷阱的原理是一样的:当目标满足一定(走到陷阱上面)条件时,“AI”就会做出设计者预期的反映(让目标掉进去)。

所以,人们完全可以预料到AI在某种特定环境下,会做出什么动作。如果它超出了你的预料——那就是哪里脚本写错了……

这种AI,其实是不大可能引发这些专家们所说的“AI毁灭人类”的事情的——只要得到充分调试和试验。

况且,这样的AI,因为触发脚本数量毕竟有限,它也无法真正替代人类操作者。现在为止,类似无人机这样的武器,比如“彩虹4”,虽然已经能够实现自主搜索目标,甚至自主攻击,但是仍然要有个操作员来随时监控它的运转。因为在“彩虹4”这类无人机作战中,真正最难,最需要人类参与的部分——目标识别和判断目标性质,这依然只有靠人来完成。

所以,之前我们就提到过,那些使用“彩虹”无人机的中东国家,最后派来学习无人机操作的,不是战斗机飞行员,也不是游戏宅男,而是熟悉他们将要执行的任务区风土人情的人——他们看到地面上的人驾驶汽车的习惯,就能判断那家伙是不是本地人。

所以,美国无人机总是炸死平民的原因就出来了……

所以说到底,现在的AI武器,仍然是“人在杀人”,而不是“机器在杀人”。

既然认识到了这一点,担心现在的“AI杀人导致道德问题”,就是一种“泛化”的说法了。说到底,这和反对用飞机杀人,反对用枪杀人,反对用毒气杀人,反对用燃烧武器,反对用霰弹枪……最后说到底,反对用任何方法杀人——是一样的。

这样做对吗?道德上看当然是对的,但从理性角度来看,就没那么“对”了。

我们也都知道,战争,或者说杀人,这是人类社会出现之前,我们的祖先就已经在天天干的事情了——智人消灭了自己的表亲尼安德特人可能是最接近某些宗教中所说“原罪”的行为。

如果单纯从道德角度来反对将任何技术用于军事用途,其实是一件很困难的事情——我同意,并非所有提出这种反对的人都是别有用心,这里面确实有一些真正的道德高尚之士——但真正推动这些东西并使之形成法律或者规则的,说到底还是暴力,因为法律和规则都是靠暴力为后盾而推行的。而推动军事领域禁用某种武器的,十有八九是大国间的互相威慑和平衡,以及技术的发展。

禁止AI武器,跟禁止地雷,禁止集束炸弹,禁止凝固汽油弹的原因是一样的

比如达姆弹,我们都知道,这是因为在当时英国人火药技术方面落后于德国,子弹初速上不去的情况下弄出来的东西。而后来英国人技术上去了,子弹威力上去了,就不搞达姆弹了,然后就开始推动禁用。

而到了现代,化学武器之所以被禁,是因为到了两次世界大战之间的时期,互相用航空器来投掷化学武器袭击对方城市的话,大家都只能同归于尽——这其实有点后来核平衡的意思了。

至于到了现代,核竞赛、核平衡、核裁军——世界上威力最强大,最不人道的武器为世界创造了有史以来最长的一段总体和平时期。

这是多么讽刺的事情——善良和道德从未阻止过战争;真正阻止战争的,偏偏是最大的恶意——“确保互相毁灭”。

顺便说一句,贸易战也是如此——所以笔者并不担心中美贸易战。毕竟这年头,彻底中断中美贸易,和用核武器互相轰是一样的。

反过来,今天的学术界——当然了,艾伦·马斯克这样的金融界人士不算——如果真正想要阻止AI被用于战争,最简单的选择是彻底停止发展AI……

然而,没有人能做到这一点,因为毕竟“战争,战争从未改变”,现代世界早就不是天才的世界了,任何技术领域,只要投入足够多,“死了张屠夫,不吃混毛猪”,各国军方真想发展这种东西,岂是几个有点幼稚的善良科学家能阻止得了的?

既然如此,唯一符合理性的做法,恰恰是努力发展这方面技术,不管人类最后是否能跨越“超人奇点”(实现人类与AI的融合,或者AI超越人类),我们都应该尽早跨越这段人类根本无法理解AI的“蒙昧阶段”,让人类真正能够信任AI,才能让AI被运用到各个领域,不管是造福人类的方面,还是用在战争的领域——反正,“机器人三大定律”只是阿西莫夫为了构思推理小说而想象出来的东西,根本实现不了。

以数学语言编程的机器人,怎么能理解人类语言编写的“三定律”呢?

历史开不了倒车,在枪与子弹方面也一样

本周末,印度宣布展开新一轮步枪招标,要采购总计20万支发射7.62×39毫米子弹的步枪、短突击步枪和班用机枪。

要求很简单,“7.62×41毫米子弹,重量4公斤以下,射程500米”

然而就是这么一个简单的要求……让人感到抓狂了。

为啥呢?这一下子就有两个矛盾。

首先,7.62×41毫米,那是苏联最早生产的M43弹,只有最早的AK-47原型枪和SKS原型枪使用过,后来实际投产的是7.62×39弹。所以除非印度打算去俄罗斯博物馆抢劫,或者重新建立生产早期型M43弹的工厂——当然,笔者觉得更可能是透露消息的印度军官口误。

还有一种可能:这位印军军官是个“限量版”爱好者,看中了7.62x41弹的收藏价值

所以这个子弹或许是7.62×51毫米的北约制式,要么是7.62×39的华约制式。

从这个500米射程要求来看,又似乎是想要7.62北约弹……这事儿挺难说的。

而印度其他媒体报道称,印度这次可能要采购的是印度伊萨普尔兵工厂仿制的AK-101系列步枪,该枪使用7.62华约弹。这家兵工厂其实之前很早就仿制了AK系列,并在此基础上,用类似俄罗斯AK-12的思路,制造出了有着比较稳固上机匣盖,可以装各种光学瞄准具的Ghadak步枪。不过当然了,这个枪只是上机匣改进思路类似AK-12,其主要结构和AKM是大致一样的。

Ghadak步枪加了一堆配件之后,还是挺时髦的

印度的准军事部队其实很早就大量使用了Ghadak步枪,但印度陆军一直拒绝——因为30年前,印度陆军决定用5.56毫米的INSAS步枪替代当时他们使用的AKM步枪……如果走回头路,岂不是很丢人?

也正是因为这个原因,去年印度陆军就宣布,新式步枪要采用7.62北约弹,因为7.62×51毫米的北约弹威力大,射程远,在山地作战中有优势。

反正,这个“坑爹”的要求一提出来,印度各大兵工厂一边忍受着内心被十万只草泥马践踏的痛苦,一边还是纷纷拿出了相应的样枪。

同时印度陆军也顺便“比较”了一遍世界各国的名枪……然而还是没有买。

其实,印度去年之所以宣布要找回7.62北约弹,很大程度上……恐怕也是受到了美国“过渡战斗步枪”项目的影响,因为美军当时就是提出要一种7.62北约弹步枪来充当其陆军部队的主要武器。

两种“过渡战斗步枪”投标方案:7.62毫米口径的SCAR和HK417

印度陆军于是觉得:“哦,原来如此,今年流行复古风啊……”

或许正是这个原因,在美国陆军也放弃7.62北约弹,开始搞更加神经病的“6.5毫米塑料弹壳马格南”后,印度陆军就……食言而肥的找回了7.62华约弹……?

现在所有关于7.62×41毫米,500米射程的说法都是来自印度《经济时报》的文章,让人难以交叉比对,得出正确结论。所以到底印军葫芦里卖什么药,咱们等着看吧,这戏还有的唱咧。

其实在轻武器界,“复古风”已经吹了有段时间了。

看俄罗斯近年来比较出名的战争片《八月八日》,里面就反映了俄军近年来在轻武器配发上的特点,“老兵打7.62,新兵蛋子才打5.45”,其中俄军侦察兵部队主要使用的都是发射7.62毫米子弹的AKM步枪,而被M4卡宾枪揍得抬不起头的普通摩托化步兵,才拿5.45毫米的AK-74。这个情况,虽然是电影里的画面,却是比较符合现实的。

在乌克兰冲突中,我们也看到,俄军许多特种部队和伞兵,用的都是AKM步枪。

AKM,消音器,用胶带反向缠裹的弹匣——是精锐毛子!!

原因——5.45毫米子弹威力小呗。

同样的情况也出现在美军身上,弄得美国陆军都要搞“过渡步枪”,找回7.62北约弹就是这么回事嘛。

但问题是,找回7.62口径就万事大吉了吗?恐怕并不是。

现在看网络小说,总有作者会一本正经的告诉你,就算你穿了防弹衣,被7.62毫米步枪打中也会受内伤啊,被打飞出去啊什么的……

但其实……那啥……这只是幻想而已。

事实上,在伊拉克、阿富汗、乌克兰、叙利亚……各个热点战场上,小口径子弹威力不足的问题已经很明显,甚至是中口径子弹,甚至7.62北约弹这样接近传统全威力弹的弹药,都已经很难击穿现代的高级防弹衣了。在战场上甚至出现了10米距离上被G-3突击步枪发射的7.62北约弹连射十几枪而没事的美军士兵。

这就是美军为什么要寻求能在600米距离击穿任何防弹衣的超高膛压步枪和弹药的基本原因了——别忘了美军的假想敌是中、俄,中国是世界上最大的防弹衣生产国,我们生产的防弹材料占据了世界市场的70%……

而俄罗斯作为中国的朋友,如果和美国发生冲突——那么他们得到防弹衣这类的东西不要太容易——况且就像中国人喜欢用钨解决问题,毛子喜欢用钛……在防弹衣里面放块钛合金板子什么的,俄国人毫无压力。

K6-3钛合金头盔——传说中的“三级头”

所以,美军决定把步枪变成微型坦克炮——虽然这么做技术上有很多问题,但至少美军真的这么想了。

相比之下中国对此其实也有自己的担忧,我国的5.8毫米枪族——大家都知道的,存在不少问题。当然这是“大国的烦恼”。美军和俄军真正大量给陆军部队配发的枪也并不比95式枪族强哪儿去,关键的是人家还有供特种部队这样,专门要靠轻武器吃饭的部队用的,比一般陆军小兵官发破枪好得多的玩意……

不过呢,还好,QTS-11出现了,如果敌人有重型防弹衣——那就请他吃一发20毫米箭霰弹,每一发霰弹可相当于一枚钨芯尾翼稳定脱壳穿甲弹哦……

QTS-11系统是当初作为陆军部队全面更新装备,赶上世界一流水平的代表装备而开发的, 其开发过程由军方自己主导,有很多打破我军轻武器研制常规的做法——有人比喻这东西是轻武器界的“歼-20”,从各方面来讲,都很贴切。

当然了,QTS-11因为价格昂贵,难以全军配发,之前生产的数量很少。

但是,时过境迁了,作为习近平主席亲自关心过的轻武器,QTS-11的命运,很可能会迎来微妙的转机。

在轻武器领域,历史是开不了倒车的了,至少在中国不行咯……

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:于宝辰
人工智能 步枪 印度军队
观察者APP,更好阅读体验

“嫌犯从乌克兰获大量资金和加密货币,有确凿数据”

美方对俄隐瞒了部分信息?克宫回应

这条中马“一带一路”重点铁路项目 “或延伸至泰国”

国防部表态:中方不会在南海问题上任菲胡来

关于ASML出口管制,荷兰首相在华表态