谢耘:“涌现”,一块高科技品牌的遮羞布,一种科学领域的玄学信仰

来源:观察者网

2024-04-22 08:24

谢耘

谢耘作者

中国科学院工程序列任职资格评审委员会主任

【文/观察者网专栏作者 谢耘】

2023年12月底,我应朋友的邀请在一个学术年会上就“整体论与还原论的融合”这个话题做了一个分享。随后,一位在国内顶级ICT企业任技术高管的朋友看到这个分享后对我说:“你说的涌现那句话要把系统论的所有人都得罪死。”我回复道:“事实原本如此呀。”

朋友指的就是上图所示的这页PPT上面的这句话:“‘涌现’是遮盖无知的遮羞布,没有任何‘技术含量’”。

“Emergence”这个词是1875年George Henry Lewes(1817—1878,英国学者)在他雄心勃勃的五卷著作《Problems of Life and Mind》中将其引入到科学之中的。

当初George Henry Lewes引入Emergence这个源于拉丁文的名词,是为了描述复杂系统的表现。复杂系统有一类表现,是我们可以根据已经认识到的事物的相互作用规律,去理解它们是如何产生出来的。他把复杂系统的这一类表现归入“Resultant”之列,我们可以翻译为“产生”类表现。Resultant用在这里是表达这些表现是有人类可以理解的产生过程;而与之相对应,复杂系统还有一些表现,是我们没有能力、没有办法按照我们已经掌握的规律去解释它们是如何产生的。他为复杂系统的这一类表现找了另外一个词,就是现在因深度学习而闻名的“Emergent”,意思是这些表现是因为我们不知道的缘由而“出现”的。

别惊讶,你没有看错,Emergence/Emergent的原意就是汉字的“出现”。这是字典中的标准解释,是这个词的拉丁源头emergo的本来意思。

看到这里你是否已经意识到,当初George Henry Lewes用Emergence/Emergent这个词并没有复杂的深意,就是在说明对于复杂系统,它的某些表现/功能出现的背后原因我们一无所知。换言之,这个词的引入是用来代表我们对于复杂系统的“无知”,我们不清楚一个复杂系统在什么情况下,会产生什么样的我们无法解释的现象。当然,我们也无法预测这些现象是否是我们需要的。我们应该做的,是探索未知从而将自己的“无知”变为“有知”。

George Henry Lewes在引入这个词时简单直白并无猫腻,亦如与其相对应的、至今默默无闻的Resultant。无知不是耻辱。人类就是在不断直面和消除自己的无知、将未知变成已知的过程中进步的。但是后来者在使用这个词的时候,渐生心机、甚至充满算计,给这个词营造了一种魔力般的神秘感。中文将其翻译成给人以高深莫测之印象的“涌现”便反映了这种思量。这让Emergence/Emergent有了与Resultant截然不同的境遇。这恐怕是George Henry Lewes当初完全没有料到的,科学家的使命不是掩盖自己的无知,也不是将未知神秘化去蛊惑人心。

自19世纪后期开始,科学家们从不同的角度前赴后继地去解决复杂系统带给我们的这种Emergence困惑。经过100多年的努力,复杂系统的一些规律被揭示出来,它们导致的现象也从Emergence/Emergent这个类别中成功地逃出而可以被归入Resultant之列。普利高津的耗散结构理论可能是揭示复杂系统/现象规律中最著名的理论之一。但是对于复杂系统我们始终未能发展出一套像物理学那样的普适性科学原理体系,还是停留在就事论事的层面。

最为尴尬的是,人类自己从自己的大脑神经元连接中获得启发,而人为构造出来的“人工神经网络”,在规模大到一定程度之后,我们自己都没有办法很好地解释它的行为表现。这就是当今人工智能的顶梁柱“深度学习”的所谓“不可解释性”。

在科技高度发达的今天,人类自己构造的系统,我们自己却没有办法有效地解释其工作的机制,因而也难以可靠地预测它的行为表现,特别是这种情况又是发生在被认为是人类当代科技成就的制高点之一人工智能这个领域内。这让以深刻揭示和运用事物运动规律为己任的现代科学与技术情何以堪。

幸好George Henry Lewes在169年前引入了Emergence/Emergent这个名词当作这个现象的标签。Emergence/涌现便渐渐流行起来,以至于几乎到了人工智能业内人士言必称之的程度。

当以“深度学习”为基础的人工智能系统,如现在流行的大语言模型,在系统规模不断提升而出现了一些我们渴望的表现时,便有人惊呼:“这就是‘涌现’的力量!”进而以此为依据信心满满地断言:“只要规模继续扩大,大模型必定会‘涌现’出更多的‘高级智能’,通用人工智能不久可期。”按照这个叙事逻辑,大语言模型出现的恼人的胡言乱语的“幻觉”,同样也可以说是“涌现”的结果。因此,模型持续扩大并复杂化之后,我们并不清楚它是会出现更多的我们期待的表现,还是会出现更多与我们期待相悖的行为,甚至出现系统行为失控性发散甚至崩溃的情况。

这种语境下的“涌现”一词并没有蕴含任何超出“出现”之外的科学/技术的深意,丝毫无助于对于这种复杂系统行为表现的理解,因而也不能作为符合科学规范的分析推论的论据。

“‘涌现’过程是新的功能和结构产生的过程,是新质产生的过程,而这一过程是活的主体相互作用的产物。‘涌现性’告诉我们,一旦把系统整体分解成为它的组成部分,这些特性就不复存在了。”这是今天人们给出的一些阐释。

资料图/香港文汇报

不过这些看似颇具科学范儿的表述,几乎没有道出任何一点儿超出169年前Emergence被赋予的内涵,可以说都是毫无新的信息量或科学技术含量。

尽管内涵仍旧简单如初,依然代表着我们的无知,这个名词被乔装打扮后面貌焕然一新,成功地跻身于现代科学/技术专有的前沿性精妙概念之列。特别是涉及到以“深度学习”为基础的人工智能的时候,它以极高的频率出现在学术论文与大众传媒中。

Emergence不再指代一种需要我们去探索的未知,而是成为了一种象征神秘力量的图腾,因神秘而成为了很多人的一种坚定信仰。转而这种被“科学概念”包装后的信仰,成为了科学论证中的强大依据。玄妙的神学堂而皇之地在理性科学的殿堂中有了一席之地,而且是在殿堂的最高处。

自2010年后,信息技术借助“暴力计算”推动了人类多方面的进步,让人类获得了一种从凡夫到“上帝”的成就感。凡夫的缺陷会玷污万能“上帝”的圣洁尊严,Emergence/涌现因而获得了空前的用武之地。

为一个如此内涵简单的名词费了这么多的笔墨,已经有点多余了。“知之为知之,不知为不知,是知也。”祖先质朴的教导,是否会唤回新科“上帝”的理性?毕竟,现代科学的辉煌与玄学信仰无关,更不是通过对无知的遮掩,而是建立在严肃理性之上的。

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:朱敏洁
观察者APP,更好阅读体验

又签合作大单!巴西:对华贸易已超美欧总和

“袭击将至?”乌克兰全民恐慌…

习近平同卢拉会谈:这是中巴又一个历史性时刻

拜登批了:鲁莽的竟是我自己

这份“反华”报告果然来了,中方严厉驳斥