中国为何要构建全球首个超算大科学网络

来源:观察者网

2017-12-13 09:53

科工力量

科工力量作者

提供对中国高新技术企业和产品的专业点评

【文末扫码关注微信公众号“科工力量”,中国工业科技新闻的权威观察家】

11月18日,海洋国家实验室与国家超级计算无锡中心、国家超级计算济南中心在青岛海洋科学与技术国家实验室签署共同构建超算大科学装置群战略协议,构建全球首个国际超算大科学网络基础设施。

青岛海洋科学与技术国家实验室

其实,构建超算互联网体系并不是新概念。早在十多年前,国内单位就提出过各超算中心联网共享资源。为此,还专门部署过研究课题,并被列为“863计划”的一个专项。中科院计算所、航天二院、清华大学等十多家科研院所和大学曾经参与过相关研究。

那么,为何要构建超算互联网体系?构建超算互联体系又需要哪些关键技术呢?

缘何构建超算互联体系

在早些年,一些学者认为单台高性能计算机已经不能胜任一些超大规模应用问题的解决。于是大家想把多台超算通过广域互连技术连接起来,从而解决一些大规模科学与工程计算等问题。

这样一来,就可以把多台超算拧成一股绳,形成合力,用于解决模拟核爆炸、药物研制、气象预报和环境等重大科学研究和技术应用领域的问题。

同时,通过共享计算资源,还能有效提升超算中心的计算资源利用率。

从实践上看,用户对超算的需求也有一定的周期性和不平衡性。比如现在南方某中心的超算应用率高达130%,也就是说超算的计算资源根本不够用,有30%的用户需要排队等候。与此同时,国内的另一些超算中心可能正处于业务的“淡季”。

(广州超算中心)

又比如,新老超算中心之间存在利用率的不均衡。正如新建一条商业街后,商铺进驻、人气积累都需要时间,新超算建成后的用户积累也要有类似的一个过程。

由于超算性能在过去10多年里进步非常迅速,这导致老超算中心在积累的较多用户的同时,超算相对有限的性能已经越来越力不从心。而新超算中心的机器由于具备后发优势,性能卓越,但却在短时间内无法积累与机器性能相匹配的用户,进而出现超算计算资源利用率不高的情况。

如果将不同年代建设的多个超算中心连接起来,形成超算互联网体系,不仅能够实现多台超算共同解决一些重大科研课题,还能做到计算资源的充分利用。

需要解决哪些关键技术

首先要明确的是体系结构。体系结构可以清楚地说明整个系统是由哪些关键部分结合在一起形成的,还必须能够对各个部分的功能、目的、特点等进行清晰的描述,使人们能够了解各个组成部分的作用。

比如怎样自动地把用户最需要的信息放在离用户最近的服务器上;如何让用户尽快得到所需信息而不管信息到底存放在什么地方;如何去自动平衡负载;如何使网上的多台高性能计算机协同工作等。这些都是设计网络系统的体系结构所要考虑的问题。

其次,要解决的是任务协同。正如“一个和尚挑水喝,两个和尚抬水喝,三个和尚没水喝”,如果在协同上做的不好,将多个超算中心连接起来,未必能实现理想中的效果。因此,如何实现任务的协同是超算互联体系的一项关键技术。

要解决任务的协同,必须要解决好资源管理和任务管理。资源管理包括资源的发现、描述、定位、组织、分配、监测、更新和信息发布等,主要负责用户与系统环境的交互,提供标准的、开放、通用的协议和接口。

在应用过程中,一般将其分解为几个任务,并为每个任务配置最合适执行的机器。任务管理指的根据当前系统的负载情况,以及根据用户提交的任务类型、所需资源等内容,对系统内的任务进行动态调度。通过这种方式实现计算资源的最优配置,并达到提高系统的运行效率的目的。

再次,要解决通信问题。将超算中心连接起来,必然离不开通信技术的辅助。这也是为何专家认为实现国家超算中心“合六为一”,必须有足够的带宽才行。除了带宽,延时也非常重要,只有将延时降到足够低,才能满足需要。而为了进一步降低延迟,则离不开计算和通讯过程重叠等方法。

最后,国内各超算中心的一些差异也会造成技术障碍。由于国内众多超算中心的各台超算的体系架构、芯片指令集、软件平台都不一样,举例来说,神威太湖之光使用的芯片是申威26010,指令集为SW64;而天河二号使用的芯片是E5和至强PHI,指令集为X86。这种情况就会对资源共享造成一定障碍。

正是因此,本次只是将国家超级计算无锡中心和国家超级计算济南中心实现互联,而没有做到六家超算中心全部互联。其中的原因就在于无锡超算中心的神威太湖之光和济南超算中心的神威蓝光有很多相似之处,比如都采用申威芯片,都采用睿思操作系统等等。

结语

将超算连接起来,看起来和云计算有一定的相似之处——都通过网络将计算资源连接,并向用户提供计算资源。不过,两者也存在一定差异。

最明显的差异就在于应用方向上。超算互联系统主要用于科学计算,属于计算密集型运算,是专为解决物理、化学、材料、生命科学、CAE仿真、气象、海洋、环境、石油物探、以及国防军工等领域的特定问题而设计的。而云计算是面向用户不同需求设计的通用模式,属于访存密集型运算,对CPU计算资源的占用没有那么高,却对读写操作有很高的要求,跑科学计算非其所长。

在该项目的研究方面,美国、欧洲、日本等国都有相关计划,比如美国就计划在2020年建成类似的系统。

不过,真正将性能超过100P的超算与其它超算互联,并将该系统用于全球海洋系统模拟,在全球还是第一个。

在建成国际超算大科学网络基础设施之后,不仅有效整合各高性能计算中心服务能力,共同服务于国际超大规模协同计算任务,还能立足已建成的P级超算,开发面向E级超算建设基础应用支撑体系,为中国的科学研究提供高弹性、高可用性的计算资源保障。

扫码关注微信公众号“科工力量”,中国工业科技新闻的权威观察家

责任编辑:宙斯
超算
观察者APP,更好阅读体验

他在以色列监狱中死亡,联合国官员:极度震惊

俄方通缉泽连斯基等乌军政要员,乌方回应

“哈马斯得到美方保证”?以官员威胁:不会同意

国际刑事法院忍无可忍:再威胁试试

省级督察组现场核实情况,遭故意封路阻挠