網格技術的發展與展望

高性能計算的能力和水平是國家總收入的重要標志，也是國家創新體系的重要組成部分。因此，它已成為世界各國特別是發達國家之間競爭的戰略中心。發展高性能計算,不但可以帶動計算技術本身向更高水平發展,而且可以解決國民經濟和產業發展、社會和科學進步、國家安全等方面的一系列挑戰性問題。21世紀高性能計算的趨勢是與網絡結合,產生網格計算(GirdComputing)這種新技術。對于網格計算,我國政府給予了高度重視。教育部在“十五”211工程公共服務體系建設項目中,提出了依托CERNET建立可聚合與共享資源的公共服務平臺———中國教育科研網格(ChinaGrid),這對于實現計算資源,存儲資源,數據資源,信息資源,專家資源的全面共享,全面提高我國教育信息化基礎設施服務水平和高等學校教學科研水平,都將具有極其重要的意義。為此,教育部將組織實拴教育科研網格項目,首批參加教育科研網格項目的高校有:華中科技大學,清華大學,北京大學,北京航空航天大學和中山大學等12所大學。到網格建成時,將在教育科研網上把全國100所211建設重點大學的資源廣泛共享。ChinaGrid的目標是在2005年建立聚合計算能力超過15萬億次量級的教育科研網格,形成世界上最大的超級網格之一(圖1)。高性能計算是網格計算資源中的重要組成部分,也是ChinaGrid建設中的一個重要指標,理應優先發展。目前首批參加ChinaGrid的12所大學中,已有8所大學具有超過五千億次(500GFlops)的計算力,其中有五所有已具備超過一萬億次的計算力。為了配合中山大學建設高水平研究型的綜合性大學目標的需求,建設中山大學高性能網格計算平臺對提高我校的基礎研究學科、應用學科的學術水平和促進新的交叉學科的形成,提高我校科研的整體創新能力,具有重要的戰略意義。利用該平臺可以極大促進計算機科學與技術學科相關研究方向學術水平的提高,為國家培養大量高性能計算的應用人才,提高中山大學在多個學科中的科研實力和科研水平。1網格等新技術帶來的競爭中山大學是一所集文、理、工、醫和商等一體的多學科綜合性研究型大學,擁有豐富的資源、良好的學科基礎、通暢的網絡環境以及穩定的人才隊伍等優勢。許多學科都承擔著國家或省一級的自然科學基金和科技攻關等項目,這些項目往往在計算力及海量數據存儲方面都有著巨大的需求,學校如果沒有一個良好的高性能網格計算環境,不能提供充足的計算力,那么必然會在許多領域中失去很多機會,在激烈的競爭中處于下風。通過我們近年來對校內多個學科的接觸和調查,初步掌握了他們的一些典型應用的特點以及他們對高性能計算的需求,以下僅以部分學科或學院為例。(1)流動掌控方程的關性研究數計學院在多個研究方向上都需要大量的計算力,例如關于并行計算、程序并行化與數據相關性的研究;涉及用數值計算方法直接求解流動主控方程的計算流體力學;有關模擬大規模投資組合分析和風險價值計算的金融計算研究;智能交通系統的大規模實時網絡計算等等,為此,以陳仲英教授為首的學科帶頭人,已向學校提出建立大規模快速反應計算中心的需求。(2)大規模數值模擬研究粒子物理和量子場論是探索物質世界的前沿科學,格點QCD是粒子物理與凝聚態物理和計算科學之間相互交叉的學科。要了解QCD所包含的物理現象并且對點陣理論的預測進行精確地計算,就必須進行大規模的數值模擬。我校承擔的國家自然科學基金重點項目“格點規范理論的大規模數值模擬研究”,以格點量子色動力學課題進行大規模數值運算,要實現其科學目標,必須要把校內、校際、國內甚至是國際上現有的高性能計算資源加以充分利用,而網格計算是最有效的實現方法。(3)基于學也即計算生物學的基因測序工作生命領域的生物組織及其重建的計算模擬、生物信息學研究、模擬克隆人技術等對計算里有較高的需求。生物信息學(也即計算生物學)領域為研究機構共享計算與數據資源并進行復雜的計算工作,如蛋白質結構分析等,提供一個集成平臺。基因測序工作需要的海量數據比對及處理必須利用超強的計算能力,以便對基因的生物功能進行分析。生物學與生物系統模擬研究,需要超強計算力帶來原子級精度。可見高性能計算研究是生命科學不可缺少的重要手段。(4)醫學圖像診斷在醫學、藥學與公共衛生學領域,也有許多需要高性能網格計算的研究,例如醫學圖像診斷、藥物設計與新藥開發、心血管血液流動仿真、數字化人及其醫學應用,流行疾病統計、分析與預測等等。醫學圖像診斷通過網格計算平臺在創建一個跨醫院甚至跨地區的大型醫學數字化“相冊”,存儲各種典型的數字化醫學圖片,便于患者、師生及醫務工作者便捷地獲取各種有價值的醫學圖片,輔助疾病的早期發現與早期診斷。而各種人體的仿真,疾病的統計分析與預測,藥物毒性比對分析等,更是對高性能計算有非常大的需求。(5)并行計算系統氣象的觀測與預報,需要對各種氣候子系統進行綜合的大規模數值模擬以及對各種不確定因素進行定量分析,因此需要強大的并行計算系統。近幾年來,我校大氣系承擔了包括國家攀登A項目、國家自然科學基金重點項目等多個重大項目的研究。這些項目的研究都涉及到“大氣數值模式的研制和數值試驗”,需要使用大容量、高速并行計算機。(6)計算機環境領域的污染傳播與防治的數值模擬,海洋污染問題中的赤潮問題、珠江河水污染的問題,地理信息系統都是高性能計算的重要選題。高性能計算環境的建成,將完善廣東頗具優勢特色的海洋科技創新體系。(7)信息共享機制化學信息學是近幾年發展起來的一個新的化學分支學科,它利用計算機技術和網絡技術,對大量的化學信息進行表示、管理、分析、模擬和傳播,以實現化學信息的提取、轉化與共享,揭示化學信息的實質與內在聯系,促進化學學科的知識創新。另外,理論化學中模擬各種化學反應的量子化學計算,化工、醫藥和生物大分子結構的設計與計算,以及結構功能預測和研究、藥物分子的作用機理和大分子結構合成的途徑等,都需要大量的數值計算應用。(8)標準化的方法工業大規模設計計算問題,不但單個作業計算量龐大,而且需要不斷調整和重復計算。在航空、航天、船舶、汽車等工業領域,利用大規模并行計算進行反復設計、分析、優化,已成為標準的必經步驟和手段。另外,材料科學中,模擬材料生長、條件、工藝的全過程,從而定量分析材料的光電和結構及其演化問題,也是高性能計算的應用。以上幾點僅是我們前期初步調查的部分典型應用,但各應用計算力需求最高達5000億次,據初步調查結果預測,我校在高性能計算上的計算力總需求約為20000億次。2我們學校規劃并建設了高性能網絡計算環境的規劃和建設2.1完善中國高校網格結構(1)建設我校高性能計算平臺,為發展ChinaGrid進行必要的技術儲備和鋪墊,在2005年底前實現聚合計算力超過每秒5千億次(500GFlops)、存儲力達到30TB(其中10TB用于高性能計算與網格計算)的高性能計算環境,使之成為我校建設高水平大學的重要基礎設施和公共服務設施之一,同時成為中國教育科研網格(ChinaGrid)上的網格節點之一。(2)充分利用中山大學的學科優勢和豐富信息資源,實現資金聚合與計算力聚合的統一,利用有限資金集中各種資源,有效防止各部門重復投資與資源閑置。優先扶持若干個應用,并為其他的學科和應用提供示范效應。(3)為高性能計算與網格計算學科建設提供必要的物質基礎,并與各學科進行合作,培養一批高素質的高性能計算、網格研究及應用人才。(4)建立高性能計算應用的相關的管理制度,完善使用程序,規范操作行為,加強安全保障措施,促進高性能計算應用的良性發展。(5)為教育與科研網上的用戶提供共享網格服務,為科學研究提供本節點的計算資源和存儲資源共享,促進廣東省及華南地區的計算網格、數據網格和服務網格等的研究和應用發展。2.2強化環境,重視人員配備與培養建設我校高性能網格計算平臺,除得到校領導及學校其他相關部門的大力支持以外,必須具備一定的條件。隨著數字化校園建設項目的開展,信息與網絡中心在一些基礎設施方面,已能基本能滿足我校高性能網格計算平臺建設的需求。在我校數字化校園一期建設中,我中心已規劃建設數據中心。數據中心既是數字化校園重要的基礎環境設施,也是以后發展高性能網格計算平臺的重要環境依托。目前數據中心精密機房建設已經基本完成,機房面積約為170m2,配備有3臺41kW的精密空調,2臺160kW冗余三相UPS電源,按照不小于2萬億次計算能力的需求設計,動力電源輸出可達500kW,具備先進的大屏幕監控系統設備,具備完善的機房環境恒溫、恒濕控制,及完善的防雷、防靜電、氣體消防等保護設施,已可以滿足我校未來一段時期內發展高性能網格計算的環境需要。隨著數據中心項目的完成,我中心已具備存儲力達10TB的EMCDELLCX600存儲設備一套,計算力達高達每秒1760億次的IBMp690服務器兩臺,以及曙光信息產業(北京)有限公司捐贈的一套小型“高性能64位集群服務器”一套,并建立“曙光64位應用示范基地”。我中心非常重視高性能網格計算方面的人員配備與培養問題,安排專人負責高性能計算的技術跟蹤與調查,協助主管網格計算的中心副主任進行高性能網格計算的規劃。并安排相關技術人員,在已有的計算環境下開展高性能網格計算方面的研究,進行必要的技術積累。2.3集群體系結構高性能計算的發展過程主要經歷了以下幾個階段:初級階段,向量機階段,對稱多處理器共享存儲并行機(SMP)、分布式共享存儲并行機(DSM)、大規模并行處理機(MPP)、集群機群(Cluster)及正在興起的網格計算。在近幾年來,集群系統在許多領域和機構(特別是教育科研機構)的高性能計算中被廣泛使用,并成為正在興起的大規模網格計算中的重要計算資源。從當前的高性能計算機TOP500排行榜可以看到,機群上榜率正在大幅增加(表1)。集群是多臺SMP服務器或PC服務器,通過高速網絡互聯,每一臺機器作為一個單獨的結點,除滿足要獨立使用每個結點的協定任務之外,所有結點如同一個整體一起協同工作。集群體系結構有著良好的可擴展性、易用性、可用性、性能成本比:(1)可擴展性———集群是松偶合結構,從理論上講,計算能力隨結點的增加而增加;(2)易用性———集群的每一個結點都是傳統的平臺,用戶可以在熟悉和成熟的環境中開發和運行他們開發的應用程序;(3)可用性———集群有多個存儲器和處理器,單個的部件失效不會導致整個系統的崩潰。集群有多個系統映像,單個的系統映像的損壞也不會導致整個系統的崩潰。系統使用商品化部件,容易更換,而且可使用開放性的技術如RAID提高系統可用性;(4)性能成本比———傳統的PVP超級計算機和MPP服務器由于其結構的特殊性,成本往往會很高,而相同理論峰值運算能力的集群價格則要低1-2個數量級,特別是PC集群,由于大量采用工業標準部件,其成本更低。考慮到充分利用現有資源,根據我們的總體目標及目前的技縮發展趨勢,結合學校各學科的需求,我們決定在第一期采用含支持64位計算的處理器的PC服務器集群構建我校的高性能計算環境,理論浮點運算峰值不低于3000億次。經過招標,我們采購了曙光公司的曙光4000L集群。該集群包括3個機柜、62個計算結點、1個管理結點、1個訪問結點、1個存儲結點。每個計算結點為配備2路支持64位的Intel至強2.8