偶然當程序員卻拿下圖靈獎,超算榜單之父講述人生開掛經歷( 三 )


“如果你不能測量它 , 你就不知道它是什么”,這就是為什么杰克的工作很重要 。

現在,TOP500已經成為衡量超算能力的權威標準 。
而排名第一的計算速度,也以摩爾定律描述的節奏穩步增長,大約每14個月就會翻倍 。
天河一號,是中國第一臺登上榜首 (2010年11月) 的超級計算機 , 它在榜首呆了六個月時間 。
上月中旬 , 美國達拉斯舉行的 SC22 會議上,第60期TOP500排行榜結果公布,排名第一的依舊是上次奪魁的Frontier 。
偶然當程序員卻拿下圖靈獎,超算榜單之父講述人生開掛經歷

文章插圖



中國的兩臺超算,神威太湖之光和天河2號,分別拿下了排行榜第7和第10位 。
【偶然當程序員卻拿下圖靈獎,超算榜單之父講述人生開掛經歷】統計所有上榜TOP500的超算 , 中國共占據162臺,雖較去年的173臺有所下降,但仍以領先美國36臺的優勢,穩居世界第一的寶座 。
在算力方面,美國在已部署的算力中以43.2%排名第一,中國以10.6%位列第四 。
Jack Dongarra拿出了一組十分直觀的數據 。
現在的計算機,最快每秒是1.1 exaflops,TOP500的最后一名則是1.73 petaflops 。
而Jack Dongarra的筆電是擁有M2處理器的MacBook,它的運行速度是426 gigaflops 。
近30年前 , 第一代TOP500的榜首,屬于洛斯阿拉莫斯國家實驗室(LANL)用來設計核武器的計算機CM.5 , 它擁有一千個處理器,運行速度大約是60 gigaflops 。
不用說當年的第一和今日的第一如何如何,今天家用筆電的運行速度,已經遠遠超過了30年前的世界最快 。
好了,最后還是說回老爺子 。
偶然當程序員卻拿下圖靈獎,超算榜單之父講述人生開掛經歷

文章插圖



年逾七十的他,至今依然活躍在高性能計算領域的一線,今年更是奪得“計算機界的諾貝爾獎”圖靈獎 , 其中,LINPACK,正是他拿圖靈獎的獲獎工作之一 。
ACM總裁Gabriele Kotsis表示,Jack Dongarra是高性能計算社區中,最重要且積極參與的領導者之一 。
超算的新benchmark
也是這位積極的領導者提出,超算需要新的基準測試了!
背后原因不難理解——
LINPACK基準測試強調浮點運算,它的核心是矩陣乘法 。
多年以前 , 團隊設計LINPACK時 , 浮點運算還是一個很重要的衡量標準 。
今時今日,浮點計算已經不那么重要了 。
放眼望去,所有的超算都為浮點計算做了“過量”的準備——Jack Dongarra本人是如此評判的 。
是以,他認為當務之急是需要有新的基準來關心移動數據,也就是HPCG 。
偶然當程序員卻拿下圖靈獎,超算榜單之父講述人生開掛經歷

文章插圖



簡單介紹,HPCG一個共軛梯度算法,它著眼于解決稀疏矩陣問題,而不是密集矩陣 。
這恰恰滿足了今時今日在實際應用中存在的問題 。
相比于舊的基準HPL,HPCG能更好地反映應用程序的效果 , 但它給出的執行速度的數字會低很多 。
究其背后的原因,是隨著GPU的增強,計算機已經可以非常迅速地進行浮點運算,所以HPL得出的數據,其實是超算潛力被夸大后的結果 。
相對應地,HPCG強調不是浮點數而是移動數據,這正是帶寬和延遲會限制超算性能的地方 。
就拿日本超算富岳(Fugaku)來說吧 。
LINPACK基準測試中,富岳排名第一 , 達到了理論峰值的3%;而運行新基準 , 富岳只得到了理論峰值的0.8% 。
這意味著計算機并沒有發揮出它們的潛在性能,需要更仔細地進行研究 。

相關經驗推薦