NVIDIA的深度學(xué)習(xí)超級計算機(jī)為何能秒殺英特爾?
硬件和算法在人工智能領(lǐng)域的作用可以說是各占一半的,而在芯片層面上,業(yè)界幾乎觀點一致——GPU在人工智能深度學(xué)習(xí)算法上的重要性遠(yuǎn)高于CPU,這也就是為何NVIDIA在人工智能領(lǐng)域的風(fēng)頭甚至蓋過了英特爾。毫無疑問,GPU是當(dāng)下訓(xùn)練深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)最熱門的方法,這種方案已經(jīng)受到了谷歌、微軟、IBM、豐田以及百度等企業(yè)的青睞,因此GPU廠商在最近兩年逐漸成為眾企業(yè)膜拜的對象。
作為GPU領(lǐng)域的絕對主導(dǎo)者,NVIDIA最近動作頻頻,今年早些時候公司專為深度神經(jīng)網(wǎng)絡(luò)推出了Tesla P100 GPU,并且發(fā)布了基于該GPU的單機(jī)箱深度學(xué)習(xí)超級計算機(jī)——NVIDIA DGX-1。
如今這款深度學(xué)習(xí)超級計算機(jī)已經(jīng)問世,NVIDIA CEO黃仁勛日前將DGX-1交付給了馬斯克創(chuàng)辦的人工智能項目OpenAI,OpenAI會用DGX-1做什么項目?如何使用?還不得而知,不過我們可以先聊一聊這款深度學(xué)習(xí)超級計算機(jī)到底是什么?它有什么牛逼的地方。
深度學(xué)習(xí)超級計算機(jī)是什么?
顧名思義,深度學(xué)習(xí)超級計算機(jī)是深度學(xué)習(xí)和超級計算機(jī)的結(jié)合體,我們所熟知的“天河一號”、“天河二號”等都是超級計算機(jī),當(dāng)然不僅如此,通常情況下具備高性能計算(HPC)的計算機(jī)都可算作超級計算機(jī),如NVIDIA的Tesla系列。
因為深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)尤其是幾百上千層的神經(jīng)網(wǎng)絡(luò)需對計算和吞吐能力的需求非常高,GPU對處理復(fù)雜運算擁有天然的優(yōu)勢:它有出色的浮點計算性能,可以同時保證分類和卷積的性能以及精準(zhǔn)度。
所以搭載GPU的超級計算機(jī)已經(jīng)成為訓(xùn)練各種深度神經(jīng)網(wǎng)絡(luò)的不二選擇。例如在谷歌Brain項目中,其3臺機(jī)器中配置了12顆GPU,性能就達(dá)到了包含1000個節(jié)點的CPU簇的水平。