2022年3月，NVIDIA發(fā)布了首款數(shù)據(jù)中心CPU Grace、新一代高性能計(jì)算GPU Hopper，同時(shí)利用它們打造了兩顆“超級(jí)芯片”(Super Chip)，一是Grace CPU二合一，二是Grace CPU+Hopper GPU二合一，看起來(lái)都極為酷炫。

現(xiàn)在，足足14個(gè)月過(guò)去了，NVIDIA終于宣布，GH200 Grace Hopper超級(jí)芯片已經(jīng)全面投產(chǎn)，將為復(fù)雜AI、HPC工作負(fù)載提供澎湃的動(dòng)力。

再加上Grace CPU、Hopper GPU、Ada Lovelace GPU、BlueField DPU等全套系統(tǒng)方案，NVIDIA現(xiàn)在已經(jīng)有400多種配置，可滿足市場(chǎng)對(duì)生成式AI的激增需求。

歐洲和美國(guó)的超大規(guī)模云服務(wù)商、超算中心，將會(huì)成為接入GH200系統(tǒng)的首批客戶。

同時(shí)，黃仁勛還公布了Grace Hopper的更多細(xì)節(jié)，尤其是它的CPU、GPU之間使用NVLink-C2C互連技術(shù)，總帶寬高達(dá)900GB/s，相比傳統(tǒng)的PCIe 5.0通道超出足足7倍，能夠滿足要求最苛刻的生成式AI和HPC應(yīng)用，功耗也降低了超過(guò)80%。

Grace CPU擁有72個(gè)Armv9 CPU核心，緩存容量198MB，支持LPDDR5X ECC內(nèi)存，帶寬高達(dá)1TB/s，還支持PCIe 5.0。

Hopper GPU則采用臺(tái)積電4nm定制工藝，集成多達(dá)800億個(gè)晶體管，號(hào)稱世界上最先進(jìn)的芯片，集成18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級(jí)緩存，支持6144-bit HBM3/2e高帶寬內(nèi)存。

同時(shí)，NVIDIA宣布推出一款新型大內(nèi)存AI超級(jí)計(jì)算機(jī)“DGX GH200”，可用于開發(fā)面向生成式AI語(yǔ)言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載的下一代大模型。

它配備了多達(dá)256顆GH200 Grace Hopper超級(jí)芯片，彼此NVLink Switch System互相連接，帶寬提升48倍以上，對(duì)外可作為單個(gè)GPU使用，浮點(diǎn)性能高達(dá)1PFlops(每秒1千萬(wàn)億次浮點(diǎn)計(jì)算)。

同時(shí)還有144TB共享內(nèi)存，相比2020年的上一代DGX A100增大了近500倍。