原創(chuàng)

十多年之后...是時候了！Arm服務器正在擴大陣地

時間：2023-12-11 19:04:45

關鍵字： ARM 服務器 AI

手機看文章

掃描二維碼
隨時隨地手機看文章

[導讀]憑借著在個人計算機領域的廣泛應用打下的堅實基礎，X86自始至終統(tǒng)治著整個服務器生態(tài)。而這并不是業(yè)界希望看到的，因此Arm服務器被給予厚望。業(yè)界期盼Arm能夠帶來新的服務器CPU替代：打破一個同質化的數(shù)據(jù)中心架構，實現(xiàn)更高效的計算資源分配。

憑借著在個人計算機領域的廣泛應用打下的堅實基礎，X86自始至終統(tǒng)治著整個服務器生態(tài)。而這并不是業(yè)界希望看到的，因此Arm服務器被給予厚望。業(yè)界期盼Arm能夠帶來新的服務器CPU替代：打破一個同質化的數(shù)據(jù)中心架構，實現(xiàn)更高效的計算資源分配。

從2011年開始，英偉達、Calxeda、博通、高通、海思等大大小小的處理器創(chuàng)新先鋒開始推出服務器級64位Arm CPU，雖然數(shù)年來并未在X86的陣地中奪得一隅，但業(yè)界從未放棄在這一領域的探索，尤其是云服務廠商。從2018年隨著AWS Graviton一代的發(fā)布，Arm CPU在云計算中的高能效價值凸顯。并且隨著Graviton的不斷迭代帶來的能效跨越式提升，越來越多AWS的客戶選擇了將其工作負載創(chuàng)建在基于Graviton的實例上。

“為什么超大規(guī)模云服務商如亞馬遜云服務 (AWS)、阿里巴巴都要做自己的 CPU 設計，而且都選擇和 Arm 合作？其實答案非常簡單，通過和 Arm 合作，他們能夠根據(jù)自己的用例和基礎設施來打造并優(yōu)化解決方案。”

從2011年到現(xiàn)如今，經歷了十余年的時間。眼下，Arm CPU開始真正的展示出其在服務器領域不可或缺的計算價值和生態(tài)意義。英偉達Grace CPU、Fujitsu A64FX和Marvell的ThunderX2等不斷涌現(xiàn)，讓人覺得眼前一亮。

雖然從Omdia 2022年第二季度統(tǒng)計來看，Arm在服務器CPU份額約為7.1左右，但隨著大型數(shù)據(jù)中心和邊緣計算服務器的需求激增，預計將為Arm CPU帶來更多新的機遇。

近日在Arm Tech Symposia年度技術大會北京場，我們有幸采訪到了Arm高級副總裁兼基礎設施事業(yè)部總經理Mohamed Awad，他針對Arm在基礎設施領域的計算平臺進行了精彩的分享。

傳統(tǒng)服務器架構：已無法滿足AI應用高帶寬需求

在傳統(tǒng)的服務器架構中，一個通用的現(xiàn)成CPU和一個DRAM在一起，然后連接至多個加速器。這一傳統(tǒng)架構一直適用了幾十年，但由于無法獲得足夠的內存，這一架構已經很難滿足AI應用所需的數(shù)據(jù)和計算量。面向新的AI應用需求，數(shù)據(jù)中心基礎設施領域出現(xiàn)了新的現(xiàn)代化系統(tǒng)架構。例如，現(xiàn)在我們可以通過一個定制CPU，在每一個DRAM和加速器之間建立高性能連接，從而在各個設備之間實現(xiàn)內存一致性。

“人工智能 (AI) 正處于快速發(fā)展中，目前最大的挑戰(zhàn)之一內存帶寬以及其能否為設備提供更好的支持。行業(yè)需要一個新的系統(tǒng)架構來實現(xiàn)更多的內存帶寬和內存一致性?！盡ohamed Awad分享到，“不止于此，我們還需要不斷發(fā)展我們的系統(tǒng)架構，要有足夠的靈活性，并讓不同的想法蓬勃發(fā)展，進而找到實現(xiàn) AI 的最佳途徑?！?

在五年前，要構建一個數(shù)據(jù)中心基礎設施，服務商會直接購買通用的預配置好的現(xiàn)成芯片，然后按照CPU供應商提供的固有方式來搭建整個服務器，接著將服務器放倒機架上，通電即可。但現(xiàn)在，阿里巴巴、AWS、微軟這樣的超大規(guī)模云服務商都開始自研芯片，最主要的目的就是為了能夠把每一顆芯片的性能、效率都發(fā)揮到極致，做到最佳優(yōu)化，他們會根據(jù)自己的用例、工作負載，圍繞服務器、機架甚至是自己的數(shù)據(jù)中心來進行個性化定制。

隨著GPTs等技術的發(fā)展，數(shù)據(jù)量和計算量只會越來越大，而芯片的定制化意味著生態(tài)伙伴可以通過優(yōu)化，支持不斷激增的數(shù)據(jù)量和計算量。就像近期 AWS和微軟的自研芯片發(fā)布中，他們都是同時推出一款新的CPU和一款新的 AI芯片，兩者結合從而能最大化效率、性能和價值。

Arm Neoverse能夠適應新的AI應用帶來的計算和內存帶寬需求，為數(shù)據(jù)中心架構帶來變革。例如近日發(fā)布的英偉達GH200超級芯片中，其CPU Grace Hopper就采用了72顆Neoverse 核心，加上來自NVIDIA的GPU的組合，實現(xiàn)了AI性能較基于x86架構的系統(tǒng)10倍提升。

從大型云服務商到初創(chuàng)企業(yè)，構建開放創(chuàng)新的服務器生態(tài)

過去了十多年，為什么直到近年來Arm CPU的服務器才得以站穩(wěn)腳跟，拿到一些份額？是因為作為直接受益者的大規(guī)模云服務器廠商開始真正發(fā)力了。他們一方面有著豐富的應用場景和計算需求，另一方面投入了大量的研發(fā)資金，從而真正使得Arm服務器得以成行。

但要持續(xù)擴大Arm服務器的份額，提高到10%以上，未來甚至增大至15%、20%，絕非易事。這意味著要將X86 CPU主導的服務器生態(tài)中的系統(tǒng)堆棧和應用軟件都移植過來，而爭取到這些軟件商就需要硬件生態(tài)更加開放繁榮，要讓整個生態(tài)變得更易加入，更易創(chuàng)新，不能只是大規(guī)模云服務商自研自用。Arm深知生態(tài)構建的意義，需要降低門檻，乃至初創(chuàng)企業(yè)都能夠輕松構建基于Arm Neoverse平臺的服務器CPU。

Arm幾十年來一直專注于計算性能，專注于計算性能與軟件的緊密藕合。而計算性能不僅和CPU IP相關，而是包括了多種IP的組合、互連，以及軟硬件的協(xié)同工作。Arm不僅提供IP，還提供了完整的計算解決方案。在移動計算領域有Arm 全面計算解決方案 (Arm Total Compute Solutions)，在物聯(lián)網(wǎng)領域有Arm Corstone，在汽車領域有SOAFEE，而在基礎設施領域則是Arm Neoverse平臺。

為了進一步幫助客戶加速部署基于Neoverse平臺的系統(tǒng)，Arm Neoverse 計算子系統(tǒng) (CSS) 能夠提供完整的子系統(tǒng)，合作伙伴可以直接采用，也可按需選用，從而加速產品的上市進程。近日發(fā)布的微軟Azure Cobalt 100，就是基于Neoverse CSS打造而來。而Cobalt 100的超乎性能表現(xiàn)，也代表著Neoverse CSS這一子系統(tǒng)的強大潛力。一方面顯著意義在于，Neoverse CSS可以幫助所有體量的客戶縮短研發(fā)時間，另一方面對于小體量客戶而言，直接選擇Neoverse CSS可以大幅降低他們的研發(fā)成本。

“并不是所有的合作伙伴都具備AWS這樣成熟的技術能力，一些合作伙伴可能需要我們在技術上給予更多的支持從而推動產品上市。于是我們推出了進一步的舉措——Arm Neoverse CSS ，來幫助客戶加速部署基于Neoverse平臺的系統(tǒng)。”Mohamed Awad分享到，“Neoverse CSS能夠提供完整的子系統(tǒng)，合作伙伴可以直接采用，也可按需選用。通過 Neoverse CSS 能夠幫助我們的合作伙伴進一步降低投資，加速整個生態(tài)系統(tǒng)對我們解決方案的可訪問性?！?

據(jù)某些客戶反饋，使用Neoverse CSS，節(jié)省了長達80人/年的工程師時間；另外一位客戶反饋，使用Neoverse CSS，助力其項目從概念到流片僅耗時13個月。在國內也有諸多知名的客戶選擇了Neoverse平臺來搭建自己在基礎設施領域的產品，包括阿里巴巴、云豹智能、遇賢微電子和鴻鈞微電子等。