為AI數(shù)據(jù)中心而生|美光發(fā)布首款支持PCIe5.0的9550 SSD及首款G9 NAND(2650NVMe SSD)
隨著AI應(yīng)用的興起,對于數(shù)據(jù)中心提出了更高的要求。而作為數(shù)據(jù)中心的關(guān)鍵數(shù)據(jù)存儲和流轉(zhuǎn)部件,SSD也面臨著一系列新的挑戰(zhàn)。
首先,GPU直接存儲的能力變得愈發(fā)重要。數(shù)據(jù)中心SSD的一個關(guān)鍵趨勢是更大的NAND裸片密度,這有助于推動更大容量的SSD,使系統(tǒng)構(gòu)建者能夠設(shè)計更多的服務(wù)器,以便擁有更大的容量或?qū)⒏嗟腉PU或CPU放入服務(wù)器中。
另一個關(guān)鍵點是效率,即每瓦性能。高盛公司在2024年5月發(fā)布的一份報告中指出,目前每次ChatGPT查詢所需的電力約為2.9瓦時,而一次普通的Google搜索僅需0.3瓦時。這顯示出AI應(yīng)用的電力消耗相對于傳統(tǒng)計算任務(wù)的巨大增長。人工智能(AI)將導(dǎo)致數(shù)據(jù)中心的電力需求大幅增加。預(yù)計到2030年,數(shù)據(jù)中心的電力需求將增長160%,從目前的占全球總電力需求的1-2%上升到3-4%。這一增長將對全球電力需求產(chǎn)生重大影響,并可能導(dǎo)致碳排放量的顯著增加。
另外,AI工作負(fù)載產(chǎn)生了巨大的數(shù)據(jù)流量,要求數(shù)據(jù)中心具備卓越的性能和擴(kuò)展能力。現(xiàn)代數(shù)據(jù)中心需要具備高性能、低延遲和易于擴(kuò)展的網(wǎng)絡(luò)架構(gòu),以滿足最苛刻的AI應(yīng)用需求。此外,從使用壽命的角度來看,對于數(shù)據(jù)中心客戶而言擁有一個適用于多代的通用架構(gòu)非常重要,因為數(shù)據(jù)中心規(guī)模龐大,而且SSD的合格認(rèn)證既昂貴又耗時。
今日的AI數(shù)據(jù)中心SSD,必須要具備更高的帶寬、更低的延遲、更低的功耗、并適應(yīng)更易拓展的網(wǎng)絡(luò)架構(gòu)。美光最新發(fā)布的首款支持PCIe5.0的數(shù)據(jù)中心SSD——美光9550 SSD。據(jù)悉這是一款業(yè)界性能領(lǐng)先的數(shù)據(jù)中心SSD,將提供E3.S(1T)的7.5mm版本,以及U.2版本(又稱2.5英寸、15mm版本)和E1.S的15mm版本,滿足客戶對不同規(guī)格的需求。
美光9550 SSD:性能領(lǐng)先的PCIe5.0 SSD,性能與效率的結(jié)合
據(jù)美光存儲事業(yè)部產(chǎn)品管理總監(jiān)Bill Bollengier介紹,9550 SSD搭載了美光最新款控制器,該控制器基于美光自有的架構(gòu),成為其核心的新組件。除了采用美光自主研發(fā)的控制器和G8 NAND閃存外,9550 SSD還配備了美光DRAM,并使用了美光設(shè)計和開發(fā)的固件。該產(chǎn)品在新加坡和馬來西亞的工廠生產(chǎn),從設(shè)計到制造全程由美光自主完成。此外,它還包含了SSD中常見的所有保護(hù)和安全功能,支持所有最新的行業(yè)安全標(biāo)準(zhǔn)。美光還提供站點證書等功能,為需要的客戶提供額外的安全保障層。
據(jù)悉,美光 9550 SSD 在順序讀取、順序?qū)懭?、隨機(jī)讀取和隨機(jī)寫入這四大關(guān)鍵性能指標(biāo)上表現(xiàn)優(yōu)異。尤其在順序讀取、隨機(jī)讀取和隨機(jī)寫入方面,9550 SSD 展現(xiàn)了卓越的速度。和其他PCIe5.0的競品比較,美光9550 SSD在順序讀吞吐量上和競品表現(xiàn)一致,均為14.0GB/s;但在順序?qū)懲掏铝可细叱龈偲?7%,達(dá)到了10.0GB/s。在隨機(jī)吞吐量上高出35%,達(dá)到了3,300 KIOPS,隨機(jī)寫吞吐量上高出33%,達(dá)到了400 KIOPS。
9550 SSD 還針對各種 AI 工作負(fù)載進(jìn)行了優(yōu)化,特別是在 NVIDIA H100 GPU 平臺上表現(xiàn)出色。該優(yōu)化基于圖神經(jīng)網(wǎng)絡(luò)(GNN)工作負(fù)載,利用大加速器內(nèi)存(BaM)和 GPU 直連存儲(GIDS)技術(shù),使其在 GNN 工作負(fù)載測試中不論是性能、速度還是功耗等方面都實現(xiàn)了比競品更好的表現(xiàn):在負(fù)載加載速度上比同類產(chǎn)品快了33%,僅需2.7s(采樣時間)+ 1.4s(特征聚合時間)+ 18.3s(訓(xùn)練時間)。在性能表現(xiàn)上比同類產(chǎn)品高了60%,達(dá)到了11.9GB/s。在SSD總能耗方面比同類產(chǎn)品減少了43%,僅為16.6W,消耗371J。在整體數(shù)據(jù)中心能源消耗方面比競品低了29%,僅消耗15KJ。
美光2650NVMe SSD:最新G9 TLC NAND量產(chǎn), 3.6 GB/s數(shù)據(jù)傳輸速率
對于NAND閃存而言,堆疊層數(shù)的增加具有重要意義。首先,它能顯著提高存儲密度,使相同物理面積上可以集成更多存儲單元,從而提升存儲容量。其次,通過增加堆疊層數(shù),生產(chǎn)成本可以降低,使高容量閃存更為經(jīng)濟(jì)實惠。此外,堆疊層數(shù)的增加還能改進(jìn)整體性能,通過更高效的數(shù)據(jù)傳輸和訪問方式提高讀取和寫入速度。同時,3D NAND技術(shù)使得每個存儲單元的物理尺寸保持較大,提高了閃存的耐用性和可靠性,并減少了電干擾,增強(qiáng)了數(shù)據(jù)保持能力。最后,隨著堆疊層數(shù)的增加,每單位存儲容量的能耗也會降低,這使得3D NAND在存儲器市場中具有重要的地位。作為3D NAND技術(shù)領(lǐng)先廠商之一,美光近日宣布最新的276層G9 TLC NAND量產(chǎn),搭載G9 NAND的首個產(chǎn)品型號為2650NVMe SSD,可以達(dá)到3.6 GB/s的數(shù)據(jù)傳輸速率。
據(jù)美光存儲事業(yè)部 NAND 產(chǎn)品生命周期管理及應(yīng)用工程總監(jiān)Daniel Loughmiller介紹,G9 NAND 技術(shù)憑借卓越的 NAND 輸入/輸出(I/O)速率,能夠滿足數(shù)據(jù)密集型工作負(fù)載的高吞吐需求,其數(shù)據(jù)傳輸速率比當(dāng)前 SSD 中的 NAND 技術(shù)快 50%。在帶寬方面,與市場上現(xiàn)有的同類 NAND 解決方案相比,美光 G9 NAND 的每顆芯片寫入帶寬和讀取帶寬分別高出 99% 和 88%。這些優(yōu)勢共同提升了 SSD 和嵌入式 NAND 解決方案的性能與能效。
美光G7 NAND有176層,G8 NAND增加到了232層,而最新的G9 NAND達(dá)到了276層。更多的的堆棧層數(shù)帶來了存儲密度的增益和更小封裝實現(xiàn)。據(jù)悉,G9 NAND 的密度提高了 73%,并且封裝尺寸更小,端口面積比其他產(chǎn)品小 28%。這種設(shè)計使得 G9 NAND 適用于多個領(lǐng)域,包括數(shù)據(jù)中心和客戶端 SSD??蛻舳?SSD 也是 G9 TLC NAND 首次出貨的應(yīng)用領(lǐng)域。此外,G9 NAND 還將進(jìn)入汽車和嵌入式應(yīng)用以及移動應(yīng)用。
結(jié)語
作為美光首款支持PCIe5.0的SSD,美光9550 SSD為AI數(shù)據(jù)中心而生,能夠助力AI應(yīng)用加速發(fā)展。而2650NVMe SSD作為美光276層G9 TLC NAND技術(shù)的首款量產(chǎn)產(chǎn)品,將以3.6 GB/s數(shù)據(jù)傳輸速率實現(xiàn)汽車等各類嵌入式應(yīng)用賦能,加速邊緣計算應(yīng)用發(fā)展。Bill Bollengier表示,PCIe 5.0正處于過渡階段,預(yù)計將成為數(shù)據(jù)中心消耗的最大部分,這一過程大約需要3到4年。
Daniel Loughmiller表示,隨著層數(shù)的增加,層數(shù)的重要性越來越低,而真正成為美光關(guān)注焦點的是其他因素。美光目前正在研究多項前沿技術(shù),并預(yù)計層數(shù)將繼續(xù)增加。QLC技術(shù)是美光領(lǐng)先的領(lǐng)域,美光將持續(xù)將QLC作為優(yōu)先發(fā)展方向。