HBM寬帶技術(shù)的核心優(yōu)勢(shì)是通過(guò)3D堆疊實(shí)現(xiàn)了高密度存儲(chǔ)，從而大幅提升了每個(gè)存儲(chǔ)堆棧的容量和位寬。為增進(jìn)大家對(duì)HBM寬帶技術(shù)的認(rèn)識(shí)，本文將對(duì)HBM寬帶技術(shù)、HBM寬帶技術(shù)的難點(diǎn)予以介紹。如果你對(duì)HBM寬帶技術(shù)具有興趣，不妨繼續(xù)往下閱讀哦。

一、HBM高帶寬內(nèi)存是什么

高帶寬存儲(chǔ)器（High Bandwidth Memory，HBM）是超微半導(dǎo)體和SK Hynix發(fā)起的一種基于3D堆棧工藝的高性能DRAM，適用于高存儲(chǔ)器帶寬需求的應(yīng)用場(chǎng)合，像是圖形處理器、網(wǎng)絡(luò)交換及轉(zhuǎn)發(fā)設(shè)備（如路由器、交換器）等。首個(gè)使用HBM的設(shè)備是AMD Radeon Fury系列顯示核心。2013年10月HBM成為了JEDEC通過(guò)的工業(yè)標(biāo)準(zhǔn)，第二代HBM —— HBM2，也于2016年1月成為工業(yè)標(biāo)準(zhǔn)，NVIDIA在該年發(fā)表的新款旗艦型Tesla運(yùn)算加速卡 —— Tesla P100、AMD的Radeon RX Vega系列、Intel的Knight Landing也采用了HBM2。

存儲(chǔ)器是存儲(chǔ)指令和數(shù)據(jù)的計(jì)算機(jī)部件。有多種類型。中央處理器從存儲(chǔ)器中取出指令，按指令的地址從存儲(chǔ)器中讀出數(shù)據(jù)，執(zhí)行指令的操作。存儲(chǔ)容量和存儲(chǔ)器讀寫(xiě)數(shù)據(jù)周期是存儲(chǔ)器的兩個(gè)基本技術(shù)的指標(biāo)。

高帶寬存儲(chǔ)器是一種CPU/GPU 內(nèi)存芯片（即 “RAM”），其實(shí)就是將很多個(gè)DDR芯片堆疊在一起后和GPU封裝在一起，實(shí)現(xiàn)大容量，高位寬的DDR組合陣列。HBM 堆棧沒(méi)有以物理方式與 CPU 或 GPU 集成，而是通過(guò)中介層緊湊而快速地連接，HBM 具備的特性幾乎和芯片集成的 RAM一樣，因此，具有更高速，更高帶寬。

HBM的發(fā)展包括：

第一，早期，AI處理器架構(gòu)的探討源于學(xué)術(shù)界的半導(dǎo)體和體系架構(gòu)領(lǐng)域，此時(shí)模型層數(shù)較少，計(jì)算規(guī)模較小，算力較低。

第二，模型逐漸加深，對(duì)算力需求相應(yīng)增加，導(dǎo)致了帶寬瓶頸，即IO問(wèn)題，此時(shí)可通過(guò)增大片內(nèi)緩存、優(yōu)化調(diào)度模型來(lái)增加數(shù)據(jù)復(fù)用率等方式解決

第三，云端AI處理需求多用戶、高吞吐、低延遲、高密度部署。計(jì)算單元?jiǎng)≡鍪笽O瓶頸愈加嚴(yán)重，要解決需要付出較高代價(jià)（如增加DDR接口通道數(shù)量、片內(nèi)緩存容量、多芯片互聯(lián)）

此時(shí)，片上HBM（High Bandwidth Memory，高帶寬存儲(chǔ)器）的出現(xiàn)使AI/深度學(xué)習(xí)完全放到片上成為可能，集成度提升的同時(shí)，使帶寬不再受制于芯片引腳的互聯(lián)數(shù)量，從而在一定程度上解決了IO瓶頸。

二、HBM技術(shù)難在哪？

“把DRAM疊起來(lái)”聽(tīng)來(lái)簡(jiǎn)單，但實(shí)際上存在不少技術(shù)難度。Vaidyanathan指出3項(xiàng)關(guān)系著良率的技術(shù)難點(diǎn)：

首先，是厚度。

HBM厚度僅為人類頭發(fā)的一半，意味著每一層DRAM的厚度都必須控制，研磨必須相當(dāng)精細(xì)。Vaidyanathan指出：“一旦堆疊層數(shù)越多，DRAM就必須做的更薄?！痹谶@樣的狀況下，企業(yè)必須擁有更先進(jìn)的DRAM制程才可能達(dá)成。

其次，是晶圓堆疊的精準(zhǔn)度。

HBM的封裝是將每一片DRAM晶圓疊齊后再做切割，切割下來(lái)的晶粒就是HBM。不過(guò)，制造商為了讓堆疊更薄，會(huì)在硅晶圓上穿孔并以金屬物質(zhì)填滿，用以通電，借此取代傳統(tǒng)封裝的導(dǎo)線架。這樣的打洞技術(shù)則稱為“硅通孔（TSV, Through Silicon Via）?！?

倘若是堆疊4層的HBM，從晶圓堆疊切割前開(kāi)始，就必須精準(zhǔn)對(duì)齊硅穿孔（TSV），“切的時(shí)候也不能移位，否則不能導(dǎo)電?！盫aidyanathan說(shuō)。硅穿孔需要非常精細(xì)的工藝才能做到。

第三，就是堆疊后的散熱問(wèn)題。

HBM之所以被發(fā)明，來(lái)自于芯片商希望能將存儲(chǔ)器和處理器，包含CPU和GPU，全都包在一顆IC中。如此一來(lái)，存儲(chǔ)器與處理器的距離變得比之前近很多，散熱問(wèn)題更需要被解決。綜合三點(diǎn)來(lái)看，封裝技術(shù)的重要性更甚以往。

HBM的應(yīng)用有哪些？除了AI服務(wù)器，還有哪些也會(huì)用到HBM？

由于技術(shù)難度高，HBM成本也相對(duì)高昂。早在2013年HBM就已經(jīng)誕生，當(dāng)時(shí)AMD與海力士共同研發(fā)第一代HBM，卻因價(jià)格太貴而鮮少被芯片業(yè)者采用，直至今日才因?yàn)锳I應(yīng)用而受到諸多關(guān)注。

業(yè)內(nèi)人士分析，雖然越先進(jìn)的HBM價(jià)格越高，但只要效能夠好、夠省電，廠商當(dāng)然愿重本采用。

目前來(lái)看，AI服務(wù)器會(huì)是HBM最重要的市場(chǎng)，美光以及海力士的HBM3e已通過(guò)英偉達(dá)的驗(yàn)證，市場(chǎng)更盛傳英偉達(dá)已支付數(shù)億美元的預(yù)付款以確保供應(yīng)。Vaidyanathan指出：“AI服務(wù)器所需要的存儲(chǔ)器量，是傳統(tǒng)服務(wù)器的5～6倍?！?

除此之外，未來(lái)智能駕駛汽車市場(chǎng)也是HBM重要的應(yīng)用場(chǎng)景。Mordor Intelligence在出版的一份報(bào)告中表示，ADAS（自動(dòng)駕駛輔助系統(tǒng)）正在推升HBM的需求。從這個(gè)情況看來(lái)，AI服務(wù)器＋車用的HBM市場(chǎng)需求，可能將長(zhǎng)達(dá)10年。

以上便是此次帶來(lái)的HBM相關(guān)內(nèi)容，通過(guò)本文，希望大家對(duì)HBM已經(jīng)具備一定的了解。如果你喜歡本文，不妨持續(xù)關(guān)注我們網(wǎng)站哦，將于后期帶來(lái)更多精彩內(nèi)容。最后，十分感謝大家的閱讀，have a nice day!