隨著計算需求的增長，GPU需要擁有快速讀取內(nèi)存中大量數(shù)據(jù)的能力，HBM高帶寬內(nèi)存迎來了機遇。為增進大家對HBM高帶寬內(nèi)存的認識，本文將對HBM高帶寬內(nèi)存以及HBM3予以介紹。如果你對HBM高帶寬內(nèi)存具有興趣，不妨繼續(xù)往下閱讀哦。

一、HBM

HBM技術(shù)的出現(xiàn)，可以說是存儲領(lǐng)域的一次革命。它采用了一種獨特的3D堆疊設(shè)計，將多層DRAM芯片垂直堆疊在一起，通過硅通孔（TSV）和微型凸點（uBump）連接在一起，形成一個存儲堆棧。這種設(shè)計不僅提升了存儲密度，也大幅增加了每個存儲堆棧的容量和位寬。想象一下，這就像是把一本書的每一頁都變成一張存儲卡，然后把它們堆疊在一起，這樣就能在更小的空間里存儲更多的數(shù)據(jù)。

HBM技術(shù)的核心優(yōu)勢在于其高帶寬、低功耗和緊湊的尺寸。這些特點讓它在處理大量數(shù)據(jù)時更加高效，同時也降低了系統(tǒng)的功耗和散熱壓力。比如，HBM的帶寬可以達到傳統(tǒng)DDR內(nèi)存的數(shù)倍，這對于需要處理大規(guī)模數(shù)據(jù)的實時應(yīng)用來說至關(guān)重要。而且，由于數(shù)據(jù)傳輸?shù)木嚯x縮短，電能在傳輸過程中的損失也減少了，這在高性能計算和數(shù)據(jù)中心等領(lǐng)域是一個巨大的優(yōu)勢。

HBM技術(shù)的發(fā)展也相當迅速。從2013年JEDEC（聯(lián)合電子設(shè)備工程委員會）首次發(fā)布HBM標準以來，這項技術(shù)已經(jīng)經(jīng)歷了多次迭代。HBM1作為第一代產(chǎn)品，以其128GB/s的帶寬和4GB的內(nèi)存容量，遠超當時的GDDR5。隨后，HBM2將帶寬提升至256GB/s，內(nèi)存容量也增加到8GB。到了HBM2E，傳輸速度提升至3.6Gbps，內(nèi)存增加至16GB。而最新的HBM3，傳輸速度最高可達819GB/s，內(nèi)存容量也達到了16GB。

HBM技術(shù)的應(yīng)用領(lǐng)域也在不斷擴展。在高性能計算（HPC）領(lǐng)域，HBM存儲芯片能夠提供更快的數(shù)據(jù)傳輸和處理速度，這對于存儲大規(guī)模數(shù)據(jù)集和進行大規(guī)模并行計算至關(guān)重要。在圖形處理器（GPU）領(lǐng)域，HBM的高帶寬和低延遲特性使得GPU在處理圖形和圖像數(shù)據(jù)時更加高效。在人工智能（AI）領(lǐng)域，HBM技術(shù)也在存儲和處理大規(guī)模神經(jīng)網(wǎng)絡(luò)模型中發(fā)揮著重要作用，提供更高的帶寬和低延遲，加快AI計算速度和效率。數(shù)據(jù)中心同樣受益于HBM技術(shù)，它能夠提供更高的數(shù)據(jù)吞吐量和更低的能耗，提升數(shù)據(jù)中心的計算性能和效率。

二、HBM3

從高性能計算到人工智能訓(xùn)練、游戲和汽車應(yīng)用，對帶寬的需求正在推動下一代高帶寬內(nèi)存的發(fā)展。

HBM3將帶來2X的帶寬和容量，除此之外還有其他一些好處。雖然它曾經(jīng)被認為是一種“慢而寬”的內(nèi)存技術(shù)，用于減少芯片外內(nèi)存中的信號傳輸延遲，但現(xiàn)在HBM3正變得越來越快，越來越寬。在某些情況下，甚至被用于L4緩存。

Arm首席研究工程師Alejandro Rico表示：“這些新功能將使每傳輸位的焦耳效率達到更高水平，而且更多設(shè)計可以使用HBM3-only內(nèi)存解決方案，不需要額外的片外存儲。AI/ML、HPC和數(shù)據(jù)分析等應(yīng)用可以利用大帶寬來保持可擴展性。合理利用HBM3帶寬需要一個具有高帶寬片上網(wǎng)絡(luò)和處理元素的處理器設(shè)計，通過提高內(nèi)存級并行性來使數(shù)據(jù)速率最大化?！?

人工智能訓(xùn)練芯片通常需要處理萬億字節(jié)的原始數(shù)據(jù)，而HBM3可以達到這個水平。Rambus的產(chǎn)品營銷高級總監(jiān)Frank Ferro指出：“用戶在開發(fā)ASIC電路來更好地解決人工智能問題的同時，需要更多的帶寬。

每個用戶都試圖想用一個更高效的處理器來實現(xiàn)他們特定的神經(jīng)網(wǎng)絡(luò)，并在實現(xiàn)時達到更好的內(nèi)存利用率和CPU利用率。對于人工智能訓(xùn)練來說，HBM一直是最佳選擇，因為它提供了更多帶寬和更低功耗。雖然價格上有點貴，但對于這些應(yīng)用程序來說（尤其是進入云計算的應(yīng)用程序）還是負擔(dān)得起的。HBM3實際上只是一種自然遷移?！?

雖然JEDEC尚未公布未獲批準的HBM3規(guī)范細節(jié)，但Rambus報告稱其HBM3子系統(tǒng)帶寬將增加到8.4 Gbps（HBM2e為3.6Gbps）。采用HBM3的產(chǎn)品預(yù)計將在2023年初發(fā)貨。

“當芯片的關(guān)鍵性能指標是每瓦特內(nèi)存帶寬，或者HBM3是實現(xiàn)所需帶寬的唯一途徑時，采用HBM3是有益的，”Cadence的IP組總監(jiān)Marc Greenberg表示：“與基于PCB的方法（如DDR5、LPDDR5/5X或GDDR6）相比，這種帶寬和效率的代價是在系統(tǒng)中增加額外的硅，并可能增加制造/組裝/庫存成本。額外的硅通常是一個插入器，以及每個HBM3 DRAM堆棧下面的一個基模?！?

以上便是此次帶來的微控制器相關(guān)內(nèi)容，通過本文，希望大家對微控制器已經(jīng)具備一定的了解。如果你喜歡本文，不妨持續(xù)關(guān)注我們網(wǎng)站哦，將于后期帶來更多精彩內(nèi)容。最后，十分感謝大家的閱讀，have a nice day!