May 30, 2024 ---- 根據TrendForce集邦咨詢研究，NVIDIA Hopper平臺H100于今年第一季短缺情形逐漸紓解，屬同平臺的新品H200于第二季后逐漸放量，第三季新平臺Blackwell將進入市場，第四季擴展到數據中心客戶。但今年應仍以Hopper平臺為主，包含H100、H200等產品線;根據供應鏈導入Blackwell平臺進度，預計今年第四季才會開始放量，占整體高階GPU比例將低于10%。

TrendForce集邦咨詢表示，屬Blackwell平臺的B100等，其裸晶尺寸(die size)是既有H100翻倍，估計臺積電(TSMC)2024年CoWos總產能年增來到150%，隨著2025年成為主流后，CoWos產能年增率將達7成，其中NVIDIA需求占比近半。HBM方面，隨著NVIDIA GPU平臺推進，H100主搭載80GB的HBM3，至2025年的B200將達搭載288GB的HBM3e，單顆搭載容量將近3～4倍成長。而據三大原廠目前擴展規(guī)劃，2025年HBM生產量預期也將翻倍。

Microsoft、Meta、AWS將首波采用GB200

據TrendForce集邦咨詢研究，以云端服務業(yè)者(CSP)導入現(xiàn)況來看，以Microsoft、Meta、AWS較為積極，預期2025年GB200方案合計出貨量有機會達逾30,000柜，Google則可能傾向優(yōu)先擴大自家TPU AI基礎設施。Blackwell平臺之所以備受市場期待，主要是有別于HGX或MGX單臺AI服務器，改推整柜式型態(tài)，整合自家CPU、GPU、NVLink及InfiniBand等高速網通技術。其中，GB200又分為NVL36及NVL72，每柜分別搭載達36及72顆GPU，而NVL72將為NVIDIA主推組態(tài)，但因其設計較為復雜，估計2024年底將以NVL36先導入前期試練，以求快速進入市場(Time to Market)。

2024年AI服務器需求持續(xù)擴大

據NVIDIA FY1Q25資料來看，企業(yè)客戶、Tier-2數據中心客群需求明顯提升。TrendForce集邦咨詢表示，受限于2023年CoWoS及HBM供應不及，如NVIDIA優(yōu)先將其高階GPU提供給大型云端服務業(yè)者(Hyper CSP)，以全球高階AI server整體市場來看，2023年CSP合計對AI服務器的需求量占比約65%。

自2024年上半年隨GPU供貨短缺獲緩解后，今年來自服務器品牌商如Dell、HPE的需求占比將擴大至19%;其他包含各地區(qū)Tier-2數據中心如CoreWeave、Tesla等，或各國超算中心項目等，合計需求占比將提高至31%，主因AI訓練或應用過程中，可能涉及數據隱私安全等議題，預期未來此塊市場也將扮演驅動AI服務器出貨成長的關鍵。