www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當前位置:首頁 > 廠商動態(tài) > 廠商動態(tài)
[導讀]世界頂級服務器制造商和云服務提供商即將推出 HGX H200 系統(tǒng)與云實例

丹佛 - SC23 - 太平洋時間 2023 年 11 月 13 日 - NVIDIA 于今日宣布推出 NVIDIA HGX? H200,為 Hopper 這一全球領先的 AI 計算平臺再添新動力。NVIDIA HGX H200 平臺基于 NVIDIA Hopper? 架構,搭載 NVIDIA H200 Tensor Core GPU 和領先的顯存配置,可處理生成式 AI 與高性能計算工作負載的海量數(shù)據(jù)。

NVIDIA H200 是首款采用 HBM3e 的 GPU,其運行更快、更大的顯存容量將進一步加速生成式 AI 與大語言模型,同時推進用于 HPC 工作負載的科學計算。憑借 HBM3e,NVIDIA H200 能夠提供傳輸速度達 4.8 TB/秒的 141GB 顯存。與上一代架構的 NVIDIA A100 相比,其容量幾乎翻了一倍,帶寬也增加了 2.4 倍。

全球領先的服務器制造商和云服務提供商預計于 2024 年第二季度開始提供搭載 H200 的系統(tǒng)。

NVIDIA 超大規(guī)模和高性能計算副總裁 Ian Buck 表示:“想要通過生成式 AI 和 HPC 應用創(chuàng)造智能,就必須使用大型、快速的 GPU 顯存來高速、高效地處理海量數(shù)據(jù)。借助 NVIDIA H200,業(yè)界領先的端到端 AI 超級計算平臺的速度將會變得更快,一些世界上最重要的挑戰(zhàn),都可以被解決?!?

持續(xù)的創(chuàng)新帶來持續(xù)的性能飛躍

與前代架構相比,NVIDIA Hopper 架構實現(xiàn)了前所未有的性能躍升,而 H100 持續(xù)的軟件升級,包括最近發(fā)布的 NVIDIA TensorRT?-LLM 等強大的開源庫,都在不斷提升其性能標準。

H200 的推出將帶來進一步的性能飛躍,比如在一個 700 億參數(shù)的 LLM —— Llama 2 上的推理速度比 H100 提高了近一倍。隨著未來軟件的持續(xù)升級,H200 有望實現(xiàn)更大的性能優(yōu)勢與提升。

NVIDIA H200 的規(guī)格

NVIDIA H200 將提供四路和八路 NVIDIA HGX H200 服務器主板可選,其與HGX H100 系統(tǒng)的硬件和軟件都兼容。同時還可用于今年 8 月發(fā)布的采用 HBM3e 的 NVIDIA GH200 Grace Hopper? 超級芯片。這些配置使 H200 可以部署在各類數(shù)據(jù)中心,包括本地、云、混合云和邊緣。

在 NVIDIA NVLink? 和 NVSwitch? 高速互連技術的加持下,HGX H200 可為各種應用工作負載提供最高的性能,包括針對 1750 億參數(shù)以上超大模型的 LLM 訓練和推理。

八路 HGX H200 可提供超過 32 PetaFLOPS的 FP8 深度學習計算能力和 1.1TB 的聚合高帶寬內存容量,能夠為生成式 AI 和 HPC 應用帶來強勁性能。

當H200 與采用超高速 NVLink-C2C 互連技術的 NVIDIA Grace? CPU 搭配使用時,就組成了帶有 HBM3e 的 GH200 Grace Hopper 超級芯片——專為大型 HPC 和 AI 應用而設計的計算模塊。

使用 NVIDIA 全棧式軟件加速 AI

NVIDIA 加速計算平臺具備強大軟件工具支持,能夠助力開發(fā)者和企業(yè)構建并加速從 AI 到 HPC 的生產就緒型應用,包括適用于語音、推薦系統(tǒng)和超大規(guī)模推理等工作負載的 NVIDIA AI Enterprise軟件套件。

供應情況

NVIDIA H200 將于 2024 年第二季度開始通過全球系統(tǒng)制造商和云服務提供商提供。

本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內容真實性等。需要轉載請聯(lián)系該專欄作者,如若文章內容侵犯您的權益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數(shù)據(jù)產業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數(shù)字經濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯(lián)合牽頭組建的NVI技術創(chuàng)新聯(lián)盟在BIRTV2024超高清全產業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術創(chuàng)新聯(lián)...

關鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉