近日，國際權(quán)威AI基準評測組織MLPerf?公布新AI推理(Inference)V2.1榜單，包括21家世界主流芯片、系統(tǒng)廠商、云廠商參與本次評測，共提交超過5300項結(jié)果。在激烈的角逐中，紫光股份旗下新華三集團服務器表現(xiàn)優(yōu)異，繼今年6月在MLPerf?AI訓練(Training)榜單中斬獲25項第一后，本輪一舉奪得數(shù)據(jù)中心場景任務(Datacenter)和邊緣場景任務(Edge)61項世界第一，體現(xiàn)了新華三在人工智能領(lǐng)域深厚的技術(shù)積淀和優(yōu)秀實力。

MLPerf?由圖靈獎得主大衛(wèi)?帕特森(David?Patterson)聯(lián)合斯坦福、哈佛大學等頂尖學術(shù)機構(gòu)發(fā)起成立，是全球影響力最廣的AI性能基準評測。其評測任務與AI領(lǐng)域的前沿應用緊密結(jié)合，覆蓋當下主流AI應用場景，例如BERT(自然語言處理)、DLRM(推薦)、ResNet(圖像分類)、3D UNet(醫(yī)學圖像分割)等，行業(yè)用戶可根據(jù)評測結(jié)果了解廠商在AI領(lǐng)域的真正實力，為AI技術(shù)的發(fā)展和落地提供極大的應用參考價值。

數(shù)據(jù)中心場景推理任務：34項世界第一

本輪MLPerf?評測，數(shù)據(jù)中心固定任務分為6個模型，16個測試項，面向多場景對各計算系統(tǒng)進行測試。例如3D UNet(醫(yī)學圖像分割)、RetinaNet(目標檢測)和ResNet50(圖像分類)測試，重點應用于醫(yī)學圖像分析、自動駕駛、工業(yè)質(zhì)檢等場景，是數(shù)據(jù)中心的典型應用領(lǐng)域，也是MLPerf?競爭最為激烈的主戰(zhàn)場。新華三集團AI服務器憑借專業(yè)的AI系統(tǒng)設(shè)計和全棧優(yōu)化能力，一舉拿下數(shù)據(jù)中心場景測試34項評測任務世界性能冠軍，以及1項絕對配置第一。

在3D UNet模型任務中，R5300 G5在99.9%精度要求下，每秒能處理13.04張3D醫(yī)療影像的分割，平均只需十幾秒就可以輔助醫(yī)生完成病灶分析

在ResNet50模型任務中，R5500 G5每秒可對314368張圖片進行分類，讓以圖搜圖的等待不再漫長

在RetinaNet模型任務中，R5500 G5每秒可完成對4657.04張圖片中的目標進行識別，讓交通肇事或生產(chǎn)質(zhì)量缺陷無處遁形

H3C UniServer R5300 G5作為“推理+訓練”的全能型選手，共取得25項同配置第一，實力詮釋了其對于大規(guī)模、多元化、高復雜度AI場景的支撐能力，可提供1:8、1:4、1:2等多種拓撲配置，靈活適應不同人工智能場景的需求。同時，單機最高支持8塊雙寬GPU或20塊單寬GPU計算加速卡，相當于40臺傳統(tǒng)服務器的運算速度，全面加速人工智能及深度學習等大規(guī)模計算應用場景的運算效率。

邊緣場景推理賽道：27項世界第一

在邊緣推理賽道，H3C UniServer R5500 G5、R5300 G5、R4900 G5三款AI服務器同樣表現(xiàn)出色，在邊緣固定任務中共斬獲27項世界第一，其中3項絕對配置第一。R5500 G5在本輪推理評測中拿下19項同配置第一，彰顯了其在邊緣推理場景下的強大競爭力。

R5500 G5針對Transformer架構(gòu)模型進行優(yōu)化，為機器視覺、自然語言處理等多種AI業(yè)務提供強大支持，在單線程模式下BERT推理時延僅為1.53毫秒。同時，R5500 G5支持全新的多實例GPU特性，可將單顆GPU分割成7個GPU實例，每個GPU實例運行不同應用，極大地提升了GPU的資源利用率，滿足業(yè)務快速部署的需求。

數(shù)字化時代，以人工智能技術(shù)加速業(yè)務創(chuàng)新已成為行業(yè)共識。作為數(shù)字化解決方案領(lǐng)導者，未來，新華三集團將繼續(xù)深耕人工智能領(lǐng)域，依托“云智原生”戰(zhàn)略和數(shù)字大腦的全棧實力，讓內(nèi)生智能的智慧計算持續(xù)賦能百行百業(yè)數(shù)字化轉(zhuǎn)型，為數(shù)字經(jīng)濟的發(fā)展注入源源不斷的智慧動力。