www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 廠商動(dòng)態(tài) > Arm
[導(dǎo)讀]Arm CPU正在從根本上推動(dòng)AI變革,并造福地球。Arm架構(gòu)是未來AI計(jì)算的基石。?

人工智能(AI)具有超越過去一個(gè)世紀(jì)所發(fā)生的所有變革性創(chuàng)新的潛力,它在醫(yī)療保健、生產(chǎn)力、教育等領(lǐng)域?yàn)樯鐣?huì)帶來的益處將超乎我們的想象。為了運(yùn)行這些復(fù)雜的AI工作負(fù)載,全球數(shù)據(jù)中心所需的計(jì)算量需要以指數(shù)級(jí)規(guī)模進(jìn)行擴(kuò)展。然而,這種對(duì)計(jì)算無止盡的需求也揭示了一個(gè)嚴(yán)峻的挑戰(zhàn):數(shù)據(jù)中心需要龐大的電力來驅(qū)動(dòng)AI這一突破性技術(shù)。

當(dāng)今的數(shù)據(jù)中心已經(jīng)消耗了大量的電力——全球每年需要460太瓦時(shí)(TWh)電力進(jìn)行支持,這個(gè)數(shù)字等同于整個(gè)德國的用電量。而AI的興起預(yù)計(jì)將在2030年把該數(shù)字提高三倍,意味著將超過印度這一世界上人口最多國家的總耗電量。

未來的AI模型將持續(xù)變得更大、更智能,在帶動(dòng)對(duì)更多計(jì)算能力的需求的同時(shí),對(duì)電力的需求也會(huì)增加,從而成為良性循環(huán)的一部分。而找到降低這些大型數(shù)據(jù)中心電力需求的方法對(duì)于實(shí)現(xiàn)社會(huì)性突破和兌現(xiàn)AI的承諾至關(guān)重要。

換言之,沒有電力就無法實(shí)現(xiàn)AI,企業(yè)需要重新思考如何應(yīng)對(duì)能效問題的方方面面。

重新構(gòu)思AI的未來——一個(gè)由Arm平臺(tái)驅(qū)動(dòng)的未來

Arm最初的產(chǎn)品就是為使用電池的設(shè)備而設(shè)計(jì)的,并推動(dòng)了移動(dòng)電話的變革。因此,深植于Arm的能效DNA能使業(yè)界重新思考應(yīng)如何構(gòu)建芯片來滿足AI日益增長的需求。

在典型的服務(wù)器機(jī)架中,僅計(jì)算芯片就可以消耗超過50%的電力預(yù)算。工程團(tuán)隊(duì)正在尋找各種可以降低該數(shù)字的方法,每一瓦特的減少都至關(guān)重要。

正因?yàn)榇?,全球最大的AI頭部云服務(wù)提供商們轉(zhuǎn)而采用Arm技術(shù)來降低功耗。與同行業(yè)中的其他產(chǎn)品相比,Arm最新的Arm Neoverse CPU是面向云數(shù)據(jù)中心,性能最高、最節(jié)能的處理器。Neoverse為頭部云服務(wù)提供商提供了定制芯片的靈活性,以優(yōu)化其苛刻的工作負(fù)載,同時(shí)提供領(lǐng)先的性能和能效。每一瓦特的節(jié)省都可以用來實(shí)現(xiàn)更多的計(jì)算。這也正是為什么亞馬遜云服務(wù)(AWS)、微軟、Google和甲骨文(Oracle)現(xiàn)在都通過Neoverse技術(shù),處理其通用計(jì)算和基于CPU的AI推理和訓(xùn)練。Neoverse平臺(tái)正在成為云數(shù)據(jù)中心領(lǐng)域的事實(shí)標(biāo)準(zhǔn)。

從近期的行業(yè)內(nèi)的發(fā)布來看:

基于Arm架構(gòu)的AWS Graviton:與其他同行業(yè)產(chǎn)品相比,Amazon Sagemaker的AI推理性能提高了25%,Web應(yīng)用程序提高了30%,數(shù)據(jù)庫提高了40%,效率則提升了60%。

基于Arm架構(gòu)的Google Cloud Axion:與傳統(tǒng)架構(gòu)相比,其性能和能效分別提高了50%和60%,可為基于CPU的AI推理和訓(xùn)練、YouTube、Google地球等服務(wù)提供支持。

基于Arm架構(gòu)的Microsoft Azure Cobalt:性能高出同類產(chǎn)品40%,并為Microsoft Teams等服務(wù)提供支持,與Maia加速器的耦合驅(qū)動(dòng)Azure的端到端AI架構(gòu)。

Oracle Cloud采用基于Arm架構(gòu)的Ampere Altra Max:與傳統(tǒng)同類產(chǎn)品相比,每機(jī)架服務(wù)器的性能提高2.5倍,能耗降低2.8倍,并用于生成式AI推理模型,諸如摘要、大語言模型訓(xùn)練的數(shù)據(jù)的標(biāo)記化,以及批量推理用例。

顯然,Neoverse極大地提升了云端通用計(jì)算的性能和能效。此外,合作伙伴也發(fā)現(xiàn)在加速計(jì)算方面,Neoverse也能帶來同樣的益處。大規(guī)模AI訓(xùn)練需要獨(dú)特的加速計(jì)算架構(gòu),例如,NVIDIA Grace Blackwell平臺(tái)(GB200)結(jié)合了NVIDIA的Blackwell GPU架構(gòu)與基于Arm架構(gòu)的Grace CPU。這種基于Arm技術(shù)的計(jì)算架構(gòu)可實(shí)現(xiàn)系統(tǒng)級(jí)設(shè)計(jì)優(yōu)化,與面向大語言模型的NVIDIA H100 GPU相比,可帶來25倍的能耗降低,并將每個(gè)GPU的性能提高30倍。這些優(yōu)化能夠帶來顛覆性的性能和節(jié)能效果,而這一切都得益于Neoverse所帶來的前所未有的芯片定制靈活性。

隨著基于Arm架構(gòu)的部署持續(xù)擴(kuò)大,這些企業(yè)將可以節(jié)省高達(dá)15%的數(shù)據(jù)中心總能耗。這些巨幅的節(jié)省可以用來在相同的功率范圍內(nèi)驅(qū)動(dòng)額外的AI運(yùn)算,而不會(huì)增加能源負(fù)擔(dān)。換言之,這些節(jié)能相當(dāng)于可以額外運(yùn)行20億次ChatGPT查詢,驅(qū)動(dòng)四分之一的日常網(wǎng)絡(luò)搜索流量,為20%的美國家庭提供照明,或?yàn)榕c哥斯達(dá)黎加面積相仿的國家進(jìn)行供電。這對(duì)改善能源消耗和環(huán)境可持續(xù)性產(chǎn)生了驚人的影響。

Arm CPU正在從根本上推動(dòng)AI變革,并造福地球。Arm架構(gòu)是未來AI計(jì)算的基石。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動(dòng)力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉