千兆瓦級(jí)數(shù)據(jù)中心難持續(xù)?Arm CEO:將AI工作負(fù)載遷移到本地是方向
當(dāng)?shù)貢r(shí)間周三,Arm 控股公司CEO(首席執(zhí)行官)雷內(nèi)?哈斯(Rene Haas)在接受 CNBC 主持人吉姆?克萊默采訪時(shí)表示,將部分 AI 功能移出云端,有助于降低能源消耗。
他認(rèn)為,長(zhǎng)期來看,大量千兆瓦級(jí)數(shù)據(jù)中心的運(yùn)營(yíng)無法持續(xù)。
哈斯表示:“如果你問需要采取哪些措施來解決這個(gè)問題?我認(rèn)為有兩個(gè)方向。其一,在云端采用低功耗方案,而且是能耗盡可能低的方案,Arm 在這方面確實(shí)做出了貢獻(xiàn);但更有效的做法,我認(rèn)為是將這些 AI 工作負(fù)載從云端轉(zhuǎn)移到本地應(yīng)用中。”
他提到,AI 訓(xùn)練工作或許始終需要在云端進(jìn)行,但 AI 運(yùn)行(即推理過程)可以在本地完成——也就是在人們的手機(jī)、電腦和眼鏡內(nèi)置的芯片上實(shí)現(xiàn)。哈斯稱,歷史經(jīng)驗(yàn)表明,“在計(jì)算領(lǐng)域,我們總會(huì)走向混合模式”。
他認(rèn)為,這種混合模式的動(dòng)態(tài)變化將在 AI 領(lǐng)域逐步顯現(xiàn),進(jìn)而有助于減少巨額的電力投入。
哈斯這番觀點(diǎn)背后,作為芯片設(shè)計(jì)公司, Arm 的技術(shù)已為多家科技巨頭的設(shè)備提供支持,包括微軟和亞馬遜。半導(dǎo)體行業(yè)巨頭英偉達(dá)在 Arm 持有大量股份,且曾在 2020 年試圖收購(gòu)該公司。
根據(jù)一份新聞稿,周三 Arm 與 Meta 宣布擴(kuò)大合作,將“在計(jì)算的每一層提升 AI 效率,涵蓋 AI 軟件和數(shù)據(jù)中心基礎(chǔ)設(shè)施”。該消息公布后,Arm 股價(jià)上漲,當(dāng)日收盤漲幅達(dá) 1.49%。
哈斯向克萊默透露,與 Meta 的合作 “主要圍繞數(shù)據(jù)中心展開,但更廣泛地說,還涉及軟件以及與之相關(guān)的軟件?!薄K€提到了 Arm 在 Meta 新款雷朋旅行者(Ray-Ban Wayfarer)智能眼鏡中的參與,稱該產(chǎn)品的 AI 技術(shù)同時(shí)在云端和本地運(yùn)行。
哈斯表示:“比如,當(dāng)你對(duì)著這副眼鏡說‘嘿,Meta’時(shí),這個(gè)指令的處理并非在云端進(jìn)行,實(shí)際上是在你的眼鏡里完成的,而它依靠的正是 Arm 的技術(shù)。”