不是NVIDIA!蘋果官宣AI模型訓(xùn)練用的谷歌芯片
7月30日消息,蘋果公司在其技術(shù)論文中透露,其人工智能系統(tǒng)Apple Intelligence所依賴的模型并非基于NVIDIA芯片,而是在谷歌設(shè)計(jì)的云端芯片上進(jìn)行預(yù)訓(xùn)練的。
NVIDIA的GPU一直以高價(jià)位和高需求著稱,是許多大型科技公司AI訓(xùn)練的首選。
然而,蘋果選擇了谷歌的張量處理單元(TPU),這可能預(yù)示著大型科技公司在AI基礎(chǔ)設(shè)施上的多樣化選擇。
蘋果在其論文中詳細(xì)介紹了使用TPU v4和TPU v5p芯片進(jìn)行模型預(yù)訓(xùn)練的過程。
據(jù)悉,蘋果的設(shè)備端AI模型是在2048個(gè)TPU v5p芯片上訓(xùn)練的,而服務(wù)器端模型則使用了8192個(gè)TPU v4芯片。
盡管蘋果初期使用了谷歌的硬件,但它已經(jīng)部署基于自研Apple Silicon芯片的硬件來處理Apple Intelligence的查詢,并啟動了“Project ACDC”項(xiàng)目,以優(yōu)化數(shù)據(jù)中心內(nèi)的AI應(yīng)用。
此外,蘋果還計(jì)劃在未來兩年內(nèi)投入超過50億美元用于AI服務(wù)器的升級,并購買數(shù)萬臺AI服務(wù)器,同時(shí)收購了專注于壓縮AI查詢數(shù)據(jù)的公司,以加速其在AI領(lǐng)域的競爭力。