軟銀采購(gòu)英偉達(dá)GPU開(kāi)發(fā)AI服務(wù) 投資9.6億美元升級(jí)計(jì)算設(shè)施
據(jù)報(bào)道,日本電信巨頭軟銀集團(tuán)將在未來(lái)兩年投資1500億日元(9.6億美元)升級(jí)其計(jì)算設(shè)施,該計(jì)劃包括大量采購(gòu)英偉達(dá)GPU。除了采用GPU來(lái)驅(qū)動(dòng)其內(nèi)部的大型語(yǔ)言模型(LLM),軟銀還將為需要超算服務(wù)的企業(yè)客戶(hù)提供訪(fǎng)問(wèn)權(quán)限。
這筆投資將使軟銀去年在計(jì)算基礎(chǔ)設(shè)施投入的200億日元(1.3億美元)相形見(jiàn)絀,據(jù)日經(jīng)新聞報(bào)道,這是日本公司中規(guī)模最大的此類(lèi)投資。
GenAI的發(fā)展和應(yīng)用并沒(méi)有放緩的跡象,軟銀因此希望開(kāi)發(fā)日語(yǔ)版GenAI滿(mǎn)足用戶(hù)需求。
軟銀在去年3月成立了一個(gè)新部門(mén),負(fù)責(zé)開(kāi)發(fā)LLM和提供GenAI服務(wù)。該部門(mén)隨后于去年8月作為軟銀的一家子公司SB Intuitions成立。
SB Intuitions在去年10月完成了其計(jì)算平臺(tái)的部署,并正在開(kāi)發(fā)其首個(gè)國(guó)產(chǎn)LLM,該項(xiàng)目將在今年推出,擁有3500億個(gè)參數(shù)。這將使其功能比OpenAI擁有1750億個(gè)參數(shù)的GPT-3更強(qiáng)大,但遠(yuǎn)低于據(jù)稱(chēng)有100萬(wàn)億個(gè)參數(shù)的GPT-4。
令人關(guān)注的是,OpenAI在本月早些時(shí)候表示在東京開(kāi)設(shè)了一個(gè)新的辦事處,并開(kāi)始向日本企業(yè)提供日語(yǔ)版GPT-4的早期服務(wù)。軟銀因此面臨著加快提供可行替代方案的壓力。
軟銀的AI計(jì)算平臺(tái)運(yùn)行在英偉達(dá)的硬件上,特別是采用2000多個(gè)英偉達(dá)Tensor Core GPU構(gòu)建的Nvidia DGX SuperPOD AI超級(jí)計(jì)算機(jī)。鑒于這兩家公司的良好合作,軟銀有理由在其AI超級(jí)計(jì)算擴(kuò)張計(jì)劃中選擇英偉達(dá)。
此外,法國(guó)電信集團(tuán)伊利亞特集團(tuán)(Iliad) 在去年9月展示了一臺(tái)SuperPOD,該公司聲稱(chēng)這是歐洲最強(qiáng)大的AI超級(jí)計(jì)算機(jī)。但正在致力搶占GenAI硬件市場(chǎng)份額的英偉達(dá)推出了性能更強(qiáng)的AI超級(jí)計(jì)算機(jī)。
去年5月,英偉達(dá)將Grace GPU與Hopper GPU結(jié)合在一起創(chuàng)建了Grace Hopper芯片,這是一條專(zhuān)門(mén)為GenAI設(shè)計(jì)的芯片。英偉達(dá)即將推出的DGX GH200超級(jí)計(jì)算機(jī)將使用256個(gè)Grace Hopper,并將計(jì)劃向那些希望自己構(gòu)建LLM的公司銷(xiāo)售。
雖然目前還沒(méi)有Grace Hopper定價(jià)的消息,但肯定會(huì)貴得令人瞠目。然而,考慮到目前競(jìng)爭(zhēng)激烈的GenAI市場(chǎng),像軟銀這樣的公司可能會(huì)認(rèn)為在AI方面加大投資將會(huì)物有所值。