人工智能(AI)風(fēng)潮席卷全球,而為了加速AI應(yīng)用普及,并降低云端運算工作負(fù)載,實現(xiàn)更多的創(chuàng)新應(yīng)用,邊緣運算需求與日俱增,AI開始從“云端”走向“終端”,也因而推升ASIC需求;根據(jù)市調(diào)機構(gòu)Ovum預(yù)估,2018~2025年,ASIC的市占率將從11%大幅增加至48%。
根據(jù)Ovum調(diào)查報告指出,在2016年,云端(包含企業(yè)、數(shù)據(jù)中心等)為深度學(xué)習(xí)芯片的主要營收領(lǐng)域,占了80%。不過,到了2025年,此一比例將會改變,轉(zhuǎn)變成邊緣(Edge)占了80%,而云端的比例則降為20%。這邊所指的邊緣意指終端設(shè)備,且以消費性產(chǎn)品為中心(而非小型服務(wù)器或是路由器),包括移動裝置(手機、平板)、頭戴式顯示器(HMD),如AR/VR/MR、智能音箱、機器人、無人機、汽車、安防攝像頭等。
Tractica/Ovum研究總監(jiān)Aditya Kaul表示,現(xiàn)今大多數(shù)的AI處理器,如GPU,多用于云端服務(wù)器、數(shù)據(jù)中心,以在云端上進行AI訓(xùn)練和推論。不過,隨著隱私、安全性需求增加,加上為了降低成本、延遲及打破頻寬限制等因素,分散式AI隨之興起,越來越多AI邊緣應(yīng)用案例出現(xiàn)。例如蘋果的A12仿生芯片,其具備新一代“神經(jīng)網(wǎng)路引擎”,以即時機器學(xué)習(xí)技術(shù),改變智能手機的使用體驗。
Kaul指出,簡而言之,AI從云端轉(zhuǎn)向邊緣是現(xiàn)在進行式,當(dāng)然目前AI在邊緣裝置上多還是以推論為主,而非訓(xùn)練。不過隨著AI創(chuàng)新應(yīng)用增加,有越來越多芯片商嘗試提升終端裝置處理器的運算效能,為的就是不用再傳送數(shù)據(jù)至云端進行數(shù)據(jù)運算、推理和訓(xùn)練。也因此,各式的處理器紛紛問世,像是CPU、FPGA、GPU、ASIC、NPU或SoC Accelerator等。
其中,ASIC的市占率可望隨著邊緣運算的需求增加而明顯攀升,從2018年的11%增加至2025年的52%。Kaul進一步解釋,ASIC之所以受到青睞,原因在于新興的深度學(xué)習(xí)處理器架構(gòu)多以圖形(Graph)或Tensorflow為基礎(chǔ)架構(gòu);且上述提到AI邊緣運算受限于功耗和運算效能,因此多以推論為主,而非訓(xùn)練。然而,若假設(shè)到2021年時,終端裝置將導(dǎo)入大量AI芯片,所需要的便是能在同一個芯片上進行推理和訓(xùn)練,可因應(yīng)分散式運算且又具低功耗的IC,因此ASIC需求將持續(xù)上揚,實現(xiàn)更多AI邊緣應(yīng)用案例。