人工智能(AI)風(fēng)潮席卷全球，而為了加速AI應(yīng)用普及，并降低云端運(yùn)算工作負(fù)載，實(shí)現(xiàn)更多的創(chuàng)新應(yīng)用，邊緣運(yùn)算需求與日俱增，AI開始從“云端”走向“終端”，也因而推升ASIC需求;根據(jù)市調(diào)機(jī)構(gòu)Ovum預(yù)估，2018~2025年，ASIC的市占率將從11%大幅增加至48%。

根據(jù)Ovum調(diào)查報(bào)告指出，在2016年，云端(包含企業(yè)、數(shù)據(jù)中心等)為深度學(xué)習(xí)芯片的主要營收領(lǐng)域，占了80%。不過，到了2025年，此一比例將會改變，轉(zhuǎn)變成邊緣(Edge)占了80%，而云端的比例則降為20%。這邊所指的邊緣意指終端設(shè)備，且以消費(fèi)性產(chǎn)品為中心(而非小型服務(wù)器或是路由器)，包括移動裝置(手機(jī)、平板)、頭戴式顯示器(HMD)，如AR/VR/MR、智能音箱、機(jī)器人、無人機(jī)、汽車、安防攝像頭等。

Tractica/Ovum研究總監(jiān)Aditya Kaul表示，現(xiàn)今大多數(shù)的AI處理器，如GPU，多用于云端服務(wù)器、數(shù)據(jù)中心，以在云端上進(jìn)行AI訓(xùn)練和推論。不過，隨著隱私、安全性需求增加，加上為了降低成本、延遲及打破頻寬限制等因素，分散式AI隨之興起，越來越多AI邊緣應(yīng)用案例出現(xiàn)。例如蘋果的A12仿生芯片，其具備新一代“神經(jīng)網(wǎng)路引擎”，以即時機(jī)器學(xué)習(xí)技術(shù)，改變智能手機(jī)的使用體驗(yàn)。

Kaul指出，簡而言之，AI從云端轉(zhuǎn)向邊緣是現(xiàn)在進(jìn)行式，當(dāng)然目前AI在邊緣裝置上多還是以推論為主，而非訓(xùn)練。不過隨著AI創(chuàng)新應(yīng)用增加，有越來越多芯片商嘗試提升終端裝置處理器的運(yùn)算效能，為的就是不用再傳送數(shù)據(jù)至云端進(jìn)行數(shù)據(jù)運(yùn)算、推理和訓(xùn)練。也因此，各式的處理器紛紛問世，像是CPU、FPGA、GPU、ASIC、NPU或SoC Accelerator等。

其中，ASIC的市占率可望隨著邊緣運(yùn)算的需求增加而明顯攀升，從2018年的11%增加至2025年的52%。Kaul進(jìn)一步解釋，ASIC之所以受到青睞，原因在于新興的深度學(xué)習(xí)處理器架構(gòu)多以圖形(Graph)或Tensorflow為基礎(chǔ)架構(gòu);且上述提到AI邊緣運(yùn)算受限于功耗和運(yùn)算效能，因此多以推論為主，而非訓(xùn)練。然而，若假設(shè)到2021年時，終端裝置將導(dǎo)入大量AI芯片，所需要的便是能在同一個芯片上進(jìn)行推理和訓(xùn)練，可因應(yīng)分散式運(yùn)算且又具低功耗的IC，因此ASIC需求將持續(xù)上揚(yáng)，實(shí)現(xiàn)更多AI邊緣應(yīng)用案例。