淺析什么是智能邊緣計算AI-EC
5G時代的進程一直在有條不紊的來臨,隨著5G技術的智能邊緣計算也成為了人們追求的主題,所謂的智能邊緣計算AI-EC是指在5G邊緣(可理解在基站端)提供各類AI推理算法資源和相應的可編程AI計算資源的公共平臺。
2017年9月初華為透露:首款搭載AI芯片的商務手機將于10月發(fā)布并提出:Mobile AI=On_Device AI + Cloud AI。無獨有偶,一周后蘋果公司也發(fā)布了搭載A11可以人臉識別的史上最貴手機。那么On_Device AI將不可避免嗎?本文作者提出了另外一種選項供參考:Mobile AI=5G_Device + AI-EC。
AI-EC其中的算法資源,主要以客觀世界目標的視覺識別,音頻識別以及自然語言處理為代表的通用類的AI推理算法軟件。而另一個可編程AI計算資源是由以GPU及Tensor RT為代表的軟硬件服務器支撐平臺,用以承載和加速前者AI算法的推理計算,也可承載在線弱監(jiān)督學習的訓練或其他GPU應用。這種AI-EC平臺所提供的AI推理服務如同在線函數(shù)庫調(diào)用一樣,你給它視頻或圖片,它返給你識別結(jié)果;你給他中文語音,它給你翻譯成目標語言。今后億萬個物聯(lián)網(wǎng)終端,智能穿戴等5G終端不必非得安裝智能芯片及相關軟件同樣可以擁有智能,因為通用的AI推理功能已從終端剝離并轉(zhuǎn)移到AI-MC平臺上。(說白了就是智能產(chǎn)業(yè)將被縱向分割:會做終端的專做終端,懂算法的專做算法,5G將成為產(chǎn)業(yè)應用上下游的總線紐帶)
一、AI-EC的架構
二、AI-EC的功能
深度學習的推理服務。霧智能終端將視頻,音頻,語言等上傳至AI-EC 平臺,由其平臺上相關已訓練好的推理模塊進行推理,然后將結(jié)果反饋給霧智能終端。
高性能計算池服務。很多對GPU依賴的應用可以不受時間、空間及移動速度的限制。例如現(xiàn)場指紋推理,哈希算法(對加解密和區(qū)塊鏈的支撐),快速傅立葉變換,蒙特卡羅等等。
“串流”云游戲服務。5G時代的云游戲市場將會進一步增大,玩家不必擁有獨立顯卡,也可以通過“串流”黑科技來感受類似效果的云游戲。AI-EC的云游戲模塊可以根據(jù)玩家的操控將游戲效果渲染成視頻流下推給玩家的5G終端,玩家不受地點限制可以在高鐵地鐵上。例如GeForce Now云游戲,其官方建議20Mbps則可實現(xiàn)720P畫質(zhì)、60fps幀速;除此之外,網(wǎng)絡時延需小于60ms。
視頻業(yè)務審核服務。5G時代手機戶外現(xiàn)場直播重大活動或事件將成為可能。而直播視頻中是否有不合法的內(nèi)容(如暴力,色情,極端宗教及敏感議題等)必須借助AI來實施審核并采取相應措施。
VR等實時渲染服務。隨著渲染需求的不斷加大以及VR/AR等應用的日益普及,坐在飛速行駛的高鐵上也可以感受VR,可以即時渲染出個性化產(chǎn)品設計效果,裝修設計效果等,影視短片的后期效果等。例如可以即時渲染出女士本人穿上網(wǎng)購服裝的效果。
三、AI-EC的特點
a. 網(wǎng)絡時延優(yōu)勢:邊緣位置優(yōu)勢保證了時間敏感的實時類應用的AI推理時延要求。
b. 網(wǎng)絡分布優(yōu)勢:AI-EC讓廣泛分布的推理申請在末端就得到結(jié)果,既減少了網(wǎng)絡流量,又降低了云中心集中推理的計算壓力。例如上萬個監(jiān)控視頻的推理需求,動態(tài)應急布設監(jiān)控及無人機監(jiān)控等。
c. 智能終端減負:物聯(lián)網(wǎng)、智能穿戴等終端的體積,重量,功耗,成本以及價格都將因此而降低,同時也降低了終端的研發(fā)門檻,有利于5G終端的廣泛普及。
d.產(chǎn)業(yè)布局靈活:人工智能的各種算法發(fā)展日新月異,組合千變?nèi)f化,研發(fā)的人員及硬件成本越來越高,這些將由AI-EC營運商解決。AI應用產(chǎn)業(yè)被縱向分解成算法服務商和終端供應商。
e. 非商業(yè)屬性:AI-EC平臺一般將由國有控股的電信運營商來承建,其公共屬性有利于將人工智能服務作為像電力、天然氣和通訊網(wǎng)絡一樣的市政設施供應給千家萬戶。有利于政府、教育、醫(yī)療,軍工等公共機構充分利用AI-EC平臺上的算法資源和計算資源,有利于相關部門對人工智能產(chǎn)業(yè)發(fā)展進行規(guī)劃,引導,管理及法律法規(guī)制定等,有利于將5G與AI-EC整體打包像高鐵一樣輸出給其它國家。
人臉識別鑒權技術:目前我國公安部相關研究所已立項“多維身份可信認證系統(tǒng)”,當海關、機場,車站,酒店,銀行以及特殊單位等機構需要鑒權時,應有統(tǒng)籌法律法規(guī)約束。
醫(yī)學影像輔助診療:同樣應由國家相關部門在大數(shù)據(jù)標注與訓練,隱私保護,相關識別技術的商業(yè)化與非商業(yè)化推廣及醫(yī)院相關區(qū)域的AI-EC覆蓋等,應有統(tǒng)籌法律法規(guī)約束。
其它公共事業(yè)的AI部署:如AI教學、AI職業(yè)培訓、科研院所的公用計算資源部署、AI市政公共設施、智能交通管理、AI家庭設施等部署,管理,法律法規(guī)約束等。
四、AI-EC帶來的選擇
a. 霧智能終端與硬智能終端的選擇:前者適合在網(wǎng)絡覆蓋良好的城市區(qū)域內(nèi)使用通用類的、復雜度高的、變化快的、對功耗和成本要求比較苛刻的終端AI智能應用;后者允許在網(wǎng)絡覆蓋不確定的鄉(xiāng)村,山區(qū),荒漠,海上等區(qū)域,使用AI需求相對固定的、變化少的以及對時延要求極端苛刻的AI智能應用。
b. AI-EC霧端還是商業(yè)云端的選擇:對時延要求高的,集中推理壓力大的,業(yè)務敏感或不適合在商業(yè)云使用的應用可選擇前者。
第四次(人工智能)產(chǎn)業(yè)革命的春風已經(jīng)撲面而來,它開始漸漸地沖擊著各個傳統(tǒng)行業(yè)甚至是人類文明。東西方的主要高科技巨頭都在AI計算資源和AI人才資源爭奪上以及AI產(chǎn)業(yè)事實標準的制定上豪賭般地投入,無疑他們是有遠見的。作為經(jīng)濟大國的中國在4G時代已通過網(wǎng)購,手機支付,共享單車等業(yè)務嶄露頭角,那么在5G時代是否可以從頂層設計來與時俱進,通過AI-EC來推動人工智能、物聯(lián)網(wǎng)、智能穿戴等終端在各行各業(yè)的普及,從而提高效率或解決原來解決不了的問題,幫助中國早日成為科技強國并引領人類在AI領域的發(fā)展!