嵌入式人工智能技術(shù)的應(yīng)用和開(kāi)發(fā)
結(jié)合邊緣計(jì)算所面臨的挑戰(zhàn)和機(jī)會(huì),本文從硬件架構(gòu)、算法設(shè)計(jì)和算法部署三個(gè)方面展開(kāi)邊緣計(jì)算的開(kāi)發(fā)和應(yīng)用。人工智能算法如何有效地運(yùn)行在嵌入式智能終端(即邊緣計(jì)算)是近年研究的熱點(diǎn),本文從嵌入式人工智能技術(shù)研究的意義以及所面臨的問(wèn)題入手,并從硬件平臺(tái)、算法設(shè)計(jì)以及算法部署三個(gè)方面展開(kāi),闡述嵌入式人工智能技術(shù)開(kāi)發(fā)的思路,最后通過(guò)一個(gè)應(yīng)用實(shí)例說(shuō)明此開(kāi)發(fā)過(guò)程。
隨著“AIoT(人工智能物聯(lián)網(wǎng))=AI(人工智能)+IoT(物聯(lián)網(wǎng))”的發(fā)展,若把算法都部署在云平臺(tái)上進(jìn)行,會(huì)給網(wǎng)絡(luò)通信帶來(lái)不小的壓力,并且會(huì)面臨數(shù)據(jù)傳輸?shù)难舆t性以及安全性等問(wèn)題,因此并不是所有的智能終端都需要利用云平臺(tái)來(lái)運(yùn)行,因此如何在智能終端上直接運(yùn)行算法的邊緣計(jì)算應(yīng)運(yùn)而生。
邊緣計(jì)算相對(duì)于云平臺(tái)有如下優(yōu)勢(shì):(1)實(shí)時(shí)性高,不需要傳輸數(shù)據(jù)從而減少反應(yīng)延遲;(2)可靠性高,即使網(wǎng)絡(luò)斷開(kāi)也能正常工作;(3)安全性高,避免隱私數(shù)據(jù)被上傳;(4)部署靈活,可在各種終端靈活部署;(5)更加節(jié)能,嵌入式系統(tǒng)低功耗特性以及減少了傳輸過(guò)程的能耗等;(6)網(wǎng)絡(luò)流量低,有效抑制了網(wǎng)絡(luò)擁塞;(7)類人化,人就是作為獨(dú)立的智能體生存在社會(huì)網(wǎng)絡(luò)中。
當(dāng)然邊緣計(jì)算不是為了代替云計(jì)算,而是作為云計(jì)算的一個(gè)補(bǔ)充。
據(jù)IDC預(yù)測(cè),到2020年將有超過(guò)500億的終端與設(shè)備聯(lián)網(wǎng),而有50%的物聯(lián)網(wǎng)網(wǎng)絡(luò)將面臨網(wǎng)絡(luò)帶寬的限制,40%的數(shù)據(jù)需要在網(wǎng)絡(luò)邊緣分析、處理與儲(chǔ)存。邊緣計(jì)算市場(chǎng)規(guī)模將超萬(wàn)億,成為與云計(jì)算平分秋色的新興市場(chǎng) [1] 。因此吸引越來(lái)越多的公司加入到邊緣計(jì)算開(kāi)發(fā)當(dāng)中。
邊緣計(jì)算就是在嵌入式平臺(tái)上能有效地運(yùn)行各種智能算法,從而使終端具有類似人一樣的智能。智能算法大致可以歸為三類:(1)認(rèn)知環(huán)境,其中包括物體識(shí)別、目標(biāo)檢測(cè)、語(yǔ)義分割和特征提取功能,涉及了模式識(shí)別、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù);(2)顯示場(chǎng)景,其中包括復(fù)原算法、三維點(diǎn)云展示和場(chǎng)景生成,涉及了最優(yōu)化、虛擬現(xiàn)實(shí)、深度學(xué)習(xí)GAN網(wǎng)絡(luò)等技術(shù);(3)控制機(jī)構(gòu),其中包括智能控制,涉及了強(qiáng)化學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)控制等技術(shù)。但是邊緣計(jì)算環(huán)境下嵌入式平臺(tái)的運(yùn)算能力弱,因此如何能有效的運(yùn)行各種智能算法是一個(gè)很挑戰(zhàn)的問(wèn)題。
隨著人們對(duì)人工智能越來(lái)越深入的研究,邊緣計(jì)算也有了一系列發(fā)展的機(jī)會(huì):(1)目前通用的計(jì)算機(jī)體系硬件體系結(jié)構(gòu)并不符合人腦的結(jié)構(gòu)構(gòu)成,所以計(jì)算效能還有很大的提升潛力,因此這為邊緣計(jì)算平臺(tái)提供了彎道超車(chē)的可能性;(2)當(dāng)前的智能算法還有很大改進(jìn)的空間,例如通過(guò)深度學(xué)習(xí)訓(xùn)練出的特征往往優(yōu)于人們傳統(tǒng)認(rèn)識(shí)的特征(例如邊緣和角點(diǎn)特征等),因此這為邊緣計(jì)算在算法改進(jìn)上提供了很大空間;(3)邊緣計(jì)算平臺(tái)即嵌入式系統(tǒng)往往是實(shí)現(xiàn)某種特定的應(yīng)用,因此可以根據(jù)需求對(duì)算法進(jìn)行各種簡(jiǎn)化,并且可提出合適的部署方案。