嵌入式人工智能技術(shù)的應(yīng)用和開發(fā)
結(jié)合邊緣計(jì)算所面臨的挑戰(zhàn)和機(jī)會,本文從硬件架構(gòu)、算法設(shè)計(jì)和算法部署三個(gè)方面展開邊緣計(jì)算的開發(fā)和應(yīng)用。人工智能算法如何有效地運(yùn)行在嵌入式智能終端(即邊緣計(jì)算)是近年研究的熱點(diǎn),本文從嵌入式人工智能技術(shù)研究的意義以及所面臨的問題入手,并從硬件平臺、算法設(shè)計(jì)以及算法部署三個(gè)方面展開,闡述嵌入式人工智能技術(shù)開發(fā)的思路,最后通過一個(gè)應(yīng)用實(shí)例說明此開發(fā)過程。
隨著“AIoT(人工智能物聯(lián)網(wǎng))=AI(人工智能)+IoT(物聯(lián)網(wǎng))”的發(fā)展,若把算法都部署在云平臺上進(jìn)行,會給網(wǎng)絡(luò)通信帶來不小的壓力,并且會面臨數(shù)據(jù)傳輸?shù)难舆t性以及安全性等問題,因此并不是所有的智能終端都需要利用云平臺來運(yùn)行,因此如何在智能終端上直接運(yùn)行算法的邊緣計(jì)算應(yīng)運(yùn)而生。
邊緣計(jì)算相對于云平臺有如下優(yōu)勢:(1)實(shí)時(shí)性高,不需要傳輸數(shù)據(jù)從而減少反應(yīng)延遲;(2)可靠性高,即使網(wǎng)絡(luò)斷開也能正常工作;(3)安全性高,避免隱私數(shù)據(jù)被上傳;(4)部署靈活,可在各種終端靈活部署;(5)更加節(jié)能,嵌入式系統(tǒng)低功耗特性以及減少了傳輸過程的能耗等;(6)網(wǎng)絡(luò)流量低,有效抑制了網(wǎng)絡(luò)擁塞;(7)類人化,人就是作為獨(dú)立的智能體生存在社會網(wǎng)絡(luò)中。
當(dāng)然邊緣計(jì)算不是為了代替云計(jì)算,而是作為云計(jì)算的一個(gè)補(bǔ)充。
據(jù)IDC預(yù)測,到2020年將有超過500億的終端與設(shè)備聯(lián)網(wǎng),而有50%的物聯(lián)網(wǎng)網(wǎng)絡(luò)將面臨網(wǎng)絡(luò)帶寬的限制,40%的數(shù)據(jù)需要在網(wǎng)絡(luò)邊緣分析、處理與儲存。邊緣計(jì)算市場規(guī)模將超萬億,成為與云計(jì)算平分秋色的新興市場 [1] 。因此吸引越來越多的公司加入到邊緣計(jì)算開發(fā)當(dāng)中。
邊緣計(jì)算就是在嵌入式平臺上能有效地運(yùn)行各種智能算法,從而使終端具有類似人一樣的智能。智能算法大致可以歸為三類:(1)認(rèn)知環(huán)境,其中包括物體識別、目標(biāo)檢測、語義分割和特征提取功能,涉及了模式識別、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù);(2)顯示場景,其中包括復(fù)原算法、三維點(diǎn)云展示和場景生成,涉及了最優(yōu)化、虛擬現(xiàn)實(shí)、深度學(xué)習(xí)GAN網(wǎng)絡(luò)等技術(shù);(3)控制機(jī)構(gòu),其中包括智能控制,涉及了強(qiáng)化學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)控制等技術(shù)。但是邊緣計(jì)算環(huán)境下嵌入式平臺的運(yùn)算能力弱,因此如何能有效的運(yùn)行各種智能算法是一個(gè)很挑戰(zhàn)的問題。
隨著人們對人工智能越來越深入的研究,邊緣計(jì)算也有了一系列發(fā)展的機(jī)會:(1)目前通用的計(jì)算機(jī)體系硬件體系結(jié)構(gòu)并不符合人腦的結(jié)構(gòu)構(gòu)成,所以計(jì)算效能還有很大的提升潛力,因此這為邊緣計(jì)算平臺提供了彎道超車的可能性;(2)當(dāng)前的智能算法還有很大改進(jìn)的空間,例如通過深度學(xué)習(xí)訓(xùn)練出的特征往往優(yōu)于人們傳統(tǒng)認(rèn)識的特征(例如邊緣和角點(diǎn)特征等),因此這為邊緣計(jì)算在算法改進(jìn)上提供了很大空間;(3)邊緣計(jì)算平臺即嵌入式系統(tǒng)往往是實(shí)現(xiàn)某種特定的應(yīng)用,因此可以根據(jù)需求對算法進(jìn)行各種簡化,并且可提出合適的部署方案。