人工智能概念：

AI，就是人工智能。那么什么是人工智能? 計算機科學家的定義是：我們希望計算機具有人類意識，例如能夠討論、學習和感受用于模擬、擴展的理論、方法、技術和應用系統(tǒng)的能力。 并擴展計算機探索和發(fā)展人類智能的一門新技術科學。 人工智能領域的研究包括機器人技術、語音識別、圖像識別、自然語言處理和專家系統(tǒng)。

傳統(tǒng)人工智能的實現(xiàn)

我們平時使用的人工智能比如手機上的語音識別，都是通過聯(lián)網(wǎng)來實現(xiàn)的，手機把語音轉換為聲音文件或聲音字節(jié)流，然后把聲音的數(shù)字流送到云端(后臺服務器)，由后臺的服務器進行聲音識別運算，把文字再返回給手機。人機對話功能的實現(xiàn)也是如此，手機把聲音的字節(jié)流傳到后臺服務器，服務器然后解析成文字，然后再做自然語言處理，把文字的語義解析出來，服務器處理后后再返回對話結果給手機語音播放。再比如人臉識別功能，手機攝像頭把人臉保存為圖片上傳到服務器，服務器通過復雜的人工神經(jīng)網(wǎng)絡計算，把計算的結果通過網(wǎng)絡傳遞給手機。

現(xiàn)階段的自動駕駛技術也基本依賴于后端服務器的，車載傳感器把數(shù)據(jù)上傳到云端服務器，服務器下發(fā)指令給車輛，告訴車輛的行為。

傳統(tǒng)的人工智能方式實現(xiàn)的缺點

這種使用后臺服務器的方式實現(xiàn)人工智能功能相對對終端(手機)來說實現(xiàn)簡單，僅僅需要調用后臺服務器的接口即可實現(xiàn)非常復雜的功能，不需要終端有多大的計算能力。但這種方式有很大的弊端，就是必須聯(lián)網(wǎng)，而且后臺的服務器絕大部分是要付費才能實現(xiàn)計算功能。這種模式很多場景是無法實現(xiàn)人工智能的，比如在沒有網(wǎng)絡的工廠，偏遠山區(qū)。對于產(chǎn)品開發(fā)者來說，購買付費的人工智能服務也是一個巨大的開支，后面還有可能面對后臺服務器升級造成的接口改變，導致終端無法訪問后端服務器，產(chǎn)品徹底作廢。

對于自動駕駛這種對時間要求極高的應用，如果采用上面的到服務器交互的方式，是完全不能滿足自動駕駛的時間要求的。因為對于現(xiàn)階段的網(wǎng)絡服務器和終端的延時都是50ms級別之上，120km/h的情況下，50ms就是1.7米，一個交互來回車子已經(jīng)走過了3-5米了。這樣的延時對于緊急情況是無法滿足需求的。即使5G普及，延時達到10ms以內(nèi)，這種交互方式也有很多現(xiàn)實文件無法解決，比如速度越快，網(wǎng)絡越慢，網(wǎng)絡覆蓋問題，邊遠山區(qū)，隧道內(nèi)，大量車輛在同一地區(qū)網(wǎng)絡會出現(xiàn)擁塞等情況。這些問題無法使用傳統(tǒng)的服務器交互方式實現(xiàn)。

嵌入式人工智能的提出

由于上述問題存在，提出了嵌入式人工智能概念。嵌入式AI就是希望在嵌入式設備上面實現(xiàn)人工智能的能力，這和我們平時使用的人工智能有一個很大的區(qū)別就是，平時手機或嵌入式設備是通過網(wǎng)絡連接后面的服務器來實現(xiàn)的人工智能，而嵌入式人工智能則是通過嵌入式設備本身來實現(xiàn)的，無需聯(lián)網(wǎng)。這樣帶來的好處是完全不依賴于云端的服務器，自己單打獨斗，實現(xiàn)人工智能的大部分功能。

這種實現(xiàn)是想起來容易，但實現(xiàn)起來還有很多問題，目前嵌入式人工智能面臨三大挑戰(zhàn)，分別為運算能力、功耗及散熱。這些也是經(jīng)典嵌入式設備所面臨的問題。這幾個問題其實有相互矛盾的地方，運算能強則功耗大，散熱要求明顯，反之亦然。

嵌入式人工智能的發(fā)展：

鑒于當前的嵌入式人工智能的局限性，現(xiàn)在的芯片廠商在這方面是下足了功夫，新的人工智能芯片在不斷的研發(fā)和推出。嵌入式人工智能芯片的核心是半導體及算法。嵌入式人工智能硬件主要是要求更快指令周期與低功耗，包括GPU、DSP、ASIC、FPGA和神經(jīng)元芯片，且須與深度學習算法相結合。

現(xiàn)在各大巨頭都在部署自己的嵌入式解決方案，最著名的就是谷歌，tensorflow是谷歌推出的一款深度學習框架，現(xiàn)在已被各大公司使用，但只能運行在PC上服務器上，同時谷歌也推出了可以運行在嵌入式設備的tensorflow-lite，TensorFlow Lite 是 TensorFlow 針對移動和嵌入式設備的輕量級解決方案。它允許您在低延遲的移動設備上運行機器學習模型，因此您可以利用它進行分類，回歸或獲取你想要的任何東西，而無需與服務器交互。

意法半導體最近也展示了在國內(nèi)最流行的芯片STM32上運行的人工智能神經(jīng)網(wǎng)絡。同時也推出了在STM32CubeMX工具中引入STM32Cube.AI工具包，將AI引入微控制器供電的智能設備，位于節(jié)點邊緣，以及物聯(lián)網(wǎng)，智能建筑，工業(yè)和醫(yī)療應用中的深度嵌入式設備。