如今，人們對(duì)人工智能(AI)和神經(jīng)網(wǎng)絡(luò)的討論，往往集中在生成式AI應(yīng)用上。從圖像、文本到視頻創(chuàng)作，這些前沿技術(shù)仿佛成了話語(yǔ)的主旋律。但是，AI的力量遠(yuǎn)不止于此，它正悄然滲透到更加隱秘的領(lǐng)域，推動(dòng)著工業(yè)和汽車的智能化變革。

隨著工業(yè)和汽車領(lǐng)域?qū)Ω咝阅芪⒖刂破?MCU)的需求日益增加。從實(shí)時(shí)控制，到故障檢測(cè)的高精度需求，再到對(duì)系統(tǒng)穩(wěn)定性和安全性的嚴(yán)格要求，已經(jīng)成為這些行業(yè)程需解決關(guān)鍵痛點(diǎn)。

隨著工業(yè)4.0的推進(jìn)，傳統(tǒng)工業(yè)設(shè)備正向智能化和自動(dòng)化方向轉(zhuǎn)型。這要求設(shè)備具備更高的算力、更強(qiáng)的實(shí)時(shí)處理能力以及支持AI算法的能力，以應(yīng)對(duì)工業(yè)機(jī)器人、電機(jī)控制、預(yù)測(cè)性維護(hù)等復(fù)雜應(yīng)用場(chǎng)景。

近年來(lái)越來(lái)越多的芯片廠商紛紛推出工業(yè)“MCU+AI”產(chǎn)品，MCU的算力持續(xù)提升，已經(jīng)能夠滿足邊緣端低算力人工智能的需求，將AI加速器集成在MCU上，實(shí)現(xiàn)端側(cè)部署的單芯片解決方案正逐漸成為主流方案。

AI功能實(shí)現(xiàn)方式各異

采用Arm Helium?技術(shù)Arm Helium?是Arm公司在2019年推出的，為Armv8?M架構(gòu)的Arm Cortex-M處理器提供的M-Profile矢量擴(kuò)展技術(shù)，能夠顯著提升機(jī)器學(xué)習(xí)(ML)和數(shù)字信號(hào)處理(DSP)應(yīng)用的性能。目前Arm Cortex-M52、Arm Cortex-M55和Arm Cortex-M85支持Arm Helium技術(shù)。 過(guò)去一年，瑞薩電子推出的RA8x1 MCU以及RZ/V2H MPU等產(chǎn)品，均集成了專為AI應(yīng)用設(shè)計(jì)的硬件加速引擎，能夠滿足工業(yè)市場(chǎng)的需求。

其中RA8x1 MCU屬于瑞薩RA8系列，采用Arm Cortex-M55內(nèi)核，高達(dá)480MHz，引入Arm Helium?技術(shù)，與基于Arm Cortex-M7處理器的MCU相比，在DSP和ML應(yīng)用層面實(shí)現(xiàn)高達(dá)4倍的性能提升。 極海半導(dǎo)體的G32R501系列實(shí)時(shí)控制MCU，采用Arm Cortex-M52內(nèi)核，同樣引入了Arm Helium?技術(shù)，大幅提升DSP和ML的性能，有效降低了MCU內(nèi)核的實(shí)時(shí)負(fù)載，支持實(shí)時(shí)處理并減少延遲，從而降低了系統(tǒng)的整體復(fù)雜度和軟件開(kāi)發(fā)難度。

集成NPU2024年8月，國(guó)芯科技推出了CCR4001S系列MCU，基于國(guó)芯科技自主RISC-V架構(gòu)C*Core CPU內(nèi)核研發(fā)，內(nèi)部配置了AI NPU，支持智能控制算法與自適應(yīng)變頻控制算法。 2024年9月，恩智浦推出的i.MX RT700系列跨界MCU，集成了NXP自研的eIQ® Neutron系列NPU AI/ML加速器。

其內(nèi)核采用異構(gòu)架構(gòu)，包含有兩個(gè)Arm Cortex-M33，主頻分別為325MHz和250MHz，包含兩個(gè)DSP分別為HiFi-4和HiFi-1，以及包含一個(gè)基于開(kāi)放式指令集架構(gòu)的EZH-V IO協(xié)處理器。 2024年12月，德州儀器業(yè)內(nèi)率先推出具有NPU的TMS320F28P55x系列實(shí)時(shí)MCU，采用主頻150MHz的32位C28x DSP內(nèi)核，內(nèi)置單精度浮點(diǎn)單元、三角函數(shù)加速器，采用150MHz的可編程控制律加速器。

集成NPU+ Arm Helium技術(shù)2024年4月，英飛凌推出的PSOC Edge E8x系列產(chǎn)品，采用Arm Cortex-M55內(nèi)核，支持Arm Helium? DSP并搭配Arm Ethos?-U55的神經(jīng)網(wǎng)絡(luò)處理器，以及Cortex-M33內(nèi)核搭配著英飛凌超低功耗NNLite(用于加速神經(jīng)網(wǎng)絡(luò)的專有硬件加速器)。

Arm Ethos?-U55是Arm公司推出的首款面向Cortex-M系列的microNPU(微神經(jīng)處理單元)，專為在面積受限的嵌入式和物聯(lián)網(wǎng)(IoT)設(shè)備中加速機(jī)器學(xué)習(xí)(ML)推理而設(shè)計(jì)。 2024年12月，意法半導(dǎo)體推出的STM32N6系列產(chǎn)品，采用Arm Cortex-M55內(nèi)核，頻率高達(dá)800MHz，是其首款引入Arm Helium?向量處理技術(shù)的CPU，也是首款采用自研的嵌入式推理專用Neural-ART Accelerator? NPU的產(chǎn)品。

其他方式除了集成NPU或Arm Helium?技術(shù)之外，MCU也可以通過(guò)其他方式實(shí)現(xiàn)一定程度的AI功能。如：通過(guò)優(yōu)化軟件算法，MCU可以在其處理能力范圍內(nèi)執(zhí)行簡(jiǎn)單的AI算法;集成DSP單元，DSP對(duì)于執(zhí)行數(shù)字信號(hào)處理任務(wù)(如FFT、濾波等)非常高效，這些任務(wù)在AI算法中也很常見(jiàn);配備其他類型的協(xié)處理器，如FPU(浮點(diǎn)處理單元)或特殊功能協(xié)處理器，這些協(xié)處理器可以在一定程度上加速AI算法的執(zhí)行。 此外，MCU還可以通過(guò)外部接口連接專門的AI加速器芯片，AI加速器芯片可以處理復(fù)雜的AI算法，并將結(jié)果返回給MCU進(jìn)行后續(xù)處理。

本土頭部MCU廠商兆易創(chuàng)新在“MCU+AI”領(lǐng)域的布局也走在前列。2024年11月，兆易創(chuàng)新推出的GD32G5采用Arm Cortex-M33內(nèi)核，高達(dá)216MHz，內(nèi)置高級(jí)DSP硬件加速器和單精度浮點(diǎn)單元，以及硬件三角函數(shù)加速器和濾波算法、快速傅里葉等多類硬件加速單元。2023年推出的高性能GD32H7系列芯片，同樣可以為復(fù)雜運(yùn)算、多媒體技術(shù)、邊緣AI等高級(jí)創(chuàng)新應(yīng)用提供強(qiáng)大的算力支撐，采用600MHz Arm Cortex-M7高性能內(nèi)核，支持多種硬件加速，新增了大量通用外設(shè)資源。

人工智能(AI)是計(jì)算機(jī)科學(xué)的一個(gè)分支，它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。人工智能從誕生以來(lái)，理論和技術(shù)日益成熟，應(yīng)用領(lǐng)域也不斷擴(kuò)大，可以設(shè)想未來(lái)人工智能帶來(lái)的科技產(chǎn)品，將會(huì)是人類智慧的“容器”。人工智能可以對(duì)人的意識(shí)、思維的信息過(guò)程的模擬。人工智能不是人的智能，但能像人那樣思考、也可能超過(guò)人的智能。

但隨著AI從云到邊緣的發(fā)展，使得這一觀點(diǎn)正在迅速改變，AI計(jì)算引擎使MCU能夠突破嵌入式應(yīng)用可能的極限，嵌入式設(shè)計(jì)已經(jīng)能夠提高網(wǎng)絡(luò)攻擊的實(shí)時(shí)響應(yīng)能力和設(shè)備安全性。

支持AI的MCU

云計(jì)算推動(dòng)了對(duì)具有AI功能的MCU的需求;它減少了數(shù)據(jù)傳輸所需的帶寬，并節(jié)省了云服務(wù)器的處理能力。

配備AI算法的MCU正在應(yīng)用包含對(duì)象識(shí)別，啟用語(yǔ)音服務(wù)和自然語(yǔ)言處理等功能的應(yīng)用程序。它們還有助于提高物聯(lián)網(wǎng)(IoT)，可穿戴設(shè)備和醫(yī)療應(yīng)用中電池供電設(shè)備的準(zhǔn)確性和數(shù)據(jù)隱私性。

那么，MCU如何在邊緣和節(jié)點(diǎn)設(shè)計(jì)中實(shí)現(xiàn)AI功能?下面簡(jiǎn)要介紹了三種基本方法，這些方法使MCU能夠在IoT網(wǎng)絡(luò)邊緣執(zhí)行AI加速。

AI生態(tài)構(gòu)建

隨著邊緣AI技術(shù)的發(fā)展和應(yīng)用場(chǎng)景的不斷落地，MCU廠商都在持續(xù)構(gòu)建自身的生態(tài)。除了社區(qū)支持外，目前各大頭部MCU廠商都在以“MCU+AI”硬件為基石，持續(xù)豐富升級(jí)自身的軟件工具鏈，更好的助力客戶產(chǎn)品落地。

MCU的一大特點(diǎn)是在有限的功耗預(yù)算內(nèi)提供高效的計(jì)算能力。MCU的計(jì)算資源和存儲(chǔ)空間比較有限，這使得在MCU上實(shí)現(xiàn)高算力的AI功能具有一定挑戰(zhàn)性。如何平衡性能和功耗，一直是MCU集成AI/ML加速器的難點(diǎn)。提高加速器的主頻，可以提高算力，但是帶來(lái)的功耗提升是非常顯著的。芯片廠商需要在保證MCU實(shí)現(xiàn)AI功能的同時(shí)，盡可能地控制對(duì)計(jì)算和存儲(chǔ)資源的需求，從而減少功耗過(guò)高帶來(lái)的影響。

瑞薩電子全球銷售與市場(chǎng)副總裁、瑞薩電子中國(guó)總裁賴長(zhǎng)青：“在MCU中集成AI加速器后，可以從兩方面平衡性能和功耗問(wèn)題。一方面，可通過(guò)提升制造工藝來(lái)減少功耗。另一方面，針對(duì)不需要持續(xù)執(zhí)行AI計(jì)算的場(chǎng)景，在非必要運(yùn)行場(chǎng)景下，可將AI計(jì)算單元掛起，僅保留可以維持觸發(fā)條件的外設(shè)，以節(jié)省功耗。對(duì)于需要持續(xù)運(yùn)行AI的邊緣設(shè)備，則保持正常供電，通過(guò)優(yōu)化算法或改進(jìn)硬件效率來(lái)實(shí)現(xiàn)功耗降低?！?

提升制造工藝來(lái)減少功耗。制造工藝的不斷進(jìn)步，芯片的功耗將進(jìn)一步降低。例如，采用更先進(jìn)的制程技術(shù)，可以在不增加芯片面積的情況下，提高晶體管的密度和性能，從而在降低功耗的同時(shí)，提升計(jì)算能力。

低功耗管理。當(dāng)“MCU+AI”中某協(xié)處理器未被使用時(shí)，可通過(guò)MCU的電源管理單元將其置于休眠狀態(tài)，在非必要運(yùn)行場(chǎng)景下，可將其掛起以節(jié)省功耗，待滿足觸發(fā)條件時(shí)，再啟用AI計(jì)算單元，重新恢復(fù)待機(jī)狀態(tài)，以避免不必要的功耗開(kāi)銷。例如，Nordic的nRF54H系列產(chǎn)品采用了創(chuàng)新的工程設(shè)計(jì)，能夠在執(zhí)行AI任務(wù)時(shí)迅速返回超低功耗睡眠模式，從而顯著降低能耗。

AI算法的適配與優(yōu)化。AI加速器通常需要較高的算力，而諸如工業(yè)場(chǎng)景下的MCU又要求低功耗、長(zhǎng)時(shí)間穩(wěn)定運(yùn)行，所以AI算法的適配與優(yōu)化對(duì)MCU尤為重要。為了解決嵌入式系統(tǒng)資源有限的問(wèn)題，一些MCU廠商采用了輕量級(jí)AI模型和硬件加速技術(shù)，使AI算法能夠在MCU上高效運(yùn)行。例如，TinyML(微型機(jī)器學(xué)習(xí))技術(shù)的出現(xiàn)，使得AI算法能夠在資源受限的MCU上高效運(yùn)行。TinyML通過(guò)簡(jiǎn)化模型結(jié)構(gòu)和優(yōu)化算法實(shí)現(xiàn)，大幅降低了對(duì)計(jì)算資源和存儲(chǔ)空間的需求，從而在保持低功耗的同時(shí)，實(shí)現(xiàn)了AI功能的集成。

此外，充分考慮內(nèi)存讀寫和總線設(shè)計(jì)也格外重要。在AI/ML算法中，內(nèi)存讀寫往往會(huì)成為瓶頸，值得一提的是，恩智浦研發(fā)的eIQ® Neutron系列NPU，其算力覆蓋了從低功耗MCU至高性能應(yīng)用處理器，并且充分考慮了內(nèi)存讀寫效率和總線設(shè)計(jì)，獲取性能和功耗的平衡。

“MCU+AI”產(chǎn)品的解決方案在設(shè)計(jì)開(kāi)發(fā)、端側(cè)落地部署等環(huán)節(jié)中均面臨數(shù)據(jù)安全風(fēng)險(xiǎn)，如何確保用戶的數(shù)據(jù)安全和隱私保護(hù)是個(gè)至關(guān)重要的問(wèn)題。

開(kāi)發(fā)階段數(shù)據(jù)隱私保護(hù)。在AI項(xiàng)目開(kāi)發(fā)階段中，客戶為了訓(xùn)練AI模型實(shí)現(xiàn)特定的功能，需要準(zhǔn)備大量的樣本數(shù)據(jù)，應(yīng)用這些數(shù)據(jù)樣本的方法和AI建模過(guò)程可能涉及知識(shí)產(chǎn)權(quán)，并且獲取這些數(shù)據(jù)樣本也付出了巨大的成本，因此，如何保護(hù)這些數(shù)據(jù)資產(chǎn)不被意外流失，是很多客戶關(guān)注的重點(diǎn)。

在開(kāi)發(fā)階段，MCU廠商需要重視用戶數(shù)據(jù)的隱私保護(hù)。在導(dǎo)入和部署AI模型時(shí)，提供的算法和模型應(yīng)僅限于技術(shù)支持，確保用戶的數(shù)據(jù)始終由客戶控制，避免任何潛在的數(shù)據(jù)泄露風(fēng)險(xiǎn)。

當(dāng)前，MCU在技術(shù)層面呈現(xiàn)出三大發(fā)展趨勢(shì)，分別為AI融合、集成度提升、架構(gòu)創(chuàng)新與制程迭代，這也是各大企業(yè)技術(shù)競(jìng)爭(zhēng)的關(guān)鍵焦點(diǎn)。

當(dāng)前，在智能物聯(lián)、智能工控、汽車電子等新興領(lǐng)域的快速發(fā)展下，MCU的應(yīng)用場(chǎng)景不斷拓寬，市場(chǎng)需求不斷提升。但這些新興領(lǐng)域?qū)τ贛CU的性能要求也在提升，包括更低的功耗、成本，更高的實(shí)時(shí)性、可靠性等。將邊緣AI技術(shù)融入MCU就成了廠商解決這一難題的秘訣。

兆易創(chuàng)新MCU事業(yè)部產(chǎn)品市場(chǎng)總監(jiān)陳思偉表示：“邊緣計(jì)算的需求正在推動(dòng)AI算法與MCU的深度結(jié)合。MCU不再局限于傳統(tǒng)控制功能，而是逐漸集成AI推理能力，用于圖像識(shí)別、語(yǔ)音處理、設(shè)備預(yù)測(cè)性維護(hù)等場(chǎng)景?！?

邊緣AI技術(shù)可以使MCU兼顧更高性能的數(shù)據(jù)處理任務(wù)，實(shí)現(xiàn)實(shí)時(shí)決策功能。例如，在智能工控領(lǐng)域，需要系統(tǒng)執(zhí)行太陽(yáng)能和儲(chǔ)能系統(tǒng)中的電弧故障檢測(cè)，以及用于預(yù)測(cè)性維護(hù)的電機(jī)軸承故障檢測(cè)等功能，邊緣AI幫助MCU對(duì)設(shè)備和傳感器收集的數(shù)據(jù)進(jìn)行實(shí)時(shí)分析和處理，提供更準(zhǔn)確的決策，使系統(tǒng)實(shí)現(xiàn)更高的故障檢測(cè)準(zhǔn)確率。

因此，AI與MCU融合成為了當(dāng)下MCU技術(shù)發(fā)展的核心趨勢(shì)和重要突破點(diǎn)。