*設備端（On-device）學習：在同一AI芯片上進行學習和訓練

全球知名半導體制造商ROHM（總部位于日本京都市）開發(fā)出一款設備端學習*AI芯片（配備設備端學習AI加速器的SoC），該產(chǎn)品利用 AI（人工智能）技術(shù)，能以超低功耗實時預測內(nèi)置電機和傳感器等的電子設備的故障（故障跡象檢測），非常適用于IoT領(lǐng)域的邊緣計算設備和端點*1。

通常，AI芯片要實現(xiàn)其功能，需要進行設置判斷標準的“訓練”，以及通過學到的信息來判斷如何處理的“推理”。在這種情況下，“訓練”需要匯集龐大的數(shù)據(jù)量形成數(shù)據(jù)庫并隨時更新，因此進行訓練的AI芯片需要具備很高的運算能力，而其功耗也會隨之增加。正因如此，面向云計算設備開發(fā)的高性能、昂貴的AI芯片層出不窮，而適用于邊緣計算設備和端點（更有效地構(gòu)建物聯(lián)網(wǎng)社會的關(guān)鍵）的低功耗、可在設備端學習的AI芯片開發(fā)卻困難重重。

此次開發(fā)出的AI芯片，是ROHM在基于日本慶應義塾大學松谷教授開發(fā)的“設備端學習算法”，面向商業(yè)化開發(fā)的AI加速器*2（AI專用硬件計算電路）和ROHM8位高效CPU“tinyMicon MatisseCORE?（以下簡稱“Matisse”）”構(gòu)成。通過將2萬門超小型AI加速器與高效CPU相結(jié)合，能以僅幾十mW（僅為以往AI訓練芯片的1/1000）的超低功耗實現(xiàn)訓練和推理。利用本產(chǎn)品，無需連接云服務器，就可以在設備終端將未知的輸入數(shù)據(jù)和模式形成“不同于以往”的數(shù)值并輸出，因此可在眾多應用中實現(xiàn)實時故障預測。

未來，ROHM計劃將該AI芯片的AI加速器應用在IC產(chǎn)品中，以實現(xiàn)電機和傳感器的故障預測。計劃于2023年度推出產(chǎn)品，于2024年度投入量產(chǎn)。

日本慶應義塾大學理工學部信息工學科松谷宏紀教授表示：“隨著5G通信和數(shù)字孿生*3等物聯(lián)網(wǎng)技術(shù)的發(fā)展，對云計算的要求也越來越高，而在云服務器上處理所有數(shù)據(jù)，從負載、成本和功耗方面看并不現(xiàn)實。我們研究的‘設備端學習’和開發(fā)的‘設備端學習算法’，是為了提高邊緣端的數(shù)據(jù)處理效率，創(chuàng)建更好的物聯(lián)網(wǎng)社會。這次，我校通過與ROHM公司進行聯(lián)合研究，進一步改進了設備端學習電路技術(shù)，并有望以高性價比的方式推出產(chǎn)品。我們預計在不久的將來，這種原型AI芯片將會成功嵌入ROHM的IC產(chǎn)品中，為實現(xiàn)更高效的物聯(lián)網(wǎng)社會做出貢獻?！?

＜關(guān)于tinyMicon MatisseCORE?＞

tinyMiconMatisseCORE?（Matisse: Micro arithmetic unit for tiny size sequencer）是ROHM自主開發(fā)的8位微處理器（CPU），該產(chǎn)品旨在隨著物聯(lián)網(wǎng)技術(shù)的發(fā)展來提高模擬IC的智能化程度。憑借針對嵌入式應用而優(yōu)化的指令集和最新的編譯器技術(shù)，以高標準實現(xiàn)了更小的芯片面積和程序代碼、以及更高速的運算處理能力。此外，該產(chǎn)品還符合汽車功能安全標準“ISO 26262”、ASIL-D等的要求，適用于對可靠性要求高的應用。另外，利用內(nèi)置的自有“實時調(diào)試功能”，在調(diào)試時的處理可以完全不影響應用程序的運行，因此能在應用產(chǎn)品工作的同時進行調(diào)試。

＜AI芯片（配備設備端學習AI加速器的SoC）詳細介紹＞

這次開發(fā)出的設備端學習AI芯片原型（產(chǎn)品型號：BD15035）在人工智能技術(shù)的基礎(chǔ)上，采用了慶應義塾大學松谷教授開發(fā)的“設備端學習算法（三層神經(jīng)網(wǎng)絡*4的AI電路）”。為了推出可以投放市場的產(chǎn)品，ROHM將這種AI電路的大小從500萬門縮小為2萬門，僅為原來的0.4%，并將其重新構(gòu)建為自有的AI加速器“AxlCORE-ODL”，同時，利用ROHM的8位高效微處理器“tinyMicon MatisseCORE?”進行AI加速器的運算控制，使得僅數(shù)十毫瓦的超低功耗AI訓練和推理成為可能。利用本產(chǎn)品，無需連接云服務器和事先進行AI訓練，就可以設備終端將未知的輸入數(shù)據(jù)和模式（例如加速度、電流、照度、聲音等）形成“不同于以往（異常度）”的數(shù)值并輸出，因此不僅可以降低云服務器和通信成本，還能通過終端AI進行實時故障預測（故障跡象檢測）。

另外，ROHM還提供可安裝微控制器開發(fā)板“Arduino*5”用擴展板（配備Arduino兼容引腳）的評估板，以方便客戶評估這款AI芯片。評估板上裝有無線通信模塊（Wi-Fi和Bluetooth®）以及64kbit EEPROM（內(nèi)存），只需將該評估板與傳感器等單元相連接，將傳感器裝在監(jiān)控對象上，即可在顯示屏上確認AI芯片的效果。關(guān)于該評估板，如有需要歡迎聯(lián)系ROHM的銷售部門。

＜術(shù)語解說＞

*1) 邊緣計算設備和端點

將構(gòu)成大數(shù)據(jù)基礎(chǔ)的服務器和計算機連接云端，即成為“云服務器”和“云計算設備”，而構(gòu)成邊緣（端）側(cè)的邊緣計算設備則是指終端的計算機或設備。端點是指比邊緣計算設備更末端的設備和地點。

*2) AI加速器

在實現(xiàn)AI功能時，將由軟件讓處理器（CPU）執(zhí)行處理改為通過硬件處理來提高處理速度的設備（或電子電路）。

*3) 數(shù)值孿生

一種將現(xiàn)實世界中的信息像雙胞胎一樣映射在虛擬空間（數(shù)字空間）中的技術(shù)。

*4) 三層神經(jīng)網(wǎng)絡

在受人腦機制啟發(fā)而誕生的神經(jīng)網(wǎng)絡（數(shù)學公式和函數(shù)的模型）中，由輸入層、中間層和輸出層組成的處理流程中，將中間層視為一層、總共僅由三層構(gòu)成的簡單神經(jīng)網(wǎng)絡。由幾十層中間層來執(zhí)行更復雜的AI處理的多層神經(jīng)網(wǎng)絡即為“深度學習”。

*5) Arduino

Arduino推出的由載有微控制器和輸入輸出端口的PCB板及軟件開發(fā)環(huán)境構(gòu)成的開放源代碼平臺，已在全球廣泛普及。

?“tinyMicon MatisseCORE?”是ROHM Co.，Ltd.的商標或注冊商標。

?Bluetooth是美國Bluetooth SIG, Inc.的商標或注冊商標。