自從以深度學(xué)習(xí)為代表的神經(jīng)網(wǎng)絡(luò)算法的精度大大提升以后，人工智能開(kāi)始終于又再次火了起來(lái)，且有席卷全球之勢(shì)。根據(jù)BBC預(yù)測(cè)，到2020年，人工智能總體市場(chǎng)將會(huì)高達(dá)1190億元的規(guī)模，年平均復(fù)合增長(zhǎng)率也將達(dá)到19.7%。龐大的市場(chǎng)潛力就吸引了眾多的芯片、算法和應(yīng)用廠商投身其中。

和過(guò)去的大多數(shù)應(yīng)用不一樣，人工智能在模型訓(xùn)練與推理中需要大量的計(jì)算。但受限于其算法和計(jì)算本身的特性，過(guò)往一直被廣泛使用的傳統(tǒng)計(jì)算芯片卻無(wú)法滿足這些需求，這就要求芯片廠商去為神經(jīng)網(wǎng)絡(luò)算法打造專(zhuān)用的芯片，尤其是推理端的芯片，也就是俗稱(chēng)的神經(jīng)網(wǎng)絡(luò)加速器。由于這個(gè)市場(chǎng)大家?guī)缀醵继幱谕黄鹋芫€，所以很多新興的和傳統(tǒng)的芯片廠商在上面角逐，這就給開(kāi)發(fā)者的芯片選擇帶來(lái)了困擾。

為此，我們從概念入手，為大家提供神經(jīng)網(wǎng)絡(luò)加速器的（NNA）基本面了解，希望對(duì)大家有所啟發(fā)。

神經(jīng)網(wǎng)絡(luò)加速器是趨勢(shì)

在談神經(jīng)網(wǎng)絡(luò)加速器之前，我們先了解一下什么是神經(jīng)網(wǎng)絡(luò)。

據(jù)維基百科，在機(jī)器學(xué)習(xí)和認(rèn)知科學(xué)領(lǐng)域，人工神經(jīng)網(wǎng)絡(luò)是一種模仿生物神經(jīng)網(wǎng)絡(luò)（動(dòng)物的中樞神經(jīng)系統(tǒng)，特別是大腦）的結(jié)構(gòu)和功能的數(shù)學(xué)模型或計(jì)算模型，用于對(duì)函數(shù)進(jìn)行估計(jì)或近似。神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元聯(lián)結(jié)進(jìn)行計(jì)算。大多數(shù)情況下人工神經(jīng)網(wǎng)絡(luò)能在外界信息的基礎(chǔ)上改變內(nèi)部結(jié)構(gòu)，是一種自適應(yīng)系統(tǒng)?，F(xiàn)代神經(jīng)網(wǎng)絡(luò)是一種非線性統(tǒng)計(jì)性數(shù)據(jù)建模工具。

典型的神經(jīng)網(wǎng)絡(luò)具有以下三個(gè)部分：

1）結(jié)構(gòu)（Architecture）

結(jié)構(gòu)指定了網(wǎng)絡(luò)中的變量和它們的拓?fù)潢P(guān)系。例如，神經(jīng)網(wǎng)絡(luò)中的變量可以是神經(jīng)元連接的權(quán)重（weights）和神經(jīng)元的激勵(lì)值（activiTIes of the neurons）。

2）激勵(lì)函數(shù)（AcTIvity Rule）

大部分神經(jīng)網(wǎng)絡(luò)模型具有一個(gè)短時(shí)間尺度的動(dòng)力學(xué)規(guī)則，來(lái)定義神經(jīng)元如何根據(jù)其他神經(jīng)元的活動(dòng)來(lái)改變自己的激勵(lì)值。一般激勵(lì)函數(shù)依賴(lài)于網(wǎng)絡(luò)中的權(quán)重（即該網(wǎng)絡(luò)的參數(shù)）。

3）學(xué)習(xí)規(guī)則（Learning Rule）

學(xué)習(xí)規(guī)則指定了網(wǎng)絡(luò)中的權(quán)重如何隨著時(shí)間推進(jìn)而調(diào)整。這一般被看做是一種長(zhǎng)時(shí)間尺度的動(dòng)力學(xué)規(guī)則。一般情況下，學(xué)習(xí)規(guī)則依賴(lài)于神經(jīng)元的激勵(lì)值。它也可能依賴(lài)于監(jiān)督者提供的目標(biāo)值和當(dāng)前權(quán)重的值。例如，用于手寫(xiě)識(shí)別的一個(gè)神經(jīng)網(wǎng)絡(luò)，有一組輸入神經(jīng)元。輸入神經(jīng)元會(huì)被輸入圖像的數(shù)據(jù)所激發(fā)。在激勵(lì)值被加權(quán)并通過(guò)一個(gè)函數(shù)（由網(wǎng)絡(luò)的設(shè)計(jì)者確定）后，這些神經(jīng)元的激勵(lì)值被傳遞到其他神經(jīng)元。這個(gè)過(guò)程不斷重復(fù)，直到輸出神經(jīng)元被激發(fā)。最后，輸出神經(jīng)元的激勵(lì)值決定了識(shí)別出來(lái)的是哪個(gè)字母。

人工神經(jīng)網(wǎng)絡(luò)通常是通過(guò)一個(gè)基于數(shù)學(xué)統(tǒng)計(jì)學(xué)類(lèi)型的學(xué)習(xí)方法（Learning Method）得以?xún)?yōu)化，所以人工神經(jīng)網(wǎng)絡(luò)也是數(shù)學(xué)統(tǒng)計(jì)學(xué)方法的一種實(shí)際應(yīng)用，通過(guò)統(tǒng)計(jì)學(xué)的標(biāo)準(zhǔn)數(shù)學(xué)方法我們能夠得到大量的可以用函數(shù)來(lái)表達(dá)的局部結(jié)構(gòu)空間，另一方面在人工智能學(xué)的人工感知領(lǐng)域，我們通過(guò)數(shù)學(xué)統(tǒng)計(jì)學(xué)的應(yīng)用可以來(lái)做人工感知方面的決定問(wèn)題（也就是說(shuō)通過(guò)統(tǒng)計(jì)學(xué)的方法，人工神經(jīng)網(wǎng)絡(luò)能夠類(lèi)似人一樣具有簡(jiǎn)單的決定能力和簡(jiǎn)單的判斷能力），這種方法比起正式的邏輯學(xué)推理演算更具有優(yōu)勢(shì)。

擁有了這些神經(jīng)網(wǎng)絡(luò)之后，不但可以在云端架設(shè)服務(wù)器提供人工智能服務(wù)，且可以應(yīng)用到智能手機(jī)、智能安防甚至智能汽車(chē)中實(shí)現(xiàn)圖像識(shí)別、物體跟蹤和語(yǔ)音識(shí)別等任務(wù)。但這些應(yīng)用由于其應(yīng)用場(chǎng)景的不同，還有算法特性的限制，這就要求他們提供低功耗、高效的，專(zhuān)門(mén)設(shè)計(jì)用來(lái)運(yùn)行這些神經(jīng)網(wǎng)絡(luò)算法的芯片，我們就把他們稱(chēng)之為“神經(jīng)網(wǎng)絡(luò)加速器”。

再者，從目前看來(lái)，由于數(shù)據(jù)收集需要大量運(yùn)算，因此各國(guó)的人工智算法仍然以云端發(fā)展為主。但考慮到信息安全、功耗以及對(duì)產(chǎn)品設(shè)計(jì)帶來(lái)的挑戰(zhàn)問(wèn)題，以云為中心的架構(gòu)方式并非在任何情況下都是最理想的解決方案，這就推動(dòng)了對(duì)嵌入式人工智能的關(guān)注。那就對(duì)相關(guān)的芯片提出了更高的需求。

來(lái)源：搜狐