人工智能技術(AI)現在已是如火如荼的發(fā)展著,各種傳感器,機器學習,外圍設備五花八門,然而，其核心的數據處理硬件架構仍基于經典的馮·諾依曼結構。馮·諾依曼結構已有七八十年歷史,這就好比已經直立行走的智人,仍長著一顆猩猩的腦袋。這就出現了馮·諾依曼瓶頸,也就是說CPU再快,也要等內存,因為CPU和內存之間的性能差距越來越大。

馮·諾依曼結構

馮·諾依曼結構中,計算模塊和存儲單元是分離的,CPU在執(zhí)行命令時必須先從存儲單元中讀取數據。每一項任務,如果有十個步驟,那么CPU會依次進行十次讀取,執(zhí)行,再讀取,再執(zhí)行。.. 這就造成了延時,以及大量功耗(80%)花費在了數據讀取上,當然多核、多CPU或一些常用數據的就地存儲會一定程度上緩解這些問題,但這種中心處理的架構會限制處理能力的進一步發(fā)展,好比諾大個北京城,如果所有的政治、經濟、文化活動都集中在市中心,為了生活,人們必須穿城而過,任你路修到二十環(huán),還是一個詞,堵死。

學術界和工業(yè)界出現了向人類大腦學習體系結構的趨勢,大腦的處理單元是神經元,內存就是突觸。神經元和突觸是物理相連的,所以每個神經元計算都是本地的,而且從全局來看神經元們是分布式在工作。

神經元和突觸

前幾年轟動全球的IBM的仿人腦芯片TrueNorth也模仿了人類大腦的神經元結構,它的計算效率和可擴展性都遠超現在的計算機,并且宣稱可用于手勢識別、情緒識別、圖像分類和對象追蹤、實時語音識別等領域。而記者采訪的團隊AI-CTX,他們的模型基于億萬個可以相互連接的仿生神經元,每個神經元都具有跟人腦神經元類似的電學特性與動態(tài)參數,具有簡單的運算與存儲功能,這些神經元像大腦神經元一樣,通過脈沖相互溝通。

在現實層面,他們的每個芯片可以搭載百萬個神經元,億萬個神經突觸,可以自由擴展的芯片網絡又如同大腦皮層的不同的區(qū)域,分別在不同的層級上, 可以并行的,同時的處理任務,從而指數型地提高了數據處理的效率。又因各個指令及相應數據都存儲在同一芯片中,所有的計算資源不會因為等待存儲訪問而導致浪費,功耗也比現在基于馮·諾依曼硬件架構的處理器低兩到三個數量級。

看看Alpha Go,下一場棋耗電幾千瓦,而李世石,大腦只耗20瓦,所以雖然輸了,但人類的尊嚴還算沒有低到塵埃里。

李世石對陣Alpha Go

除了運算速度快,能耗低,團隊還有一項核心的IP,就是一種特殊的布線方式,使各芯片之間的交流可以突破物理限制,無限的增加新的芯片于原有網絡,這樣,運算能力也可無限增加。而傳統的馮·諾依曼結構,如果要增加CPU的數量,那么CPU之間的溝通是越發(fā)困難的,因為運算能力有其上限。在處理AI領域數據上,AI-CTX團隊基于仿生神經網絡設計出芯片架構比之馮·諾依曼結構無疑是革命性的,那么市場上是否有用類似方案的對手呢?

與IBM TrueNorth芯片的對比

CTO 喬寧很自信的說:“Intel,三星等正在研發(fā)的加速器類產品在實時處理動態(tài)數據速度上比我們慢,能耗還高一個數量級。而跟IBM的TrueNorth芯片相比,我們的模擬神經元具有更復雜的非線性參數,硅面積只有IBM的0.5%,能耗只有10%,基于我們的芯片架構,每個神經元能輕松建立多達8千個連接,而現有IBM Truenorth 芯片只有256個連接。而且我們第一代原型一出來就已經有訂單了!”

當然,我們也要在這里指出,三星的加速器是做靜態(tài)圖像處理,TrueNorth是一個通用實驗芯片,不專門針對任何應用,雖然已經有不少人在開發(fā)相應的芯片應用(識別,追蹤,決策)。

AI-CTX的芯片不適合處理靜態(tài)硬盤數據(靜態(tài)圖片及數據),但非常擅長于處理包含時間信息的數據,比如,動態(tài)的傳感器數據,自然界的自然信號(溫度,氣壓),人體信號(心跳EEG),網絡數據,IoT,股票高速決策等數據的處理。

AI-CTX目前的主要切入的應用場景包括實時在線(always-on)的應用,比如低功耗的智能便攜設備,移動設備,健康檢測EEG,IoT設備,網絡安全等。還有另一塊是高速低功耗應用,比如自動駕駛,手勢識別,聲音識別等。更長遠來看可以用于大數據處理和深度學習等領域。