為快速成長的人工智能(artificial intelligence;AI)應(yīng)用實現(xiàn)高效率的運算性能，必須解決“內(nèi)存墻”(memory wall)的瓶頸，并推動新的架構(gòu)解決方案;這是法國CEA Tech旗下技術(shù)研究機構(gòu)Leti關(guān)注的重點領(lǐng)域。

Leti首席執(zhí)行官Emmanuel Sabonnadiere在Leti年度創(chuàng)新會議上接受《EE Times》訪問時表示，業(yè)界需要一種高度整合的整體途徑，將AI從軟件和云端移至邊緣(edge)的嵌入式芯片。

Sabonnadiere說：“邊緣確實需要一些創(chuàng)新，采用除了CMOS以外的不同架構(gòu)，從結(jié)構(gòu)上整合至系統(tǒng)，并從云端實現(xiàn)自主性——例如針對自動駕駛車，您需要云端盡可能地獨立作業(yè)。”

他認為恩智浦(NXP)可望成為驅(qū)動在邊緣實現(xiàn)更多運算的一項關(guān)鍵指標，因而針對高通(Qualcomm)并購恩智浦一案發(fā)表評論：“你覺得高通為什么要買下恩智浦?它是為了(邊緣運算)的感測，而將數(shù)位置于感測之后。”

Emmanuel Sabonnadiere

為了解決運算架構(gòu)典范，Sabonnadiere期望能在Leti與斯坦福大學(xué)(Stanford University)電氣工程和計算機科學(xué)系教授Subhasish Mitra帶領(lǐng)的團隊合作中取得一些突破。Mitra的研究已經(jīng)進展一段時間了，專注于為龐大資料和密集互連應(yīng)用探索內(nèi)存內(nèi)處理(processing-in-memory)的新架構(gòu)。這項研究獲得了美國國防部先進研究計劃局(DARPA)、國家科學(xué)基金會(NSF)、Semiconductor Research、STARnet SONIC和斯坦福大學(xué)SystemX聯(lián)盟的成員公司共同資助。

Sabonnadiere談到芯片驗證時說：“我們深信這是解決‘超越摩爾定律’(more-than-Moore)挑戰(zhàn)的前進方向，并且已經(jīng)要求Mitra教授打造這一研究展示了。”

在會議上，Mitra表示，龐大的資料超級風(fēng)暴正襲卷而來，而其運算需求遠超過處理能力，因此必須使用支持先進3D整合的運算納米系統(tǒng)架構(gòu)。

Mitra說：“數(shù)據(jù)必須經(jīng)過處理才能創(chuàng)造決策，但目前還有太多我們無法處理的‘暗黑’數(shù)據(jù)。以Facebook為例，它必須采用256個Tesla P100 GPU，才能在1小時訓(xùn)練好ImageNet，這在以前大約需要幾天的時間。”

提高運算性能的選擇

那么目前提高運算性能的選擇是什么?Mitra說，其一是要有一個更好的邏輯開關(guān)——但這方面的實驗展示并不多。第二種是使用設(shè)計“技巧”，例如多核心、加速器或電源管理技巧。但他也補充說，可用的技巧并不多，而且當(dāng)實施這些技巧而使設(shè)計變得更復(fù)雜，甚至?xí)跪炞C變得更困難。另一個挑戰(zhàn)則是Mitra所謂的“內(nèi)存墻”。

Mitra說：“各種類型的龐大數(shù)據(jù)應(yīng)用中，一個共同點就在于內(nèi)存墻——系統(tǒng)需要更有力地存取內(nèi)存。”

Mitra說，這就是專注于內(nèi)存的運算概念所在，也是與Leti合作的關(guān)注重點——Sabonnadiere希望將在這方面取得突破。它使用先進3D整合使得運算更接近于數(shù)據(jù)。該芯片采用碳納米管(CNT)，因為Mitra表示它們是唯一可以超越CMOS和電阻式隨機存取內(nèi)存(RRAM)的技術(shù)。

Subhasish Mitra

RRAM和碳納米管彼此垂直建構(gòu)，形成具有邏輯層和內(nèi)存層交錯的密集3D計算機架構(gòu)。在這些分層之間插入超密走線，應(yīng)該就能以這種3D架構(gòu)解決通訊的瓶頸。

Mitra將這個問題比喻為從舊金山(San Francisco)到加州伯克利(Berkeley)之間的交通挑戰(zhàn)——由于只有三座橋梁可以穿越兩個都市，因而造成了交通堵塞。然而，如果打造更多的橋梁——或者在他提出的3D架構(gòu)情況下，就能夠解決多納米級交錯層間過孔的瓶頸。

內(nèi)存和軟件2.0的突破

Leti首席科學(xué)家Barbara De Salvo表示，業(yè)界并未充份重視新興內(nèi)存技術(shù)，這些技術(shù)通常仍被視為利基技術(shù)。

Barbara De Salvo

De Salvo說：“在內(nèi)存領(lǐng)域，業(yè)界仍持續(xù)采用傳統(tǒng)技術(shù)。而像電阻式RAM、磁阻式RAM和相變內(nèi)存等新興技術(shù)仍未被充份利用。但它可望在實現(xiàn)新型架構(gòu)方面帶來巨大突破。”De Salvo并補充說，在未來幾年，在軟件中使用深度學(xué)習(xí)和AI也可能中在運算方面取得重大突破。

她說：“我指的是一個使用深度學(xué)習(xí)和機器學(xué)習(xí)來開發(fā)軟件的新概念。軟件是一個系統(tǒng)中最昂貴的部份之一。透過使用深度學(xué)習(xí)產(chǎn)生軟件，以前需要花六個月的一些任務(wù)現(xiàn)在可以只需要幾天的時間。”