英特爾推出Loihi 2和全新Lava軟件框架,攜手更多合作伙伴推動(dòng)神經(jīng)擬態(tài)計(jì)算進(jìn)一步發(fā)展
第二代研究芯片采用了預(yù)生產(chǎn)版本的Intel 4制程工藝,可增長(zhǎng)至100萬(wàn)個(gè)神經(jīng)元,并新增開(kāi)放軟件框架,以加速開(kāi)發(fā)者創(chuàng)新和商業(yè)化進(jìn)程
英特爾于2021年9月推出其第二代神經(jīng)擬態(tài)研究芯片Loihi 2,支持新型神經(jīng)啟發(fā)算法和應(yīng)用,同時(shí)提供更快的處理能力,更大資源密度和更高能效。(圖片來(lái)源:英特爾公司)
今天,英特爾推出第二代神經(jīng)擬態(tài)研究芯片Loihi 2以及用于開(kāi)發(fā)神經(jīng)啟發(fā)應(yīng)用的開(kāi)源軟件框架Lava,標(biāo)志著英特爾在先進(jìn)神經(jīng)擬態(tài)技術(shù)上不斷取得進(jìn)展。
英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室總監(jiān) Mike Davies 表示:“Loihi 2和Lava軟件框架從多年來(lái)使用Loihi的合作研究項(xiàng)目中收獲洞察。第二代芯片極大地提高了神經(jīng)擬態(tài)處理的速度、可編程性和容量,擴(kuò)大了在功耗和時(shí)延受限的智能計(jì)算應(yīng)用上的用途。英特爾正在開(kāi)源Lava,以滿(mǎn)足在實(shí)踐中對(duì)軟件融合、基準(zhǔn)測(cè)試和跨平臺(tái)合作的需求,并加快商業(yè)可行性的進(jìn)程?!?
神經(jīng)擬態(tài)計(jì)算借鑒了神經(jīng)系統(tǒng)科學(xué)取得的洞察,開(kāi)發(fā)出功能更類(lèi)似大腦的芯片,追求在一系列邊緣應(yīng)用中實(shí)現(xiàn)能效、計(jì)算速度和學(xué)習(xí)效率的數(shù)量級(jí)提升,包括從視覺(jué)、語(yǔ)音和手勢(shì)識(shí)別到搜索檢索、機(jī)器人和約束優(yōu)化問(wèn)題。
迄今為止,英特爾及合作伙伴已展示了機(jī)械臂、應(yīng)用神經(jīng)擬態(tài)芯片的人造皮膚和嗅覺(jué)傳感等應(yīng)用。
關(guān)于Loihi 2:該款研究芯片整合了過(guò)去三年使用第一代研究芯片的收獲,并充分利用英特爾制程技術(shù)和異步時(shí)鐘設(shè)計(jì)模式的進(jìn)展。
Loihi 2的進(jìn)步使該架構(gòu)得以支持新型神經(jīng)啟發(fā)算法和應(yīng)用,提供高達(dá)10倍的處理速度,實(shí)現(xiàn)每個(gè)芯片最多有 100 萬(wàn)個(gè)神經(jīng)元的高達(dá)15倍的資源密度,并同時(shí)提高能效。得益于與英特爾技術(shù)開(kāi)發(fā)團(tuán)隊(duì)的密切合作。Loihi 2采用了預(yù)生產(chǎn)版本的Intel 4制程節(jié)點(diǎn),這凸顯出Intel 4制程工藝的良好進(jìn)展。與以往的制程技術(shù)相比,Intel 4制程節(jié)點(diǎn)采用的極紫外光刻(EUV)技術(shù)簡(jiǎn)化了布局設(shè)計(jì)規(guī)則,使Loihi 2的快速開(kāi)發(fā)成為可能。
Lava軟件框架滿(mǎn)足了神經(jīng)擬態(tài)研究社區(qū)對(duì)通用軟件框架的需求。作為一個(gè)開(kāi)放、模塊化、可擴(kuò)展的框架,Lava將允許研究人員和應(yīng)用開(kāi)發(fā)人員在彼此取得的成果上進(jìn)一步開(kāi)發(fā),并集中到一組通用的工具、方法和函數(shù)庫(kù)中。同時(shí),Lava能夠在跨越傳統(tǒng)和神經(jīng)擬態(tài)處理器的異構(gòu)架構(gòu)上無(wú)縫運(yùn)行,實(shí)現(xiàn)跨平臺(tái)執(zhí)行以及與各種人工智能、神經(jīng)擬態(tài)和機(jī)器人框架的互操作性。開(kāi)發(fā)人員無(wú)需使用專(zhuān)門(mén)的神經(jīng)擬態(tài)硬件即可開(kāi)始構(gòu)建神經(jīng)擬態(tài)應(yīng)用,并且可以為L(zhǎng)ava代碼庫(kù)做出貢獻(xiàn),包括將其移植到其他平臺(tái)上運(yùn)行。
洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室科學(xué)家Gerd J. Kunde提到:“洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室的研究人員一直在使用Loihi神經(jīng)擬態(tài)平臺(tái)來(lái)研究量子計(jì)算與神經(jīng)擬態(tài)計(jì)算之間的權(quán)衡,并在芯片級(jí)上實(shí)現(xiàn)學(xué)習(xí)流程。這項(xiàng)研究顯示了脈沖神經(jīng)網(wǎng)絡(luò)和量子退火路徑在解決硬優(yōu)化問(wèn)題上一些激動(dòng)人心的等效性。除此之外,我們還證明了之前被認(rèn)為無(wú)法在神經(jīng)擬態(tài)架構(gòu)上實(shí)現(xiàn)的反向傳播算法(訓(xùn)練神經(jīng)網(wǎng)絡(luò)的基本構(gòu)建模塊)可以在Loihi上高效地實(shí)現(xiàn)。我們的團(tuán)隊(duì)很高興能夠借助Loihi 2芯片繼續(xù)進(jìn)行這項(xiàng)研究?!?
關(guān)鍵突破:Loihi 2和Lava為研究人員開(kāi)發(fā)并塑造新的神經(jīng)啟發(fā)應(yīng)用提供了工具,用于實(shí)時(shí)處理、問(wèn)題解決、適應(yīng)和學(xué)習(xí)。顯著的技術(shù)亮點(diǎn)包括:
更快、更通用的優(yōu)化:Loihi 2更出色的可編程性將幫助解決更廣泛的艱難優(yōu)化問(wèn)題,包括從邊緣到數(shù)據(jù)中心系統(tǒng)的實(shí)時(shí)優(yōu)化、規(guī)劃和決策。
持續(xù)學(xué)習(xí)和關(guān)聯(lián)學(xué)習(xí)的新方法:Loihi 2改進(jìn)了對(duì)高級(jí)學(xué)習(xí)方法的支持,包括了各種反向傳播算法(深度學(xué)習(xí)的主力算法)。這擴(kuò)大了適應(yīng)性和數(shù)據(jù)高效學(xué)習(xí)算法的范圍,使低功耗設(shè)備能支持這些在線學(xué)習(xí)算法。
可通過(guò)深度學(xué)習(xí)進(jìn)行訓(xùn)練的新型神經(jīng)網(wǎng)絡(luò):Loihi 2中的完全可編程神經(jīng)元模型和廣泛的脈沖信息傳遞,為各種可在深度學(xué)習(xí)中進(jìn)行訓(xùn)練的新型神經(jīng)網(wǎng)絡(luò)模型打開(kāi)了大門(mén)。早期的評(píng)估表明,與在原始版本的Loihi上運(yùn)行的標(biāo)準(zhǔn)深度網(wǎng)絡(luò)相比,在準(zhǔn)確性沒(méi)有降低的情況下,Loihi 2 上每次推理的運(yùn)算次數(shù)減少了 60 多倍。
與現(xiàn)實(shí)世界的機(jī)器人系統(tǒng)、傳統(tǒng)處理器和新型傳感器無(wú)縫集成:Loihi 2通過(guò)整合更快、更靈活和更標(biāo)準(zhǔn)的輸入/輸出接口,解決了Loihi中客觀存在的一處局限。Loihi 2芯片將支持以太網(wǎng)接口,與更廣泛的基于事件的視覺(jué)傳感器實(shí)現(xiàn)無(wú)膠合集成,同時(shí)Loihi 2芯片還擁有更大的網(wǎng)狀網(wǎng)絡(luò)。
關(guān)于英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC):英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)已增加到約 150 個(gè)成員機(jī)構(gòu),今年新增的成員包括福特(Ford)、佐治亞理工學(xué)院(Georgia Institute of Technology)、美國(guó)西南研究院(SwRI)、美國(guó)菲力爾公司(Teledyne FLIR)。新合作伙伴加入了一個(gè)由學(xué)術(shù)團(tuán)體、政府實(shí)驗(yàn)室和行業(yè)伙伴組成的強(qiáng)大社區(qū),它們將與英特爾攜手推動(dòng)神經(jīng)擬態(tài)計(jì)算商業(yè)應(yīng)用的實(shí)際落地。
“Loihi 2和Lava API取得的進(jìn)展是神經(jīng)擬態(tài)計(jì)算的關(guān)鍵一環(huán)。下一代神經(jīng)擬態(tài)架構(gòu)對(duì)于埃森哲研究室推動(dòng)類(lèi)腦計(jì)算機(jī)視覺(jué)算法至關(guān)重要,這些算法用于智能邊緣計(jì)算,可以對(duì)未來(lái)的擴(kuò)展現(xiàn)實(shí)頭盔或智能移動(dòng)機(jī)器人的開(kāi)發(fā)提供動(dòng)力。新芯片提供的功能將大大提升超維計(jì)算的效率,并提供更高級(jí)的片上學(xué)習(xí)能力,而Lava API為開(kāi)發(fā)人員提供了一個(gè)更簡(jiǎn)單、更流暢的接口來(lái)構(gòu)建神經(jīng)擬態(tài)系統(tǒng)。”——埃森哲技術(shù)研究院首席研究科學(xué)家、創(chuàng)新發(fā)展與戰(zhàn)略總監(jiān)Edy Liongosari
商業(yè)化之路:先進(jìn)的神經(jīng)擬態(tài)計(jì)算從實(shí)驗(yàn)室研究走向商業(yè)應(yīng)用需要“三管齊下”。首先,需要根據(jù)算法和應(yīng)用研究的結(jié)果對(duì)神經(jīng)擬態(tài)硬件進(jìn)行持續(xù)地迭代改進(jìn)。其次,還需要開(kāi)發(fā)通用的跨平臺(tái)軟件框架,以便開(kāi)發(fā)人員可以對(duì)來(lái)自不同開(kāi)發(fā)群體的最佳算法理念進(jìn)行基準(zhǔn)測(cè)試、整合和改進(jìn);最后,產(chǎn)業(yè)界、學(xué)術(shù)界和政府領(lǐng)域之間要深入合作,建立一個(gè)豐富、高效的神經(jīng)擬態(tài)生態(tài)系統(tǒng),以探索近期可實(shí)現(xiàn)商業(yè)價(jià)值的落地。
英特爾今天發(fā)布的消息涵蓋所有這些領(lǐng)域,將新工具交付到不斷壯大的神經(jīng)擬態(tài)生態(tài)系統(tǒng)研究人員手中。他們將在此基礎(chǔ)上重新思考計(jì)算,從而實(shí)現(xiàn)智能信息處理方面的突破。
英特爾目前通過(guò)神經(jīng)擬態(tài)研究云服務(wù)向加入英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)的成員提供兩個(gè)基于Loihi 2的神經(jīng)擬態(tài)系統(tǒng):用于早期評(píng)估的單芯片系統(tǒng)Oheo Gulch和即將開(kāi)放的八芯片系統(tǒng)Kapoho Point。Lava 軟件框架可在GitHub 上免費(fèi)下載。Loihi 2和Lava的演示教程將在10月舉辦的“Intel Innovation”活動(dòng)中呈現(xiàn)。