英特爾推出Loihi 2和全新Lava軟件框架,攜手更多合作伙伴推動(dòng)神經(jīng)擬態(tài)計(jì)算進(jìn)一步發(fā)展
第二代研究芯片采用了預(yù)生產(chǎn)版本的Intel 4制程工藝,可增長至100萬個(gè)神經(jīng)元,并新增開放軟件框架,以加速開發(fā)者創(chuàng)新和商業(yè)化進(jìn)程
英特爾于2021年9月推出其第二代神經(jīng)擬態(tài)研究芯片Loihi 2,支持新型神經(jīng)啟發(fā)算法和應(yīng)用,同時(shí)提供更快的處理能力,更大資源密度和更高能效。(圖片來源:英特爾公司)
今天,英特爾推出第二代神經(jīng)擬態(tài)研究芯片Loihi 2以及用于開發(fā)神經(jīng)啟發(fā)應(yīng)用的開源軟件框架Lava,標(biāo)志著英特爾在先進(jìn)神經(jīng)擬態(tài)技術(shù)上不斷取得進(jìn)展。
英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室總監(jiān) Mike Davies 表示:“Loihi 2和Lava軟件框架從多年來使用Loihi的合作研究項(xiàng)目中收獲洞察。第二代芯片極大地提高了神經(jīng)擬態(tài)處理的速度、可編程性和容量,擴(kuò)大了在功耗和時(shí)延受限的智能計(jì)算應(yīng)用上的用途。英特爾正在開源Lava,以滿足在實(shí)踐中對軟件融合、基準(zhǔn)測試和跨平臺(tái)合作的需求,并加快商業(yè)可行性的進(jìn)程。”
神經(jīng)擬態(tài)計(jì)算借鑒了神經(jīng)系統(tǒng)科學(xué)取得的洞察,開發(fā)出功能更類似大腦的芯片,追求在一系列邊緣應(yīng)用中實(shí)現(xiàn)能效、計(jì)算速度和學(xué)習(xí)效率的數(shù)量級(jí)提升,包括從視覺、語音和手勢識(shí)別到搜索檢索、機(jī)器人和約束優(yōu)化問題。
迄今為止,英特爾及合作伙伴已展示了機(jī)械臂、應(yīng)用神經(jīng)擬態(tài)芯片的人造皮膚和嗅覺傳感等應(yīng)用。
關(guān)于Loihi 2:該款研究芯片整合了過去三年使用第一代研究芯片的收獲,并充分利用英特爾制程技術(shù)和異步時(shí)鐘設(shè)計(jì)模式的進(jìn)展。
Loihi 2的進(jìn)步使該架構(gòu)得以支持新型神經(jīng)啟發(fā)算法和應(yīng)用,提供高達(dá)10倍的處理速度,實(shí)現(xiàn)每個(gè)芯片最多有 100 萬個(gè)神經(jīng)元的高達(dá)15倍的資源密度,并同時(shí)提高能效。得益于與英特爾技術(shù)開發(fā)團(tuán)隊(duì)的密切合作。Loihi 2采用了預(yù)生產(chǎn)版本的Intel 4制程節(jié)點(diǎn),這凸顯出Intel 4制程工藝的良好進(jìn)展。與以往的制程技術(shù)相比,Intel 4制程節(jié)點(diǎn)采用的極紫外光刻(EUV)技術(shù)簡化了布局設(shè)計(jì)規(guī)則,使Loihi 2的快速開發(fā)成為可能。
Lava軟件框架滿足了神經(jīng)擬態(tài)研究社區(qū)對通用軟件框架的需求。作為一個(gè)開放、模塊化、可擴(kuò)展的框架,Lava將允許研究人員和應(yīng)用開發(fā)人員在彼此取得的成果上進(jìn)一步開發(fā),并集中到一組通用的工具、方法和函數(shù)庫中。同時(shí),Lava能夠在跨越傳統(tǒng)和神經(jīng)擬態(tài)處理器的異構(gòu)架構(gòu)上無縫運(yùn)行,實(shí)現(xiàn)跨平臺(tái)執(zhí)行以及與各種人工智能、神經(jīng)擬態(tài)和機(jī)器人框架的互操作性。開發(fā)人員無需使用專門的神經(jīng)擬態(tài)硬件即可開始構(gòu)建神經(jīng)擬態(tài)應(yīng)用,并且可以為Lava代碼庫做出貢獻(xiàn),包括將其移植到其他平臺(tái)上運(yùn)行。
洛斯阿拉莫斯國家實(shí)驗(yàn)室科學(xué)家Gerd J. Kunde提到:“洛斯阿拉莫斯國家實(shí)驗(yàn)室的研究人員一直在使用Loihi神經(jīng)擬態(tài)平臺(tái)來研究量子計(jì)算與神經(jīng)擬態(tài)計(jì)算之間的權(quán)衡,并在芯片級(jí)上實(shí)現(xiàn)學(xué)習(xí)流程。這項(xiàng)研究顯示了脈沖神經(jīng)網(wǎng)絡(luò)和量子退火路徑在解決硬優(yōu)化問題上一些激動(dòng)人心的等效性。除此之外,我們還證明了之前被認(rèn)為無法在神經(jīng)擬態(tài)架構(gòu)上實(shí)現(xiàn)的反向傳播算法(訓(xùn)練神經(jīng)網(wǎng)絡(luò)的基本構(gòu)建模塊)可以在Loihi上高效地實(shí)現(xiàn)。我們的團(tuán)隊(duì)很高興能夠借助Loihi 2芯片繼續(xù)進(jìn)行這項(xiàng)研究?!?
關(guān)鍵突破:Loihi 2和Lava為研究人員開發(fā)并塑造新的神經(jīng)啟發(fā)應(yīng)用提供了工具,用于實(shí)時(shí)處理、問題解決、適應(yīng)和學(xué)習(xí)。顯著的技術(shù)亮點(diǎn)包括:
更快、更通用的優(yōu)化:Loihi 2更出色的可編程性將幫助解決更廣泛的艱難優(yōu)化問題,包括從邊緣到數(shù)據(jù)中心系統(tǒng)的實(shí)時(shí)優(yōu)化、規(guī)劃和決策。
持續(xù)學(xué)習(xí)和關(guān)聯(lián)學(xué)習(xí)的新方法:Loihi 2改進(jìn)了對高級(jí)學(xué)習(xí)方法的支持,包括了各種反向傳播算法(深度學(xué)習(xí)的主力算法)。這擴(kuò)大了適應(yīng)性和數(shù)據(jù)高效學(xué)習(xí)算法的范圍,使低功耗設(shè)備能支持這些在線學(xué)習(xí)算法。
可通過深度學(xué)習(xí)進(jìn)行訓(xùn)練的新型神經(jīng)網(wǎng)絡(luò):Loihi 2中的完全可編程神經(jīng)元模型和廣泛的脈沖信息傳遞,為各種可在深度學(xué)習(xí)中進(jìn)行訓(xùn)練的新型神經(jīng)網(wǎng)絡(luò)模型打開了大門。早期的評(píng)估表明,與在原始版本的Loihi上運(yùn)行的標(biāo)準(zhǔn)深度網(wǎng)絡(luò)相比,在準(zhǔn)確性沒有降低的情況下,Loihi 2 上每次推理的運(yùn)算次數(shù)減少了 60 多倍。
與現(xiàn)實(shí)世界的機(jī)器人系統(tǒng)、傳統(tǒng)處理器和新型傳感器無縫集成:Loihi 2通過整合更快、更靈活和更標(biāo)準(zhǔn)的輸入/輸出接口,解決了Loihi中客觀存在的一處局限。Loihi 2芯片將支持以太網(wǎng)接口,與更廣泛的基于事件的視覺傳感器實(shí)現(xiàn)無膠合集成,同時(shí)Loihi 2芯片還擁有更大的網(wǎng)狀網(wǎng)絡(luò)。
關(guān)于英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC):英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)已增加到約 150 個(gè)成員機(jī)構(gòu),今年新增的成員包括福特(Ford)、佐治亞理工學(xué)院(Georgia Institute of Technology)、美國西南研究院(SwRI)、美國菲力爾公司(Teledyne FLIR)。新合作伙伴加入了一個(gè)由學(xué)術(shù)團(tuán)體、政府實(shí)驗(yàn)室和行業(yè)伙伴組成的強(qiáng)大社區(qū),它們將與英特爾攜手推動(dòng)神經(jīng)擬態(tài)計(jì)算商業(yè)應(yīng)用的實(shí)際落地。
“Loihi 2和Lava API取得的進(jìn)展是神經(jīng)擬態(tài)計(jì)算的關(guān)鍵一環(huán)。下一代神經(jīng)擬態(tài)架構(gòu)對于埃森哲研究室推動(dòng)類腦計(jì)算機(jī)視覺算法至關(guān)重要,這些算法用于智能邊緣計(jì)算,可以對未來的擴(kuò)展現(xiàn)實(shí)頭盔或智能移動(dòng)機(jī)器人的開發(fā)提供動(dòng)力。新芯片提供的功能將大大提升超維計(jì)算的效率,并提供更高級(jí)的片上學(xué)習(xí)能力,而Lava API為開發(fā)人員提供了一個(gè)更簡單、更流暢的接口來構(gòu)建神經(jīng)擬態(tài)系統(tǒng)?!薄I芗夹g(shù)研究院首席研究科學(xué)家、創(chuàng)新發(fā)展與戰(zhàn)略總監(jiān)Edy Liongosari
商業(yè)化之路:先進(jìn)的神經(jīng)擬態(tài)計(jì)算從實(shí)驗(yàn)室研究走向商業(yè)應(yīng)用需要“三管齊下”。首先,需要根據(jù)算法和應(yīng)用研究的結(jié)果對神經(jīng)擬態(tài)硬件進(jìn)行持續(xù)地迭代改進(jìn)。其次,還需要開發(fā)通用的跨平臺(tái)軟件框架,以便開發(fā)人員可以對來自不同開發(fā)群體的最佳算法理念進(jìn)行基準(zhǔn)測試、整合和改進(jìn);最后,產(chǎn)業(yè)界、學(xué)術(shù)界和政府領(lǐng)域之間要深入合作,建立一個(gè)豐富、高效的神經(jīng)擬態(tài)生態(tài)系統(tǒng),以探索近期可實(shí)現(xiàn)商業(yè)價(jià)值的落地。
英特爾今天發(fā)布的消息涵蓋所有這些領(lǐng)域,將新工具交付到不斷壯大的神經(jīng)擬態(tài)生態(tài)系統(tǒng)研究人員手中。他們將在此基礎(chǔ)上重新思考計(jì)算,從而實(shí)現(xiàn)智能信息處理方面的突破。
英特爾目前通過神經(jīng)擬態(tài)研究云服務(wù)向加入英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)的成員提供兩個(gè)基于Loihi 2的神經(jīng)擬態(tài)系統(tǒng):用于早期評(píng)估的單芯片系統(tǒng)Oheo Gulch和即將開放的八芯片系統(tǒng)Kapoho Point。Lava 軟件框架可在GitHub 上免費(fèi)下載。Loihi 2和Lava的演示教程將在10月舉辦的“Intel Innovation”活動(dòng)中呈現(xiàn)。