日前,南京大學與英特爾攜手舉行了人工智能IPCC中心揭牌儀式,這是英特爾在國內(nèi)第一家以人工智能為主要方向的IPCC(Intel Parallel Computing Centers)。該人工智能IPCC中心將重點關(guān)注機器學習最新的技術(shù)研究,包括由南京大學人工智能學院院長周志華教授提出的新一代深度學習模型——深度森林。
對于此次聯(lián)手,南京大學人工智能學院院長周志華教授表示,和英特爾的合作將進一步推動機器學習算法上的研究,同時也提升了對芯片和硬件架構(gòu)研究的影響 。而且,通過和英特爾的合作,也將進一步幫助南大的研究成果推向產(chǎn)業(yè)化應(yīng)用。
英特爾中國研究院院長宋繼強認為深度學習需要大量標注好的數(shù)據(jù),深度森林就是一個很好的創(chuàng)新,它在少量數(shù)據(jù)上也能使用,并有可能轉(zhuǎn)換成可理解的知識,其應(yīng)用領(lǐng)域也得到了擴展,能夠直達感知和決策層,為算法加硬件的螺旋式上升奠定基礎(chǔ)。
深度森林:首個非深度神經(jīng)網(wǎng)絡(luò)算法模型
眾所周知,深度神經(jīng)網(wǎng)絡(luò)是由多層的、可參數(shù)化以及可微分的非線性模塊所構(gòu)建,它需要用誤差反向傳播來訓練,但是由于深度學習需要使用大量標注好、結(jié)構(gòu)化的數(shù)據(jù)進行訓練。在圖像、語音、視頻之外的任務(wù)上,深度神經(jīng)網(wǎng)絡(luò)未必是最佳的選擇。為此,周志華教授曾提出一個問題:“當我們重新審視神經(jīng)網(wǎng)絡(luò)模型的時候,是不是可以基于‘不可微’構(gòu)件進行深度學習?”
基于對深度學習的反思,周教授提出了“深度森林”模型,這是一種決策樹集成方法,也是第一個‘非神經(jīng)網(wǎng)絡(luò)’、不使用反向傳播算法、甚至不需要梯度計算訓練的深度學習模型,其性能較之深度神經(jīng)網(wǎng)絡(luò)有很強的競爭力。
簡而言之,在很多處理任務(wù)上,深度森林的性能和深度神經(jīng)網(wǎng)絡(luò)接近,同時它還有自己的優(yōu)勢:在一些非數(shù)值建模的任務(wù)上,比如符號信息、離散信息的混合建模任務(wù)上,周教授曾表示深度森林這一類的模型可能有它比較好的前景。目前,該套模型的大型分布式已經(jīng)應(yīng)用在螞蟻金服的反套現(xiàn)檢測上,并實測取得了目前最好的性能。
深度森林模型的提出也是對當下機器學習新的發(fā)展方向和路徑的探索。目前,除了傳統(tǒng)的監(jiān)督式學習之外,周志華教授領(lǐng)銜的南大AI研究院也在研究只需要少量標注數(shù)據(jù)的弱監(jiān)督學習以及開放環(huán)境的學習。
英特爾的AI布局
伴隨著深度學習模型的深化和算力需求的提升,AI處理器芯片成了業(yè)內(nèi)關(guān)注的重點。為了迎接這一波AI浪潮,英特爾一直在基于深度學習的神經(jīng)網(wǎng)絡(luò)處理器上深耕。其在AI方面的布局最早可以追溯到2015年,當時它們收購了全球第二大FPGA廠商Altera,之后又陸陸續(xù)續(xù)收購了視覺處理芯片公司Movidius、神經(jīng)網(wǎng)絡(luò)處理器公司Nervana、以及自動駕駛芯片公司Mobileye。
就在今年8月,英特爾在深度學習領(lǐng)域再下一城,收購了深度學習初創(chuàng)公司Vertex.AI,這家公司主要研發(fā)基于深度學習的編譯工具,此次收購的目的就是為了強化英特爾的Movidius團隊。
英特爾中國研究院院長宋繼強此前在CAIS2018峰會上表示,真正的人工智能計算一定要能夠做感知、決策和行動三個層面,而英特爾可以根據(jù)對計算的需求,快速改變芯片之間搭配、組合、聯(lián)通的方式,整個計算系統(tǒng)的模式可以跟著AI算法要求演進變化。
據(jù)了解,英特爾在人工智能芯片上的布局主要分為四類,分別為Xeon芯片系列、Nervana NNP系列、Movidius的視覺芯片VPU、以及FPGA。其中,Xeon處理器主要應(yīng)用在訓練和推理等領(lǐng)域;Nervana NNP則被用于大量的深度學習訓練中,其能夠降低每次運算的能耗,同時通過帶寬提升,擴大芯片中處理矩陣乘積和卷積運算的區(qū)域,從而提升計算性能和靈活性。目前,從硬件、開源框架到平臺,英特爾已經(jīng)形成了一套完整的AI全棧解決方案。
強強聯(lián)手,南京大學和英特爾達成產(chǎn)學研閉環(huán)
今年3月5日,南京大學下文成立人工智能學院,由周志華教授擔任院長。作為國內(nèi)首個成立人工智能學院的C9類、雙一流高校,南大人工智能學院的每一步動作都備受關(guān)注。在過去一段時間內(nèi),京東、科沃斯、曠視等多家企業(yè)在南大附近建立了人工智能研究院,并且與學院簽約成為學生實訓基地,探索AI技術(shù)和產(chǎn)業(yè)的深度融合。
早前記者采訪周志華教授的時候,他表示,接觸產(chǎn)業(yè)真實的問題,也是南京大學人工智能學院人才培養(yǎng)方案中強調(diào)的部分。我們希望學生能夠在學習過程中較早地接觸一些應(yīng)用問題,甚至能拿到真實數(shù)據(jù)、真實企業(yè)案例來做課程研究。
借助和企業(yè)的合作,高校與企業(yè)形成了“價值閉環(huán)”。通過這一平臺,學生能更好地獲得應(yīng)用實踐經(jīng)驗,并為自己的未來走向提供參考;學院能夠真正做到補缺AI人才漏洞,幫助學生更好認知自己、認知社會;企業(yè)則能夠在技術(shù)研發(fā)等方面直接或間接獲得實習生、老師或?qū)W院的幫助。
此次南京大學和英特爾的合作,即是南大AI學術(shù)研究的一次實踐,英特爾可以為南大的機器學習研究提供先進的硬件架構(gòu)和技術(shù)支持,并增強該方面進展對新型硬件芯片設(shè)計和產(chǎn)業(yè)應(yīng)用方面的影響,同時為學院在智能硬件方面的課程建設(shè)提供支持,促進軟硬件工程能力兼?zhèn)涞膬?yōu)秀人工智能人才的培養(yǎng)。正如宋繼強院長所言,南大的學生基礎(chǔ)好、能力強、學術(shù)視野開闊。同時,當前產(chǎn)業(yè)應(yīng)用的需求高,英特爾和南大的攜手,既能夠帶來最先進學術(shù)研究服務(wù)產(chǎn)業(yè),也可以讓學生了解到最新的硬件和技術(shù)發(fā)展。