北大CodeShell現(xiàn)身英特爾新品發(fā)布會,展現(xiàn)其卓越性能
每當我們提到大模型,通常會聯(lián)想到龐大的數(shù)據中心機房內高性能服務器,或者是動輒數(shù)萬元的臺式機工作站。隨著英特爾酷睿Ultra系列處理器的發(fā)布,大模型的運行環(huán)境將發(fā)生翻天覆地的變化。在酷睿Ultra新品發(fā)布活動上,CodeShell多語言代碼大模型搬進了輕薄的筆記本電腦內,這意味著未來的大模型運行,不一定只依賴于服務器或臺式機,隨身攜帶的輕薄筆記本也可以成為大模型運行的主戰(zhàn)場。
CodeShell生來強大
CodeShell大模型可以看成一個擅長編寫代碼、檢查代碼缺陷,并完成修復、測試的AI代碼助手。在這套大模型的幫助下,開發(fā)團隊可以將開發(fā)的重心從繁重的代碼編寫、Bug修復中脫離出來,集中資源用在更重要的功能規(guī)劃、創(chuàng)意實現(xiàn)等推動軟件研發(fā)進程的工作中。
而事實上CodeShell在業(yè)內頗負盛名,它由北京大學知識計算實驗室研發(fā),截止今年11月份的Hugging Face國際權威開源代碼大模型榜單中,CodeShell在同等規(guī)模的多語言代碼大模型中排名第一。同步開源代碼智能助手系列解決方案,開源VS Code與JetBrains IDE插件,覆蓋代碼生成、代碼缺陷檢測與修復、測試用例生成等常見軟件開發(fā)活動。
目前為止,北京大學知識計算實驗室開發(fā)團隊以CodeShell為基礎擴展了一系列優(yōu)秀應用。包括以GPT-2為基礎,引入Grouped-Query Attention和ROPE位置編碼,最終形成了高性能且易于擴展上下文窗口獨特架構、擁有強大性能的CodeShell-Base代碼基座大模型。也包括面向真實的軟件開發(fā)場景,通過高效微調,訓練了支持對話、代碼生成、代碼補齊、代碼注釋、代碼檢查與測試用例生成的全能代碼助手模型CodeShell-Chat。
CodeShell強大性能還遠不止這些。針對模型訓練評估基準無法準確反映其真實能力,評估場景與實際開發(fā)環(huán)境脫節(jié)等問題,CodeShell團隊提出了一個包含完整程序上下文的多任務編程模型評估基準,該基準提供了完整的程序上下文信息,涵蓋了包括代碼生成、測試用例生成、缺陷檢測、缺陷修復等常見的軟件工程任務。
重要的是,CodeShell大模型已經能夠在輕薄筆記本上部署和運行。未來也可能進一步加強合作,在公眾面前展示強大性能拭目以待。
AI PC將蓄勢待發(fā)
在今年9月份硅谷舉行的英特爾On技術創(chuàng)新峰會上,英特爾CEO帕特·基辛格正式提出了AI PC概念。這是一套將基于全新酷睿Ultra系列處理器,在離線狀態(tài)下也能輕松運行AI的移動端PC解決方案,從而讓AI生產力與用戶體驗、創(chuàng)造力進一步結合,打造出全新的創(chuàng)作生態(tài)。
酷睿Ultra系列處理器擁有移動端強大的性能表現(xiàn),并融入了用于AI加速的NPU模塊,即神經網絡處理單元。這讓AI PC即使不連接云端服務器,依靠本地的優(yōu)秀AI性能,也能隨時兼顧AI加速、續(xù)航、流暢操控體驗。
英特爾酷睿Ultra處理器是首款基于Intel 4制程工藝打造的處理器,代表了40年來英特爾架構最大的革新。它采用了先進的Foveros 3D封裝技術,結合前沿的知識產權成果與先進的制程工藝,以優(yōu)化相關模塊的性能表現(xiàn)。
在未來,包括代碼設計、內容創(chuàng)作、工程規(guī)劃等海量專業(yè)應用也將會在AI PC上百花齊放。預計2025年前,全球會出貨超過1億臺AI PC。合作涉及100家ISV合作伙伴,覆蓋300余項AI加速功能,AI應用將會得到更大范圍的推廣。
英特爾酷睿Ultra系列處理器的推出,也是AI PC正式邁向大眾市場、消費者的一個重要節(jié)點。隨著AI融入開發(fā)者、創(chuàng)作者的工作流程中,原本繁瑣、重復、耗時的工作將由AI所接管,工作者的工作重心將重新回到未來布局、思考創(chuàng)意的本身,極大地提升了生產效率。英特爾作為AI PC概念的提出者和重要推動者,也將不斷投入更多資源,在生態(tài)層面讓AI與PC高度融合,讓AI PC成為每一位開發(fā)者、創(chuàng)作者的工作利器。