不斷刷新紀(jì)錄的面壁高效端側(cè)多模態(tài)模型來了,AI PC正迎來高能時(shí)刻!
11月26日,英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會(huì)(Intel Connection)在成都舉辦,面壁智能作為英特爾重要戰(zhàn)略合作伙伴,以端側(cè)模型廠商代表出席生態(tài)大會(huì),并演示了基于英特爾最新一代桌面級旗艦芯片深度適配和加速的多模態(tài)端側(cè)模型。
本屆英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會(huì)云集了大模型、AI計(jì)算、AI 應(yīng)用的行業(yè)高管、技術(shù)專家、專業(yè)開發(fā)者代表,共同探索端側(cè)AI的最新技術(shù)趨勢,特別是AI PC為代表端側(cè)硬件的創(chuàng)新成果與案例。在生態(tài)大會(huì)專題論壇現(xiàn)場,面壁智能副總裁繆鈞瑋發(fā)表了“面壁小鋼炮:高效端側(cè)多模態(tài)模型,AI PC的高能時(shí)刻”的專題演講。
繆鈞瑋分享道,面壁智能團(tuán)隊(duì)正在與英特爾伙伴團(tuán)隊(duì)一起緊密合作,面壁小鋼炮MiniCPM端側(cè)模型正在全系適配酷睿Ultra旗艦芯片。面壁研發(fā)團(tuán)隊(duì)充分利用英特爾新一代旗艦芯片性能顯著增強(qiáng)的AI計(jì)算加速單元,充分吃透英特爾更高效的異構(gòu)AI計(jì)算微架構(gòu),在芯片底層進(jìn)行計(jì)算資源的調(diào)度優(yōu)化、推理框架深度適配。在英特爾OpenVINO工具的支持下,以高效著稱的面壁MiniCPM端側(cè)模型,在AI PC上正在迎來「高能」時(shí)刻:AI推理提速167%,首Token延遲降低17%。
在專題論壇現(xiàn)場,繆鈞瑋深入介紹了MiniCPM 基座模型和多模態(tài)端側(cè)模型。自今年2月份MiniCPM面世以來,不斷刷新小參數(shù)模型在數(shù)學(xué)、代碼、知識、Function Calling、RAG、單圖/多圖理解、高清OCR識圖、實(shí)時(shí)視頻理解的多維度性能和新功能紀(jì)錄。
端側(cè)模型面壁「小鋼炮」MiniCPM 系列,包含基座模型 MiniCPM 和多模態(tài)模型MiniCPM-V 雙旗艦,憑借以小博大、高效低成本的特性享譽(yù)全球,目前已經(jīng)在性能上開啟「端側(cè) ChatGPT 時(shí)刻」,多模態(tài)方向達(dá)到全面對標(biāo) GPT-4V 級水平。面壁智能正通過追求更高的知識密度(知識密度 = 模型能力 / 參與計(jì)算的模型參數(shù))來提升大模型的智能水平,將高性能的端側(cè)AI 帶入千家萬戶、千行百業(yè)。
AI PC 是主流消費(fèi)電子近年來最受矚目的升級。高效端側(cè)模型運(yùn)行在最具生產(chǎn)力的計(jì)算平臺(tái)PC,對于工作、學(xué)習(xí)、娛樂將帶來深刻的變革。英特爾作為50多年全球用戶最為熟悉和信賴的PC算力底座,面壁智能攜手英特爾,MiniCPM將獲得巨大的市場推動(dòng)力,更快速、更有價(jià)值融入最廣大用戶的“桌面”。
在AI PC領(lǐng)域,英特爾正在引領(lǐng)市場前行。英特爾目前已出貨了超過2,000萬臺(tái)AI PC設(shè)備,構(gòu)建了擁有超過100家ISV、300多項(xiàng)AI應(yīng)用、500多個(gè)AI模型的龐大生態(tài)系統(tǒng)。英特爾也在與OEM廠商密切合作,推出以酷睿Ultra處理器為核心的AI PC,同時(shí)實(shí)現(xiàn)了出色的性能和續(xù)航能力。
憑借基于強(qiáng)大x86架構(gòu)的XPU帶來的強(qiáng)大算力和廣泛的軟件生態(tài)優(yōu)勢,英特爾持續(xù)深耕本土AI應(yīng)用的開發(fā),攜手面壁智能等生態(tài)伙伴落地知識助手、辦公助手、娛樂助手、創(chuàng)作助手和垂類助手五大AI應(yīng)用場景,并積極聚焦AI、商用、娛樂、計(jì)算、低碳這五大市場熱點(diǎn),努力滿足用戶的多樣需求,帶來更加卓越的使用體驗(yàn)。
在英特爾大會(huì)現(xiàn)場,來自多家合作伙伴的超過五百款產(chǎn)品及解決方案亮相展區(qū),形成了一呼百應(yīng)之勢,充分展現(xiàn)了英特爾不斷探索創(chuàng)新機(jī)會(huì),深耕生態(tài)并推動(dòng)AI PC行業(yè)發(fā)展的決心,為智能化生活帶來無限可能。