聯(lián)發(fā)科:天璣9300首發(fā)搞定70億參數(shù)AI大模型
10月18日上午,聯(lián)發(fā)科官方宣布了一則重磅消息:
聯(lián)發(fā)科與vivo在AI領(lǐng)域展開(kāi)深度合作和聯(lián)合調(diào)校,率先實(shí)現(xiàn)了10億和70億參數(shù)AI大語(yǔ)言模型、10億參數(shù)AI視覺(jué)大模型在手機(jī)端側(cè)的落地,帶來(lái)行業(yè)領(lǐng)先的端側(cè)生成式AI(AIGC)應(yīng)用創(chuàng)新體驗(yàn)。
vivo的最新旗艦手機(jī),也將率先搭載基于聯(lián)發(fā)科天璣芯片移動(dòng)平臺(tái)的端側(cè)AI大模型,憑借天璣9300的APU AI單元、NeuroPilot AI開(kāi)發(fā)平臺(tái),提供強(qiáng)大的AI算力,提升大模型在端側(cè)的運(yùn)行效率。
根據(jù)行業(yè)權(quán)威消息,在終端側(cè)部署AIGC,有利于保護(hù)用戶信息和隱私安全、提升應(yīng)用實(shí)時(shí)性、個(gè)性化用戶體驗(yàn)等,優(yōu)勢(shì)非常明顯。
事實(shí)上,聯(lián)發(fā)科在AI上的投入和布局并非一日之功,此前就與多個(gè)生態(tài)合作伙伴強(qiáng)強(qiáng)聯(lián)合,已經(jīng)與Meta、百度等大模型合作適配,又與OPPO等手機(jī)廠商合作推動(dòng)AI大模型在終端落地,大大加速了AIGC在手機(jī)上的落地和普及。
就在此前10月11日,聯(lián)發(fā)科宣布聯(lián)合OPPO,共建輕量化大模型端側(cè)部署方案,推動(dòng)AndesGPT大語(yǔ)言模型和多模態(tài)大模型落地端側(cè)。
AndesGPT是OPPO自主訓(xùn)練的生成式用戶專屬大模型,通過(guò)采用4位量化技術(shù),在精度不掉點(diǎn)效果下,將大模型在端側(cè)逐步落地,而且性能更優(yōu),曾在C-Eval全球中文榜單上并以79.9高分登頂。
聯(lián)發(fā)科天璣9300旗艦移動(dòng)平臺(tái)很快就會(huì)發(fā)布,從各方面爆料看,無(wú)論性能還是能效都非常值得期待。
天璣9300基于臺(tái)積電4nm工藝,首次采用全大核架構(gòu)設(shè)計(jì),配備四顆X4超大核心,同時(shí)集成旗艦級(jí)的Immortalis-G720 GPU,此外還會(huì)首發(fā)支持SK海力士新一代LPDDR5T內(nèi)存,速度達(dá)到創(chuàng)紀(jì)錄的9.6Gbps。
根據(jù)爆料,天璣9300安兔兔V10 CPU、GPU跑分已經(jīng)領(lǐng)先同行。
加上如今在AI方面的搶先,天璣9300可以在CPU、GPU、APU三個(gè)方面在手機(jī)芯片行業(yè)遙遙領(lǐng)先。
此外值得一提的是,對(duì)比上代平臺(tái),天璣9300在實(shí)現(xiàn)架構(gòu)跨代的同時(shí),全大核CPU功耗可降低50%以上,GPU功耗可降低最多25%。