神秘的異構(gòu)智能發(fā)言,能耗和計(jì)算堪比谷歌華為
最近,技術(shù)神秘的異構(gòu)智能終于出現(xiàn)在了人們的視線中,異構(gòu)智能的CEO吳韌還為此,表達(dá)了公司愿景“異構(gòu)智能有芯片、模型,有超級(jí)計(jì)算機(jī),希望將模型脫離云端,帶到本地和終端,讓終端變得智能。”吳韌談異構(gòu)智能芯片:能耗比谷歌低,比華為寒武紀(jì)計(jì)算力高。
大氣、穩(wěn)重是吳韌給人留下的第一印象。自2015年百度離職創(chuàng)立異構(gòu)智能以來(lái),這位CEO很少出來(lái)發(fā)聲,異構(gòu)智能也因此被打上了“神秘”的標(biāo)簽。
與其說(shuō)這場(chǎng)名為《異構(gòu)智能擁抱人工智能大勢(shì)》的分享是場(chǎng)媒體交流會(huì),倒不如說(shuō)是場(chǎng)吳韌揭秘他與異構(gòu)智能近況的懇談。
“異構(gòu)智能有芯片、模型,有超級(jí)計(jì)算機(jī),希望將模型脫離云端,帶到本地和終端,讓終端變得智能。”吳韌一開(kāi)始就表達(dá)了公司愿景。
△ Novumind(異構(gòu)智能)創(chuàng)始人兼CEO吳韌博士(右),及先烽資本創(chuàng)始人廖志宇(左)
智能終端“(云端)物聯(lián)網(wǎng)是個(gè)偽命題,是難以實(shí)現(xiàn)的。”吳韌說(shuō)。
目前的現(xiàn)狀是,看似魔術(shù)般連接起來(lái)的物聯(lián)網(wǎng),實(shí)際需要通過(guò)很多海底和底下光纜從分支道路連接到主干道。接入的分支道路呈指數(shù)級(jí)增長(zhǎng),已經(jīng)遠(yuǎn)遠(yuǎn)超出主干道增長(zhǎng)的速度。
因?yàn)閭鹘y(tǒng)的物聯(lián)網(wǎng)的云端架構(gòu)難以處理未來(lái)的海量數(shù)據(jù),異構(gòu)智能開(kāi)始考慮將人工智能的能力從云端拿到終端,讓邊緣設(shè)備學(xué)會(huì)“思考”。將邊緣設(shè)備思考的結(jié)果通過(guò)網(wǎng)絡(luò)與世界連接,就是實(shí)現(xiàn)了吳韌口中的智聯(lián)網(wǎng)(I2oT)。
“在本地做人工智能是未來(lái)的方向,異構(gòu)智能將為這個(gè)方向的公司賦能。”吳韌說(shuō)。
將AI放于終端對(duì)芯片提出了一高一低兩點(diǎn)挑戰(zhàn)。“高”在于,AI芯片主要有足夠強(qiáng)大的高性能支持復(fù)雜的人工智能計(jì)算,“低”是指芯片需足夠低功耗才能置于邊緣的小物體上。
“是挑戰(zhàn),也是機(jī)會(huì),”吳韌的聲音中帶著堅(jiān)定,“異構(gòu)智能的決定是take the challenge and seize the opportunity(接受挑戰(zhàn),抓住機(jī)遇)。”
高性能-低能耗
在此情境下,異構(gòu)智能選擇放棄芯片的通用性,為AI場(chǎng)景設(shè)計(jì)一款專用芯片,以追求最高的性能功耗比。
吳韌表示,目前的人工智能芯片真正起效需要10TOPS(萬(wàn)億次運(yùn)算/秒)的計(jì)算力,谷歌等公司的頂級(jí)芯片計(jì)算力高但能耗也高,不滿足本地落地的條件,而高通、寒武紀(jì)麒麟970等芯片雖然低能耗,但計(jì)算力卻達(dá)不到。
相比之下,NovuTensor V1僅用5W的用電量,就能實(shí)現(xiàn)15TOPS的性能。能耗低,且滿足計(jì)算需求。
△ NovuTensor優(yōu)勢(shì)對(duì)比
5W是什么概念呢?吳韌現(xiàn)場(chǎng)形象化地表示,5W是USB可以提供的電量。
“這就是從云端突破到終端的能力。”吳韌說(shuō)。
專利后的全棧解決方案
“人工智能的核心計(jì)算是三維張量的卷積計(jì)算,小立方體和大立方體重合的部分做點(diǎn)乘,”吳韌開(kāi)始談到芯片背后的技術(shù),“異構(gòu)智能的芯片在三維層面做操作,并且有四項(xiàng)專利保護(hù)。”
△ NovuTensor核心技術(shù)
這四項(xiàng)專利包括三維張量卷積用硬件的直接實(shí)現(xiàn),對(duì)數(shù)據(jù)的調(diào)度與分配、歸并和處理器間的協(xié)作。
只看到機(jī)會(huì)還不夠,異構(gòu)智能最早找到辦法把芯片和算法設(shè)計(jì)出來(lái)并加以實(shí)現(xiàn),輔之以專利保護(hù)。這樣看來(lái),異構(gòu)智能走得早,也走得穩(wěn)。
“想為其他公司賦能。”吳韌不止一次提到這句話。
賦能,也就是幫助其他公司訓(xùn)練出更聰明的模型、更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu),讓數(shù)據(jù)集發(fā)揮更大的作用。
通過(guò)為人工智能定制的超級(jí)計(jì)算機(jī)進(jìn)行訓(xùn)練,異構(gòu)智能的芯片能用最高的性能功耗比實(shí)現(xiàn)設(shè)計(jì)模型,為不同行業(yè),提供全棧式的服務(wù)。甚至可以為非AI公司提供計(jì)算和智能的能力,幫助人工智能落地。
△ 異構(gòu)智能的全棧解決方案
未來(lái)異構(gòu)智能的本地智慧模塊NovuBrain主要落地方向包括安防、制造、家居、醫(yī)療器械、智慧城市和智能駕駛,目前已經(jīng)與HP、KUKA合作。
“通過(guò)把技術(shù)能力賦給頂級(jí)的大公司,這些公司把這些能力賦予給他們的用戶,異構(gòu)智能就不需要在每一個(gè)行業(yè)、對(duì)每一個(gè)用戶、每一個(gè)應(yīng)用來(lái)做這些事情。”吳韌說(shuō)。
據(jù)量子位了解,目前28nm的ASIC芯片已經(jīng)進(jìn)入流片階段,16nm和7nm芯片同步推進(jìn),預(yù)計(jì)明年生產(chǎn)。
當(dāng)被問(wèn)及明年推出16nm芯片是否時(shí)間緊張時(shí),吳韌表示公司團(tuán)隊(duì)人才積累豐厚,對(duì)最新技術(shù)的把控很有信心。技術(shù)團(tuán)隊(duì)的李淼(Mike Li)之前在Inphi負(fù)責(zé)過(guò)兩款16nm的芯片,對(duì)它的制程基本有100%的信心。
“未來(lái)的世界一定是智能物聯(lián)網(wǎng)領(lǐng)先。異構(gòu)智能的定位是讓萬(wàn)物互聯(lián)轉(zhuǎn)到萬(wàn)物智能,為轉(zhuǎn)折提供所有的技術(shù),隨著智聯(lián)網(wǎng)的長(zhǎng)大,公司也將長(zhǎng)大,成為偉大的公司。”吳韌說(shuō)。