重磅!清華發(fā)布中國(guó) AI 光芯片
近日,清華大學(xué)官宣交叉團(tuán)隊(duì)發(fā)布中國(guó) AI 光芯片 “太極(Taichi)”,該研究成果于 4 月 12 日發(fā)表在了最新一期學(xué)術(shù)期刊《Science》上。
據(jù)介紹,“太極” 光芯片架構(gòu)開(kāi)發(fā)過(guò)程中的靈感來(lái)自中國(guó)典籍《周易》,團(tuán)隊(duì)成員以 “易有太極,是生兩儀” 為啟發(fā),建立了全新的計(jì)算模型,實(shí)現(xiàn)了光計(jì)算強(qiáng)悍性能的釋放。
正所謂巧婦難為無(wú)米之炊,算力是訓(xùn)練 AI 大模型、推理任務(wù)的關(guān)鍵,也是人工智能的硬件基礎(chǔ)。
光計(jì)算,顧名思義是將計(jì)算載體從電變?yōu)楣?,利用光在芯片中的傳播進(jìn)行計(jì)算,以其超高的并行度和速度,被認(rèn)為是未來(lái)顛覆性計(jì)算架構(gòu)的最有力競(jìng)爭(zhēng)方案之一。
光芯片具備高速高并行計(jì)算優(yōu)勢(shì),被寄予希望用來(lái)支撐大模型等先進(jìn)人工智能應(yīng)用。如何制造出兼具大算力和高能效的下一代 AI 芯片已成為國(guó)際前沿?zé)狳c(diǎn),而本次清華大學(xué)發(fā)布的 “太極” 光芯片將有望為大模型訓(xùn)練推理、通用人工智能、自主智能無(wú)人系統(tǒng)等提供強(qiáng)大的算力支持。
光電智能技術(shù)交叉創(chuàng)新團(tuán)隊(duì)部分成員合影(左三為戴瓊海院士、右二為方璐副教授)
作為近年來(lái)新興的計(jì)算模態(tài),智能光計(jì)算具備高速、低功耗等特性,在后摩爾時(shí)代擁有超越硅基電子計(jì)算的潛力,可以突破性解決人工智能領(lǐng)域的算力與功耗難題。
可是其痛點(diǎn)在于,光的計(jì)算優(yōu)勢(shì)被困在了 “水土不服” 的電架構(gòu)中,導(dǎo)致計(jì)算規(guī)模受限,無(wú)法支撐復(fù)雜大模型智能計(jì)算。
對(duì)此,清華大學(xué)電子工程系方璐副教授課題組、自動(dòng)化系戴瓊海院士課題組摒棄了傳統(tǒng)電子深度計(jì)算范式構(gòu)建智能光計(jì)算通用傳播模型,另辟蹊徑地首創(chuàng)了分布式廣度智能光計(jì)算架構(gòu),研制出全球首款大規(guī)模干涉衍射異構(gòu)集成芯片 “太極(Taichi)”,實(shí)現(xiàn)了 160 TOPS/W 的通用智能計(jì)算。
相異于電子神經(jīng)網(wǎng)絡(luò)依賴網(wǎng)絡(luò)深度以實(shí)現(xiàn)復(fù)雜的計(jì)算與功能,“太極” 光芯片架構(gòu)源自光計(jì)算獨(dú)特的全連接與高并行屬性,化深度計(jì)算為分布式廣度計(jì)算,為實(shí)現(xiàn)規(guī)模易擴(kuò)展、計(jì)算高并行、系統(tǒng)強(qiáng)魯棒的通用智能光計(jì)算探索了新路徑。
每一個(gè)研究成果都匯集了每一位成員的心血,方璐教授將本次科研比擬為浪漫的雙向奔赴:從算法架構(gòu)上自頂向下探索,在硬件芯片設(shè)計(jì)上自底向上推演。
據(jù)論文第一作者、電子系博士生徐智吳介紹,在 “太極” 架構(gòu)中,自頂向下的編碼拆分-解碼重構(gòu)機(jī)制,將復(fù)雜智能任務(wù)化繁為簡(jiǎn),拆分為多通道高并行的子任務(wù),構(gòu)建的分布式 “大感受野” 淺層光網(wǎng)絡(luò)對(duì)子任務(wù)分而治之,突破物理模擬器件多層深度級(jí)聯(lián)的固有計(jì)算誤差。
團(tuán)隊(duì)以周易典籍 “易有太極,是生兩儀” 為啟發(fā),建立干涉-行射聯(lián)合傳播模型,融合衍射光計(jì)算大規(guī)模并行優(yōu)勢(shì)與干涉光計(jì)算靈活重構(gòu)特性,將衍射編解碼與干涉特征計(jì)算進(jìn)行部分/整體重構(gòu)復(fù)用,以時(shí)序復(fù)用突破通量瓶頸,自底向上支撐分布式廣度光計(jì)算架構(gòu),為片上大規(guī)模通用智能光計(jì)算探索了新路徑。
論文報(bào)道,“太極” 光芯片具備 879 T MACS/mm^2 的面積效率與 160 TOPS/N 的能量效率。首次賦能光計(jì)算實(shí)現(xiàn)自然場(chǎng)景千類對(duì)象識(shí)別、跨模態(tài)內(nèi)容生成等人工智能復(fù)雜任務(wù)。
清華大學(xué)團(tuán)隊(duì)在實(shí)驗(yàn)環(huán)境下,實(shí)現(xiàn)了片上(on-chip)1396 萬(wàn)光神經(jīng)網(wǎng)絡(luò)(ONN),可用于復(fù)雜的千類別級(jí)分類和人工智能生成內(nèi)容任務(wù)。
此外,太極光芯片的計(jì)算能效超現(xiàn)有智能芯片 2—3 個(gè)數(shù)量級(jí),可為百億像素大場(chǎng)景光速智能分析、百億參數(shù)大模型訓(xùn)練推理、毫瓦級(jí)低功耗自主智能無(wú)人系統(tǒng)提供算力支撐。
方璐教授表示,之所以將光芯片命名為 “太極”,也是希望可以在如今大模型通用人工智能蓬勃發(fā)展的時(shí)代,以光子之道,為高性能計(jì)算探索新靈感、新架構(gòu)、新路徑。