院士鄭緯民:國產(chǎn)AI芯片如果生態(tài)改善 哪怕60%性能也有人用
7月9日消息,在近日的信息化百人會上,中國工程院院士、清華大學(xué)計算機系教授鄭緯民表示,國產(chǎn)AI芯片的核心問題在于生態(tài)系統(tǒng)不夠完善。
他認為,盡管國產(chǎn)AI芯片在硬件性能上取得了顯著進展,但由于軟件生態(tài)系統(tǒng)的不成熟,導(dǎo)致用戶使用體驗不佳。
鄭緯民強調(diào),算力是大模型產(chǎn)業(yè)的主要開銷,占據(jù)了大模型訓(xùn)練成本的70%以及推理成本的95%。
他指出,如果國產(chǎn)AI芯片生態(tài)系統(tǒng)得到改善,哪怕只能達到國外芯片60%的性能,用戶也會愿意使用。
他進一步闡釋了生態(tài)系統(tǒng)的重要性,認為如果一個原本在英偉達平臺上開發(fā)的人工智能軟件能夠輕松移植到國產(chǎn)系統(tǒng)上,這就意味著生態(tài)系統(tǒng)是良好的。
反之,如果移植過程困難重重,耗時長達一年或兩年,那么生態(tài)系統(tǒng)就是不成熟的。
為了改善國產(chǎn)AI芯片的生態(tài)系統(tǒng),鄭緯民提出了需要做好的“十個軟件”,包括編程框架、并行加速、通信庫、算子庫、AI編譯器、編程語言、調(diào)度器、內(nèi)存分配系統(tǒng)、容錯系統(tǒng)和存儲系統(tǒng)。
他相信,只要這些方面得到優(yōu)化,即使硬件性能不是頂尖,用戶也會因為良好的使用體驗而選擇使用國產(chǎn)AI芯片。