Hailo獲1.2億美元新融資,首發(fā)AI加速器Hailo-10,助力邊緣設(shè)備實現(xiàn)生成式人工智能
隨著Hailo推出最新的人工智能加速器,其融資總額現(xiàn)已突破3.4億美元。這款專為個人計算機和汽車行業(yè)打造的人工智能加速器,以出色的低功耗性能處理大型語言模型(LLM),成功將生成式人工智能技術(shù)引入邊緣計算領(lǐng)域,為行業(yè)發(fā)展注入新動力。
邊緣人工智能處理器的領(lǐng)先芯片制造商Hailo近日宣布C輪融資再獲1.2億美元投資。與此同時,Hailo還推出創(chuàng)新型Hailo-10高性能生成式人工智能(GenAI)加速器。這款加速器的問世,將開創(chuàng)一個新時代:用戶無需注冊任何基于云端的生成式人工智能服務(wù),便能在本地輕松擁有并運行生成式人工智能應(yīng)用,享受更為高效便捷的人工智能體驗。
本輪新融資由現(xiàn)有及新投資者共同領(lǐng)投,其中包括Zisapel家族、Gil Agmon、Delek Motors、Alfred Akirov、DCLBA、Vasuki、OurCrowd、Talcar、Comasco、Automotive Equipment (AEV)以及Poalim Equity等眾多機構(gòu)與個人。至此,Hailo的累計融資金額已突破3.4億美元。
Hailo首席執(zhí)行官兼聯(lián)合創(chuàng)始人Orr Danon表示:“新一輪融資的順利完成,不僅為我們提供了重要發(fā)展機遇,更為公司的長期穩(wěn)健發(fā)展奠定了堅實基礎(chǔ)。隨著Hailo-10 生成式人工智能加速器的問世,我們成功將傳統(tǒng)與生成式人工智能技術(shù)引入邊緣設(shè)備,這將大大拓展這項前沿技術(shù)的普及范圍和應(yīng)用場景。”他還進一步強調(diào):“Hailo-10的設(shè)計理念是將生成式人工智能融入用戶的日常生活中,擺脫云網(wǎng)絡(luò)的束縛。這將保證靈活性和即時性,讓用戶充分利用聊天機器人、智能副駕駛等新興內(nèi)容生成工具,顯著提升工作效率,豐富生活體驗?!?
Hailo-10:邊緣生成式人工智能
全新的Hailo-10 生成式人工智能加速器支持一系列廣泛的應(yīng)用,進一步鞏固了Hailo在性能成本比和性能功耗比方面的領(lǐng)先地位。借助與Hailo-8 人工智能加速器和Hailo-15 人工智能視覺處理器相同的綜合軟件套件,Hailo-10能夠輕松實現(xiàn)人工智能功能在多個邊緣設(shè)備和平臺上的無縫集成,為用戶帶來更加流暢、高效的智能體驗。
在邊緣設(shè)備上啟用生成式人工智能可確保用戶隨時訪問生成式人工智能服務(wù),無需擔(dān)心網(wǎng)絡(luò)連接限制。同時,它還能有效消除網(wǎng)絡(luò)延遲問題。此外,生成式人工智能在邊緣設(shè)備上的運行還能更好地保護用戶隱私,因為個人信息在處理過程中始終保持匿名狀態(tài)。最后,減少對云數(shù)據(jù)中心龐大處理能力的依賴,也有助于提高整體的可持續(xù)性。
借助Hailo-10,個人計算機、智能汽車以及商業(yè)機器人等邊緣設(shè)備得以充分釋放生成式人工智能的強大潛能。用戶因此能夠全面掌控生成式人工智能體驗,并使其深度融入日常生活,成為不可或缺的一部分。為實現(xiàn)沉浸式的生成式人工智能體驗,Hailo精心打造了Hailo-10架構(gòu),該架構(gòu)能夠以低功耗實現(xiàn)出色的生成式人工智能性能。
Danon先生進一步闡述道:“隨著邊緣生成式人工智能技術(shù)的不斷發(fā)展,我們的重點已經(jīng)轉(zhuǎn)向在極低功耗范圍內(nèi)處理大型大語言模型(LLM),基本上可以控制在5瓦以下?!?
在當(dāng)下熱門的生成式人工智能平臺中,Hailo-10展現(xiàn)出了令人矚目的性能。它能夠在功耗低于5W的情況下,以每秒生成10 個token(TPS)的速度流暢運行Llama2-7B模型。同時,在處理Stable Diffusion 2.1模型(該模型可根據(jù)文本提示生成圖像)時,Hailo-10同樣在超低功耗范圍內(nèi)實現(xiàn)了每張圖像評級低于5秒的出色表現(xiàn)。
Hailo-10的性能高達每秒40萬億次(TOPS),這為邊緣人工智能加速器樹立了新的性能標(biāo)桿。根據(jù)最新公布的基準(zhǔn)測試數(shù)據(jù),Hailo-10在性能上超越了集成神經(jīng)處理單元(NPU)解決方案,同時在功耗方面表現(xiàn)更為出色。與Intel的Core Ultra NPU相比,Hailo-10在保持功耗減半的同時,實現(xiàn)了至少2倍的性能提升。
Hailo-10 生成式人工智能加速器的初步應(yīng)用將瞄準(zhǔn)個人計算機和汽車信息娛樂系統(tǒng),以取代那些性能不足的上一代CPU。這些老舊CPU無法支持現(xiàn)在已成為標(biāo)配的聊天機器人、智能副駕駛、個人助理以及語音操作系統(tǒng)。Hailo計劃從2024年第二季度開始,向市場提供Hailo-10生成式人工智能加速器的樣品。
Danon最后總結(jié)道:“無論用戶是需要利用生成式人工智能進行實時翻譯、總結(jié)的自動化,還是編寫軟件代碼,抑或是從文本提示中生成圖像和視頻,Hailo-10都能讓他們在個人電腦或其他邊緣設(shè)備上直接完成,既不會給CPU帶來額外負(fù)擔(dān),也不會過快消耗電池電量?!?
自2017年在以色列成立以來,Hailo憑借卓越的技術(shù)實力和創(chuàng)新能力,已崛起為全球領(lǐng)先的人工智能加速器和人工智能視覺處理器供應(yīng)商,成功服務(wù)于全球300多家客戶,展現(xiàn)了其強大的市場競爭力。公司在東京、臺北、深圳、硅谷和芝加哥等全球多個重要城市設(shè)立了辦事處,為其全球業(yè)務(wù)的拓展奠定了堅實基礎(chǔ)。