邊緣人工智能處理器領(lǐng)域的芯片制造商Hailo近日宣布，其第二代具備生成式人工智能功能的人工智能加速器Hailo-10H現(xiàn)已正式投入商用。自即日起，全球客戶可從Hailo官方網(wǎng)站下載相關(guān)軟件，并訂購Hailo-10H。此舉標(biāo)志著首款原生支持邊緣生成式人工智能工作負(fù)載、開放市場采購的獨(dú)立人工智能處理器正式問世，這一成果備受業(yè)界期待。

基于公司第一代人工智能加速器Hailo-8的成功經(jīng)驗(yàn)，Hailo-10H在視覺人工智能任務(wù)中展現(xiàn)出行業(yè)領(lǐng)先性能，同時(shí)新增了生成式人工智能能力，并首次實(shí)現(xiàn)在設(shè)備端完全運(yùn)行大型語言模型（LLMs）、視覺語言模型（VLMs）以及其他生成式人工智能模型，無需依賴云端連接。這一功能上的重大突破，憑借成本效益和能效優(yōu)勢，將強(qiáng)大的生成式人工智能引入邊緣設(shè)備，使Hailo-10H成為個(gè)人電腦、汽車、電信、零售、安防等多個(gè)領(lǐng)域產(chǎn)品開發(fā)者的變革性解決方案。

Hailo聯(lián)合創(chuàng)始人兼首席執(zhí)行官Orr Danon表示：“隨著Hailo-10H開啟訂購，我們向‘讓人工智能觸手可及’的使命又邁出了重要一步。這是首款將真正的生成式人工智能性能引入邊緣的獨(dú)立人工智能處理器，集高效性能、經(jīng)濟(jì)成本和強(qiáng)大的軟件生態(tài)系統(tǒng)于一身?！?

Hailo-10H與Hailo成熟且廣泛應(yīng)用的軟件棧實(shí)現(xiàn)全面兼容，同時(shí)得到每月超1萬活躍用戶的全球開發(fā)者社區(qū)全力支持。借助這些優(yōu)勢，它使開發(fā)者能夠在邊緣設(shè)備上直接運(yùn)行先進(jìn)的視覺和生成式人工智能模型，實(shí)現(xiàn)超低延遲的實(shí)時(shí)響應(yīng)效果。

借助本地?cái)?shù)據(jù)處理的模式，個(gè)人身份信息始終留存于設(shè)備端，Hailo-10H能夠提供強(qiáng)有力的數(shù)據(jù)隱私保護(hù)。與此同時(shí)，它通過削減云端帶寬使用，降低對高成本云端人工智能服務(wù)訂閱的依賴，大幅降低了整體系統(tǒng)成本。尤為關(guān)鍵的是，該人工智能可在無需云端連接的情況下獨(dú)立運(yùn)行，即便處于互聯(lián)網(wǎng)接入受限或無互聯(lián)網(wǎng)接入的環(huán)境中，也能確保持續(xù)可用。

Hailo-10H專為消費(fèi)者、企業(yè)和汽車市場的邊緣設(shè)備設(shè)計(jì)，其應(yīng)用范疇涵蓋媒體中心、家庭網(wǎng)關(guān)和汽車座艙系統(tǒng)等。該產(chǎn)品能夠支持自然語言人機(jī)交互、視覺感知和多模態(tài)人工智能等高級應(yīng)用，在典型邊緣環(huán)境的功耗和成本限制條件下，實(shí)現(xiàn)無縫流暢運(yùn)行。

在性能測試中，Hailo-10H在生成式工作負(fù)載方面表現(xiàn)出色。以多種擁有20億參數(shù)的語言和視覺語言模型為例，其首次生成token（詞元）的延遲低于1秒，且每秒能夠生成超過10個(gè)token（詞元）。在視頻分析領(lǐng)域，Hailo-10H支持在實(shí)時(shí)4K視頻流上運(yùn)行先進(jìn)的物體檢測算法（如YOLOv11m）。所有這些功能均在僅2.5瓦的功耗條件下實(shí)現(xiàn)，這使其成為緊湊、高效人工智能系統(tǒng)的理想選擇。此外，Hailo-10H已通過AEC-Q100 2級標(biāo)準(zhǔn)認(rèn)證，適用于2026年起投入生產(chǎn)的汽車設(shè)計(jì)。

隨著Hailo-10H正式開啟訂購，Hailo將持續(xù)引領(lǐng)邊緣人工智能領(lǐng)域的發(fā)展，重新定義智能計(jì)算的未來，讓智能計(jì)算觸手可及。若您有意向?qū)ailo-10H集成至下一代產(chǎn)品中，敬請?jiān)L問Hailo官網(wǎng)網(wǎng)站。

關(guān)于Hailo

專注于人工智能的芯片制造商Hailo正在開發(fā)能夠在邊緣設(shè)備上實(shí)現(xiàn)數(shù)據(jù)中心級性能的專用人工智能處理器。Hailo的處理器是對傳統(tǒng)計(jì)算機(jī)架構(gòu)進(jìn)行重新思考的產(chǎn)物，使智能設(shè)備能夠以最小的功耗、尺寸和成本執(zhí)行復(fù)雜的深度學(xué)習(xí)任務(wù)，如實(shí)時(shí)目標(biāo)檢測和實(shí)時(shí)分割。這些處理器旨在適應(yīng)多種智能機(jī)器和設(shè)備，影響包括汽車、安全、工業(yè)4.0和零售在內(nèi)的各個(gè)領(lǐng)域。