從數(shù)據(jù)中心到物聯(lián)網(wǎng)設(shè)備,人工智能計算的持續(xù)發(fā)展(1)
電子行業(yè)的兩大趨勢是物聯(lián)網(wǎng)和人工智能。兩者可以分開考慮,但事實是,它們已經(jīng)緊密地交織在一起。物聯(lián)網(wǎng)正在創(chuàng)造對離數(shù)據(jù)中心越來越遠的更復(fù)雜計算的需求,而人工智能正被用于使這種遷移工作。這一系列文章,我們將討論邊緣的 AI計算。
首先,英偉達取消了與 Arm 的大型合并計劃。該交易取決于多個全球監(jiān)管機構(gòu)的批準(zhǔn)。中國是否會評估這筆交易是一個現(xiàn)在永遠無法回答的問題,但在英偉達和 Arm 等待的時候,其他地方的反對意見開始升溫。Arm 是一家私營公司,過去和現(xiàn)在都需要大量資金,這也是它最初愿意被 Nvidia 收購的部分原因?,F(xiàn)在,該公司正在尋求它剩下的唯一可行的選擇,那就是公開募股。
同時,英特爾的代工服務(wù)進一步承諾支持客戶和潛在客戶使用 RISC-V 架構(gòu)構(gòu)建處理器。該公司宣布與 Andes Technology、Esperanto Technologies、SiFive 和 Ventana Micro Systems 建立合作伙伴關(guān)系。英特爾表示,它還將加入幫助管理 RISC-V 技術(shù)開發(fā)的非營利組織 RISC-V International。
所以我提到了這兩個故事中的一個重疊點,就是 RISC-V。Arm 報告稱,隨著越來越多的公司開始選擇 RISC-V,它正在失去潛在的業(yè)務(wù)。一直以來,Arm 希望幫助其被許可方在數(shù)據(jù)中心市場挑戰(zhàn)英特爾,但 Arm 報告說它只取得了微不足道的成功。因此,英特爾在 RISC-V 上加倍下注幾乎就像是在堆積如山。
文章最后,我們有一個關(guān)于用鉆石構(gòu)建量子微處理器的研究工作的故事。即使我能解釋它是如何工作的以及為什么。
電子行業(yè)一直在建設(shè)——并將繼續(xù)建設(shè)——巨大的數(shù)據(jù)中心。這吸引了對進行人工智能培訓(xùn)感興趣的公司的業(yè)務(wù)。人工智能訓(xùn)練傳統(tǒng)上依賴于龐大的數(shù)據(jù)集和大量的計算能力來處理它們,因此人工智能處理開始遷移到數(shù)據(jù)中心是很自然的。
如果你允許我提醒你一些你已經(jīng)知道的事情,那么所有的處理能力都需要大量的“POWER”。它需要大量的能量。
同時,物聯(lián)網(wǎng)的全部意義在于將計算從集中式計算中心轉(zhuǎn)移到世界各地。人們希望在物理上更偏遠的地方進行計算。換句話說,物聯(lián)網(wǎng)正在將網(wǎng)絡(luò)邊緣推得越來越遠。
這一切都在制造一種奇怪的張力。您希望在邊緣具有大量處理能力,但這不是它所在的地方。將處理能力推向邊緣是很困難的,因為您還需要外部電源來支持您的處理能力,而且在許多情況下,您想要做的事情根本不存在或負擔(dān)不起。那么它將如何到達那里?
去年 6 月,Synopsys 以大約 3.15 億美元的價格收購了 Virage Logic。早在 2009 年,Virage 就收購了 ARC International。ARC 代表 Argonaut RISC Core,這是一種可以追溯到 1996 年的嵌入式技術(shù)。順便說一下,ARC 是那些可愛的三字母縮寫詞之一。Portmanteau 的首字母縮略詞包含另一個首字母縮略詞。在這種情況下,ARC 包含 RISC,它代表精簡指令集計算機。反正。ARC 在結(jié)合了相對較高的性能同時消耗最少的功率的處理器方面擁有并且仍然擁有重要的專業(yè)知識。換句話說,正是邊緣人工智能所需要的。
所以我們來了,來自 Synopsys 的 Matt Gutierrez。我問他的第一個問題很長而且很復(fù)雜,但基本上可以歸結(jié)為:邊緣的 AI 發(fā)生了什么?
有幾件事可以有效地讓人工智能從云端轉(zhuǎn)移到我們的設(shè)備和其他形式的網(wǎng)絡(luò)邊緣。首先,技術(shù)方面有了進步。所以,你知道,人工智能需要相當(dāng)多的計算能力。所以你需要一定數(shù)量的內(nèi)存,你需要一定數(shù)量的處理計算能力,這些能力過去只存在于云中。多年來,隨著事物在更小的幾何形狀中移動,這種情況一直在發(fā)生變化,獲得適合生活在邊緣設(shè)備中的電源包絡(luò)。因此,出現(xiàn)了一項技術(shù)發(fā)展,使人工智能能夠移動。
與此同時,一些人工智能,即神經(jīng)網(wǎng)絡(luò)本身,已經(jīng)變得更小,因此需要的資源更少,包括它們可以生活在資源中、資源受限、邊緣設(shè)備中的程度。
最后但并非最不重要的一點是,應(yīng)用程序需要將事物轉(zhuǎn)移到邊緣。所以為什么?好吧,顯而易見的是延遲。因此,如果人工智能必須不斷進出云端,那么數(shù)據(jù)上升和數(shù)據(jù)回落會有相當(dāng)大的滯后;你消耗網(wǎng)絡(luò)帶寬。一些需要實時要求的應(yīng)用程序,例如自動駕駛汽車,您無法忍受這種延遲。因此,需要將其移近邊緣或設(shè)備本身。因此,技術(shù)、模型、軟件和實時需求的交叉點已經(jīng)綜合在一起,開始將大量人工智能驅(qū)動到邊緣計算。