從數(shù)據(jù)中心到物聯(lián)網(wǎng)設(shè)備,人工智能計(jì)算的持續(xù)發(fā)展(1)
掃描二維碼
隨時(shí)隨地手機(jī)看文章
電子行業(yè)的兩大趨勢(shì)是物聯(lián)網(wǎng)和人工智能。兩者可以分開(kāi)考慮,但事實(shí)是,它們已經(jīng)緊密地交織在一起。物聯(lián)網(wǎng)正在創(chuàng)造對(duì)離數(shù)據(jù)中心越來(lái)越遠(yuǎn)的更復(fù)雜計(jì)算的需求,而人工智能正被用于使這種遷移工作。這一系列文章,我們將討論邊緣的 AI計(jì)算。
首先,英偉達(dá)取消了與 Arm 的大型合并計(jì)劃。該交易取決于多個(gè)全球監(jiān)管機(jī)構(gòu)的批準(zhǔn)。中國(guó)是否會(huì)評(píng)估這筆交易是一個(gè)現(xiàn)在永遠(yuǎn)無(wú)法回答的問(wèn)題,但在英偉達(dá)和 Arm 等待的時(shí)候,其他地方的反對(duì)意見(jiàn)開(kāi)始升溫。Arm 是一家私營(yíng)公司,過(guò)去和現(xiàn)在都需要大量資金,這也是它最初愿意被 Nvidia 收購(gòu)的部分原因?,F(xiàn)在,該公司正在尋求它剩下的唯一可行的選擇,那就是公開(kāi)募股。
同時(shí),英特爾的代工服務(wù)進(jìn)一步承諾支持客戶和潛在客戶使用 RISC-V 架構(gòu)構(gòu)建處理器。該公司宣布與 Andes Technology、Esperanto Technologies、SiFive 和 Ventana Micro Systems 建立合作伙伴關(guān)系。英特爾表示,它還將加入幫助管理 RISC-V 技術(shù)開(kāi)發(fā)的非營(yíng)利組織 RISC-V International。
所以我提到了這兩個(gè)故事中的一個(gè)重疊點(diǎn),就是 RISC-V。Arm 報(bào)告稱,隨著越來(lái)越多的公司開(kāi)始選擇 RISC-V,它正在失去潛在的業(yè)務(wù)。一直以來(lái),Arm 希望幫助其被許可方在數(shù)據(jù)中心市場(chǎng)挑戰(zhàn)英特爾,但 Arm 報(bào)告說(shuō)它只取得了微不足道的成功。因此,英特爾在 RISC-V 上加倍下注幾乎就像是在堆積如山。
文章最后,我們有一個(gè)關(guān)于用鉆石構(gòu)建量子微處理器的研究工作的故事。即使我能解釋它是如何工作的以及為什么。
電子行業(yè)一直在建設(shè)——并將繼續(xù)建設(shè)——巨大的數(shù)據(jù)中心。這吸引了對(duì)進(jìn)行人工智能培訓(xùn)感興趣的公司的業(yè)務(wù)。人工智能訓(xùn)練傳統(tǒng)上依賴于龐大的數(shù)據(jù)集和大量的計(jì)算能力來(lái)處理它們,因此人工智能處理開(kāi)始遷移到數(shù)據(jù)中心是很自然的。
如果你允許我提醒你一些你已經(jīng)知道的事情,那么所有的處理能力都需要大量的“POWER”。它需要大量的能量。
同時(shí),物聯(lián)網(wǎng)的全部意義在于將計(jì)算從集中式計(jì)算中心轉(zhuǎn)移到世界各地。人們希望在物理上更偏遠(yuǎn)的地方進(jìn)行計(jì)算。換句話說(shuō),物聯(lián)網(wǎng)正在將網(wǎng)絡(luò)邊緣推得越來(lái)越遠(yuǎn)。
這一切都在制造一種奇怪的張力。您希望在邊緣具有大量處理能力,但這不是它所在的地方。將處理能力推向邊緣是很困難的,因?yàn)槟€需要外部電源來(lái)支持您的處理能力,而且在許多情況下,您想要做的事情根本不存在或負(fù)擔(dān)不起。那么它將如何到達(dá)那里?
去年 6 月,Synopsys 以大約 3.15 億美元的價(jià)格收購(gòu)了 Virage Logic。早在 2009 年,Virage 就收購(gòu)了 ARC International。ARC 代表 Argonaut RISC Core,這是一種可以追溯到 1996 年的嵌入式技術(shù)。順便說(shuō)一下,ARC 是那些可愛(ài)的三字母縮寫(xiě)詞之一。Portmanteau 的首字母縮略詞包含另一個(gè)首字母縮略詞。在這種情況下,ARC 包含 RISC,它代表精簡(jiǎn)指令集計(jì)算機(jī)。反正。ARC 在結(jié)合了相對(duì)較高的性能同時(shí)消耗最少的功率的處理器方面擁有并且仍然擁有重要的專(zhuān)業(yè)知識(shí)。換句話說(shuō),正是邊緣人工智能所需要的。
所以我們來(lái)了,來(lái)自 Synopsys 的 Matt Gutierrez。我問(wèn)他的第一個(gè)問(wèn)題很長(zhǎng)而且很復(fù)雜,但基本上可以歸結(jié)為:邊緣的 AI 發(fā)生了什么?
有幾件事可以有效地讓人工智能從云端轉(zhuǎn)移到我們的設(shè)備和其他形式的網(wǎng)絡(luò)邊緣。首先,技術(shù)方面有了進(jìn)步。所以,你知道,人工智能需要相當(dāng)多的計(jì)算能力。所以你需要一定數(shù)量的內(nèi)存,你需要一定數(shù)量的處理計(jì)算能力,這些能力過(guò)去只存在于云中。多年來(lái),隨著事物在更小的幾何形狀中移動(dòng),這種情況一直在發(fā)生變化,獲得適合生活在邊緣設(shè)備中的電源包絡(luò)。因此,出現(xiàn)了一項(xiàng)技術(shù)發(fā)展,使人工智能能夠移動(dòng)。
與此同時(shí),一些人工智能,即神經(jīng)網(wǎng)絡(luò)本身,已經(jīng)變得更小,因此需要的資源更少,包括它們可以生活在資源中、資源受限、邊緣設(shè)備中的程度。
最后但并非最不重要的一點(diǎn)是,應(yīng)用程序需要將事物轉(zhuǎn)移到邊緣。所以為什么?好吧,顯而易見(jiàn)的是延遲。因此,如果人工智能必須不斷進(jìn)出云端,那么數(shù)據(jù)上升和數(shù)據(jù)回落會(huì)有相當(dāng)大的滯后;你消耗網(wǎng)絡(luò)帶寬。一些需要實(shí)時(shí)要求的應(yīng)用程序,例如自動(dòng)駕駛汽車(chē),您無(wú)法忍受這種延遲。因此,需要將其移近邊緣或設(shè)備本身。因此,技術(shù)、模型、軟件和實(shí)時(shí)需求的交叉點(diǎn)已經(jīng)綜合在一起,開(kāi)始將大量人工智能驅(qū)動(dòng)到邊緣計(jì)算。