毫無疑問，智能手機(jī)和智能家居仍將是邊緣人工智能的兩個最大市場。與此同時，自動駕駛汽車的潛力為邊緣人工智能公司帶來了極高的期望和市場估值。然而，自動駕駛汽車的緩慢推出，以及智能手機(jī)市場的標(biāo)準(zhǔn)化，導(dǎo)致許多廠商在他剛才提到的市場之外尋求新的增長機(jī)會。許多供應(yīng)商已經(jīng)轉(zhuǎn)向工業(yè)應(yīng)用和其他以移動為中心的應(yīng)用，例如，英特爾、英偉達(dá)、高通和 Hailo 已與許多邊緣計算供應(yīng)商合作，為希望使傳統(tǒng)基礎(chǔ)設(shè)施更智能的公司提供 AI in the box 解決方案。供應(yīng)商還為機(jī)器人和無人機(jī)應(yīng)用推出了專用解決方案。此外，該行業(yè)本身見證了硬件和軟件供應(yīng)商之間的許多合作伙伴關(guān)系。這些關(guān)系在本質(zhì)上通常是共生的，因?yàn)樗鼈児膭铑I(lǐng)域?qū)I(yè)知識的交流并為垂直特定供應(yīng)商開辟新的市場機(jī)會。

ZigZag 工具

關(guān)于用于以超低功耗運(yùn)行神經(jīng)網(wǎng)絡(luò)的尖端微處理器架構(gòu)的有價值的信息,開發(fā)了一個叫做 ZigZag 的工具。幫助設(shè)計師比較硬件與不同的架構(gòu)、不同的內(nèi)存層次、不同的數(shù)據(jù)路徑、不同的組合如何以節(jié)能的方式運(yùn)行不同的神經(jīng)網(wǎng)絡(luò)。因?yàn)檩^低精度、越來越多的并行芯片可以提高能源效率，但以靈活性為代價。

它的核心是一種非常快速的分析成本模型。因此，它采用神經(jīng)網(wǎng)絡(luò)工作負(fù)載，采用具有內(nèi)存層次結(jié)構(gòu)、數(shù)據(jù)路徑甚至技術(shù)特征的硬件架構(gòu)，并基于這種技術(shù)組合，嘗試估計在此特定設(shè)備上運(yùn)行工作負(fù)載所需的能量架構(gòu)，需要多少延遲或時鐘周期，以及該架構(gòu)的區(qū)域是什么。當(dāng)然，正如他之前所展示的，你不能只說，他把工作負(fù)載映射到架構(gòu)上，不，有很多不同的方法來映射它，甚至是一個特定的工作負(fù)載，神經(jīng)網(wǎng)絡(luò)的一層，硬件架構(gòu)，這與他在空間上展開什么循環(huán)有關(guān)，他暫時展開哪些循環(huán)，他將哪些數(shù)據(jù)放入 SRAM 寄存器文件、1 級內(nèi)存、2 級內(nèi)存等等。他們的工具做什么，它需要神經(jīng)網(wǎng)絡(luò)工作負(fù)載并嘗試找到所有可能的良好映射和調(diào)度，它正在嘗試數(shù)百萬個這樣的調(diào)度，在硬件架構(gòu)上并為每個調(diào)度估計能量/延遲/面積，然后附帶一組帕累托最優(yōu)解決方案，為您提供此神經(jīng)網(wǎng)絡(luò)工作負(fù)載、此技術(shù)、在這些硬件限制下，他可以實(shí)現(xiàn)的每次推理的最佳時間、每次推理的能量等。

IBM 的目標(biāo)：在 2025 年將 AI 計算性能每年提高 2.5 倍

BM Research 計劃在短期內(nèi)使用數(shù)字電子技術(shù)結(jié)合超低精度計算中的算法工作來實(shí)現(xiàn)這一目標(biāo)。有助于開發(fā)模擬 AI 計算能力的工藝創(chuàng)新，包括 PCM、相變存儲器和 EC RAM、電化學(xué) RAM 技術(shù)。在推理方面，他們使用了 PCM 技術(shù)，并通過使用他們所謂的投影 PCM 技術(shù)對其進(jìn)行了改進(jìn)。

這本質(zhì)上是一個精心設(shè)計的層，用于解決您在直接使用 PCM 元素進(jìn)行模擬計算進(jìn)行推理時看到的一些非理想性或抗漂移。他們絕對不希望這種漂移發(fā)生 - 每次您在模擬域中使用并使用此模型進(jìn)行推理時。在右側(cè)，他們正在開發(fā)材料，以便在深度神經(jīng)網(wǎng)絡(luò)正在編程時，這些材料可用于存儲數(shù)千個權(quán)重或數(shù)千個不同狀態(tài)。他們正在使用他們從高 k 金屬柵極技術(shù)中學(xué)到的對氧空位產(chǎn)生和消除的一些基本理解。

他們還在開發(fā)一種稱為 ECRAM 的技術(shù)，即電化學(xué) RAM 技術(shù)，它一直在利用電池技術(shù)的一些原理，但他們已經(jīng)找到了一種將其集成到 CMOS 兼容晶圓中的方法。

Cerebras新型計算機(jī)

Cerebras構(gòu)建了一種針對 AI 工作進(jìn)行優(yōu)化的新型計算機(jī)，他們的目標(biāo)不是變得更好，不是快兩倍或三倍，而是在 AI 工作上快 100 或 1000 倍。為此，他們解決了計算機(jī)行業(yè) 70 年來一直未解決的問題：他們解決了構(gòu)建非常大的芯片的挑戰(zhàn)。在他們出現(xiàn)之前，最大的芯片大約有 800 平方毫米，大約是一張郵票的大小。他們制造了一個芯片，并在 2019 年 8 月宣布了它，即 46,000 平方毫米。所以它是一個餐盤的大小。

在這項(xiàng)人工智能工作中，更大的芯片處理信息的速度更快，在更短的時間內(nèi)產(chǎn)生答案。因此，他們所做的是，他們制造這些大型芯片，將它們放入他們設(shè)計的系統(tǒng)中，創(chuàng)造性地稱為 CS-2，用于 Cerebras Systems 2，然后交付給客戶。它大約有 16…15 個機(jī)架單元高，大約 26 英寸。Sally，他不確定如何為您轉(zhuǎn)換為公制。那是什么……11,000厘米或類似的東西。