英偉達(dá)剛剛發(fā)布了一款專(zhuān)為 AI 推理工作而設(shè)計(jì)的顯卡，它就是可以加速語(yǔ)音、視頻、搜索引擎、圖像神經(jīng)網(wǎng)絡(luò)的 Tesla T4 。在這之前，英偉達(dá)曾推出過(guò)類(lèi)似的 Tesla P4 。但新品可在相同的功耗下，提供高達(dá) 12 倍的性能，設(shè)立了推理負(fù)載效能的新標(biāo)準(zhǔn)。Tesla T4 擁有 320 個(gè)圖靈張量（TURring Tensor）內(nèi)核 + 2560 個(gè) CUDA 內(nèi)核。

它在 TU104 芯片的基礎(chǔ)上，啟用了 40 組著色器（SM），功率優(yōu)化到了 75W（從而無(wú)需 PCIe 外接供電）。顯存為 16GB GDDR6，帶寬 320GB/s 。

GPU 支持混合精度，例如 FP32、FP16、已 INT8 。此外 Tesla T4 還支持 INT4 和實(shí)驗(yàn)性的 INT1 精度模式，較其前身有顯著的進(jìn)步。

與前代產(chǎn)品一樣，Tesla T4 的功耗相當(dāng)?shù)驼{(diào)，服務(wù)器?PCIe 插槽的標(biāo)準(zhǔn)供電（75W）已經(jīng)足夠，無(wú)需外接 6-pin 。散熱方面，它也無(wú)需加裝主動(dòng)式的風(fēng)扇（服務(wù)器典型的內(nèi)風(fēng)道設(shè)計(jì)已經(jīng)足夠）。

英偉達(dá)透露，與桌面型號(hào)一樣，Tesla T4 也配備了 RT 核心，很適合光線追蹤或 VDI（虛擬桌面基礎(chǔ)架構(gòu)）。但這也意味著，該卡并不會(huì)用于大多數(shù)的推理工作負(fù)載。

Tesla 還擁有針對(duì) AI?視頻應(yīng)用的優(yōu)化特性，由硬件轉(zhuǎn)碼引擎提供動(dòng)力，提供兩倍于 Tesla P4 的性能。Nvidia 表示，這些計(jì)算卡可以同時(shí)解碼多達(dá) 38 路全高清視頻流。

此外，英偉達(dá)提供了圍繞 T4 的一系列技術(shù)，比如 TensorRT Hyperscale 平臺(tái)擴(kuò)展。該卡支持所有主要的深度學(xué)習(xí)框架，比如 PyTorch、TensorFlow、MXNet、以及 Caffee2 。

另外，Nvidia 提供了 TensorFlow RT5，這是該公司深度學(xué)習(xí)推理優(yōu)化器和運(yùn)行時(shí)（Runtime）引擎的新版本，支持圖靈張量核心與多精度工作負(fù)載。

Nvidia 還宣布了針對(duì)圖靈做出優(yōu)化的 CUDA 10，其中包含了優(yōu)化的庫(kù)、編程模型、以及圖形 API 的互操作性；以及基于 Xavier 的產(chǎn)品系列新名稱(chēng)（AGX 陣容），其專(zhuān)為從機(jī)器人、到自動(dòng)駕駛汽車(chē)的自動(dòng)機(jī)器系統(tǒng)而設(shè)計(jì)。

產(chǎn)品陣容包括 Drive Xavier 和新推出的 Drive Pegasus，首批為兩款 Xavier?處理器、以及兩款 Tesla V100 GPU 。Nvidia 現(xiàn)已將 GPU 更新為基于圖靈架構(gòu)的型號(hào)，另外還提供了類(lèi)似的、面向醫(yī)療應(yīng)用的 Clara 設(shè)計(jì)平臺(tái)（采用了單一的 Xavier 處理器 + 圖靈 GPU 的組合）。

Nvidia 專(zhuān)注于提升推理工作負(fù)載的性能，這也是該公司的一項(xiàng)戰(zhàn)略舉措。該公司預(yù)計(jì)，市場(chǎng)會(huì)在未來(lái)五年增長(zhǎng)至 200 億美元。同時(shí)，英特爾聲稱(chēng)世界上大多數(shù)的推理工作負(fù)載，仍運(yùn)行在基于至強(qiáng)處理器的平臺(tái)上。

鑒于英特爾在全球服務(wù)器市場(chǎng)擁有決定壟斷的地位（約 96%），這種說(shuō)法是相當(dāng)可信的。

在最近以數(shù)據(jù)為中心的創(chuàng)新峰會(huì)上，該公司宣布在 2017 年為 AI 工作負(fù)載銷(xiāo)售了 10 億美元的處理器。預(yù)計(jì)未來(lái)幾年，該數(shù)字還會(huì)迅速增長(zhǎng)。

顯然，推理工作負(fù)載將成為英偉達(dá)、英特爾、AMD 多家爭(zhēng)奪的熱門(mén)市場(chǎng)。英特爾憑借的，是其在服務(wù)器市場(chǎng)的先發(fā)優(yōu)勢(shì)。而低成本、低功耗的推理加速器（比如 Tesla T4），將對(duì)其發(fā)起每瓦特性能的巨大挑戰(zhàn)。

據(jù)悉，AMD 即將推出用于深度學(xué)習(xí)的 7nm Radeon Instinct GPU，谷歌也在積極開(kāi)發(fā)自研的定制芯片（比如 TPU）。未來(lái)幾年，我們或許能見(jiàn)證該領(lǐng)域的最終獲勝者。