谷歌出手AI芯片和公有云市場 TPU首次對外全面開放
今日報(bào)道,谷歌向外宣布TPU將啟動全面開放模式,據(jù)悉這是谷歌TPU首次對外全面開放。TPU的威力極大,它的出現(xiàn)必將給AI芯片和公有云市場將迎來新的變局。Google的機(jī)器學(xué)習(xí)利器Cloud TPU,在今日真的開始面向更多用戶開放了。
谷歌又出手了。又是一個(gè)大招。
這次谷歌傳奇Jeff Dean親自在推特上連發(fā)10條,滿懷激動地對外宣布著這個(gè)消息:谷歌TPU首次對外全面開放。
AI芯片和公有云市場將迎來新的變局。
之前英偉達(dá)的黃仁勛在談到谷歌TPU時(shí),就曾強(qiáng)硬的表示,對TPU的威脅不以為然。當(dāng)時(shí),老黃還列了列參數(shù):新的TPU可以實(shí)現(xiàn)45 teraflop的運(yùn)算能力,而英偉達(dá)最新的Volta GPU則能達(dá)到120 teraflop。
但如果你關(guān)注人工智能,肯定知道TPU的威力。谷歌搜索、翻譯、相冊等應(yīng)用,都有TPU在提供AI加速。更值得一提的是,AlphaGo也是借力TPU,稱霸圍棋界。
而且谷歌這款芯片還專門對AI進(jìn)行了優(yōu)化。
谷歌在官方博客中表示,在新發(fā)布的Cloud TPU幫助下,不到一天的時(shí)間,你就可以在ImageNet上把ResNet-50模型訓(xùn)練到75%的精度,成本不足200美元。
從現(xiàn)在起,每小時(shí)6.5美元,你也能用上谷歌TPU了。
理論上。
Google的機(jī)器學(xué)習(xí)利器Cloud TPU,從今天開始面向更多用戶開放了。
Cloud TPU今天發(fā)布了beta版,這一版本通過谷歌云平臺(Google Cloud Platform, GCP)提供,想幫更多機(jī)器學(xué)習(xí)專家更快地運(yùn)行模型。
Cloud TPU是谷歌設(shè)計(jì)的硬件加速器,專為加速、擴(kuò)展特定的TensorFlow機(jī)器學(xué)習(xí)工作負(fù)載而優(yōu)化。
每個(gè)Cloud TPU包含4個(gè)定制化的ASIC,單塊板卡的計(jì)算能力達(dá)到每秒180萬億次浮點(diǎn)運(yùn)算(180 teraflops),有64GB的高帶寬內(nèi)存。
這些板卡可以單獨(dú)使用,也可以通過超高速專用網(wǎng)絡(luò)連接起來,形成“TPU pod”。今年晚些時(shí)候,Google會開始通過GCP供應(yīng)這種更大的超級計(jì)算機(jī)。
Google設(shè)計(jì)Cloud TPU的目標(biāo),是針對性地為TensorFlow工作負(fù)載提供一分錢一分貨的差異化性能,讓研究人員嫩更快地進(jìn)行迭代。
例如:
你能通過自定義、可控制的Google Compute Engine虛擬機(jī),對聯(lián)網(wǎng)的Cloud TPU進(jìn)行交互式的、獨(dú)享的訪問,而不用等待自己的工作在共享計(jì)算集群上排隊(duì)。
你能連夜在一組Cloud TPU上訓(xùn)練出同一個(gè)模型的幾個(gè)變體,第二天將訓(xùn)練出來的最精確的模型部署到生產(chǎn)中,而不用等幾天、甚至幾周來訓(xùn)練關(guān)鍵業(yè)務(wù)機(jī)器學(xué)習(xí)模型。
不到一天的時(shí)間,你就可以在ImageNet上把ResNet-50模型訓(xùn)練到75%的精度,成本不到200美元。
更簡單的機(jī)器學(xué)習(xí)模型訓(xùn)練
過去,為定制ASIC和超級計(jì)算機(jī)編程需要深入的專業(yè)知識技能。相比之下,要對Cloud TPU編程,用高級TensorFlow API就可以了,Google還開源了一組高性能的云TPU模型實(shí)現(xiàn),上手更簡單:
Google在博客中說,經(jīng)過對性能和收斂性的不斷測試,這些模型都達(dá)到了標(biāo)準(zhǔn)數(shù)據(jù)集的預(yù)期精度。
以后,Google會逐漸推出更多模型實(shí)現(xiàn)。不過,想要探險(xiǎn)的機(jī)器學(xué)習(xí)專家也可以用他們提供的文檔和工具,自行在Cloud TPU上優(yōu)化其他TensorFlow模型。
現(xiàn)在開始用Cloud TPU,等到今年晚些時(shí)候Google推出TPU pod的時(shí)候,訓(xùn)練的時(shí)間-精度比能得到驚人的提升。
在NIPS 2017上,Google曾宣布ResNet-50和Transformer兩個(gè)模型在完整TPU pod上的訓(xùn)練時(shí)間,都從大半天下降到了30分鐘以內(nèi),不需要改動任何代碼。
可擴(kuò)展的機(jī)器學(xué)習(xí)平臺云TPU還簡化了機(jī)器學(xué)習(xí)計(jì)算資源的規(guī)劃和管理:
你可以為團(tuán)隊(duì)提供最先進(jìn)的機(jī)器學(xué)習(xí)加速,并根據(jù)需求的變化動態(tài)調(diào)整生產(chǎn)力。
你可以直接用經(jīng)過Google多年優(yōu)化的高度集成機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施,無需投入大量金錢、時(shí)間、專業(yè)人才來設(shè)計(jì)、安裝、維護(hù)現(xiàn)場機(jī)器學(xué)習(xí)計(jì)算集群,不用考慮供電、冷卻、聯(lián)網(wǎng)、存儲要求等問題。
Google Cloud TPU經(jīng)過預(yù)先配置,不需要安裝驅(qū)動程序,因此,也不用想方設(shè)法讓一大群工作站和服務(wù)器的驅(qū)動程序保持最新。
和其他Google云服務(wù)一樣,有復(fù)雜的安全機(jī)制保護(hù)著你的數(shù)據(jù)。
Google說要為客戶的每個(gè)機(jī)器學(xué)習(xí)負(fù)載提供最適合的云服務(wù),除了TPU之外,他們還提供英特爾Skylake等高性能CPU,和包括英偉達(dá)Tesla V100在內(nèi)的高端GPU。
開始使用吧Cloud TPU今天開始提供,數(shù)量有限,按秒計(jì)費(fèi)。每個(gè)Cloud TPU每小時(shí)6.5美元。
要使用beta版的Cloud TPU,需要填個(gè)表,描述一下你要用TPU干什么。
Google說,會盡快讓你用上Cloud TPU。
2月27日,Google還要開一場在線講座,再細(xì)致地談一談Cloud TPU。
在Google的博客文章中,提到了兩家客戶使用Cloud TPU的感受。
一家是投資公司Two Sigma。他們的深度學(xué)習(xí)研究現(xiàn)在主要在云上進(jìn)行,該公司CTO Alfred Spector說:“將TensorFlow工作負(fù)載轉(zhuǎn)移到TPU上,大大降低了編程新模型的復(fù)雜性,縮短了訓(xùn)練時(shí)間。”
另一家是共享出行公司Lyft。深度學(xué)習(xí)正在成為這家公司無人車研究的重要組成部分。