Q?版老黃帶著硬核技術(shù)再登場,有點可愛,很有東西
時間:2021-11-11 14:23:12
手機(jī)看文章
掃描二維碼
隨時隨地手機(jī)看文章
[導(dǎo)讀]編譯|禾木木出品|?AI科技大本營(ID:rgznai100)看到下面這個老黃是不是覺得很Q~11月9日,GTC大會再次來了,英偉達(dá)創(chuàng)始人兼CEO黃仁勛再次從自己虛擬廚房走出來。本次GTC大會都有哪些亮點呢?Q版黃仁勛?英偉達(dá)展示過如何使用Omniverse來模擬倉庫、工廠、物理...



Q 版黃仁勛



Omniverse Avatar 發(fā)布
在此次大會上,英偉達(dá)宣布推出 NVIDIA Omniverse Avatar,這是一個用于生成交互式 AI 虛擬形象的技術(shù)平臺。




Omniverse Avatar 技術(shù)應(yīng)用
Omniverse Avatar 的語音識別是基于英偉達(dá) Riva,這是一種軟件開發(fā)工具包,可識別多種語言的語音。Riva 還用于使用文本到語音功能生成類似人類的語音響應(yīng)。


NeMo Megatron 框架
在 GTC 大會上,NVIDIA 推出了為訓(xùn)練具有數(shù)萬億參數(shù)的語言模型而優(yōu)化的 NVIDIA NeMo Megatron 框架、為新領(lǐng)域和語言進(jìn)行訓(xùn)練的可定制大型語言模型(LLM)Megatron 530B 以及具有多 GPU、多節(jié)點分布式推理功能的 NVIDIA Triton 推理服務(wù)器。這些工具與 NVIDIA DGX 系統(tǒng)相結(jié)合,提供了一個可部署到實際生產(chǎn)環(huán)境的企業(yè)級解決方案,以簡化大型語言模型的開發(fā)和部署。“訓(xùn)練大型語言模型需要極大的勇氣:耗資上億美元的系統(tǒng)、持續(xù)數(shù)月在數(shù) PB 數(shù)據(jù)上訓(xùn)練萬億參數(shù)模型,離不開強(qiáng)大的信念、深厚的專業(yè)知識和優(yōu)化的堆棧”黃仁勛表示。因此,他們創(chuàng)建了一個專門訓(xùn)練擁有數(shù)萬億參數(shù)的語音、語言模型的框架——NeMo Megatron。NeMo Megatron 是在 Megatron 的基礎(chǔ)上發(fā)展起來的開源項目,由 NVIDIA 研究人員主導(dǎo),研究大型 Transformer 語言模型的高效訓(xùn)練。該框架已經(jīng)經(jīng)過優(yōu)化,可水平擴(kuò)展至大規(guī)模系統(tǒng)并保持很高的計算效率。該框架使用數(shù)據(jù)處理庫自動處理 LLM 復(fù)雜訓(xùn)練,可以獲取、管理、組織和清理數(shù)據(jù)。它使用先進(jìn)的數(shù)據(jù)、張量和管道并行化技術(shù),使大型語言模型的訓(xùn)練能夠高效地分布在數(shù)千個GPU上。為了解決大模型推理問題,NVIDIA 創(chuàng)建了 Triton 推理服務(wù)器。黃仁勛表示,Triton 是世界上第一個分布式推理服務(wù)器,可以在多個 GPU 和多個節(jié)點之間進(jìn)行分布式推理。有了 Triton,GPT-3 可以輕松運行在 8-GPU 服務(wù)器上;Megatron 530B 可以分布部署在兩個 DGX 系統(tǒng)中,推理時間從 1 分鐘縮短至半秒。
人工智能驅(qū)動軟件技術(shù)
英偉達(dá)還宣布了2項新人工智能驅(qū)動軟件技術(shù)——Nvidia Drive Concierge 和 Drive Chauffeur。機(jī)器人能夠在和駕駛員溝通后,調(diào)整車輛的行駛模式。最有趣的是 Nvidia Drive Concierge 這個AI助理與 Nvidia Drive AV 自動駕駛技術(shù)的集成,可以根據(jù)需求提供泊車。當(dāng)你說尋找停車位時,可以為你自動停車。本次GTC大會給大家展示了很多重要的點,你怎么看呢?參考鏈接:https://nvidianews.nvidia.com/news/nvidia-announces-platform-for-creating-ai-avatarshttps://www.nvidia.cn/gtc-global/keynote/