● NVIDIA AI Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調(diào)、檢索、防護到評估的全方位生成式 AI 模型服務(wù),以便部署自定義 Llama 3.1 NVIDIA NIM 微服務(wù)和新的 NVIDIA NeMo Retriever 微服務(wù),以實現(xiàn)準(zhǔn)確響應(yīng)
COMPUTEX — 2024 年 6 月 2 日— NVIDIA 與全球多家領(lǐng)先計算機制造商于今日共同發(fā)布一系列采用 NVIDIA Blackwell 架構(gòu)的系統(tǒng),這些系統(tǒng)搭載 Grace CPU 以及 NVIDIA 網(wǎng)絡(luò)和基礎(chǔ)設(shè)施,助力于企業(yè)建立 AI 工廠和數(shù)據(jù)中心,推動新一輪生成式 AI 突破。
NVIDIA Omniverse、Isaac和Metropolis助力Delta Electronics、Foxconn、和碩、Wistron以數(shù)字化方式構(gòu)建、模擬和運營工廠數(shù)字孿生
黃仁勛詳細介紹了推動新工業(yè)革命的全新半導(dǎo)體、軟件和系統(tǒng),它們將為新型數(shù)據(jù)中心、工廠、消費級設(shè)備、機器人等提供助力;并強調(diào)了降低成本和可持續(xù)增長的重要性。
COMPUTEX—2024 年 6 月 2 日—NVIDIA 于今日宣布,全球 2,800 萬開發(fā)者現(xiàn)可下載 NVIDIA NIM?——一種推理微服務(wù),通過經(jīng)優(yōu)化的容器的形式提供模型——以部署在云、數(shù)據(jù)中心或工作站上。借助 NVIDIA NIM,開發(fā)者能夠輕松地為 copilots、聊天機器人等構(gòu)建生成式 AI 應(yīng)用,所需時間從數(shù)周縮短至幾分鐘。
云服務(wù)提供商、GPU 云提供商和企業(yè)用戶紛紛采用 Spectrum-X;NVIDIA 網(wǎng)絡(luò)通過廣大系統(tǒng)制造商進入各個市場
桑迪亞實驗室正在利用檢索增強生成(RAG)技術(shù)創(chuàng)建 Kokkos 數(shù)據(jù)庫,并將其與 AI 模型打通。研究人員采用不同的 RAG 方法進行實驗,初步測試顯示出了可喜的成果。
基于先進的 NVIDIA 網(wǎng)絡(luò)、NVIDIA 全棧 AI 軟件和存儲技術(shù),可將集群中 Grace Blackwell 超級芯片的數(shù)量擴展至數(shù)萬個,通過 NVIDIA NVLink可將多達 576 塊 Blackwell GPU 連成一個整體,由NVIDIA 系統(tǒng)專家加速即時 AI 基礎(chǔ)設(shè)施的部署