關(guān)于如何升級NVIDIA JETSON ORIN NANO到超級動力版本的詳細(xì)教程!
作為一個編程愛好者或人工智能項目的粉絲,NVIDIA最近宣布了一個令人興奮的消息。
即通過軟件將Jetson ORIN NANO kit升級為Jetson ORIN NANO Super,從而實現(xiàn)巨大的性能提升。
升級前后的開發(fā)板性能對比如下:
幾乎每個用戶在聽到這個消息后都非常興奮。畢竟,更高的性能意味著更多的可能性和更廣泛的應(yīng)用場景。
無論是在人工智能推理、機(jī)器人開發(fā)、大型語言模型還是邊緣計算項目中,Jetson Orin Nano Super都能提供超乎預(yù)期的強(qiáng)大計算能力。開發(fā)人員不僅可以在原有的基礎(chǔ)上進(jìn)一步優(yōu)化代碼來執(zhí)行更復(fù)雜的AI任務(wù),還可以通過改進(jìn)GPU和CPU性能來實現(xiàn)更高效的實時處理。
更重要的是,升級后的Jetson Orin Nano Super與現(xiàn)有的Orin Nano生態(tài)系統(tǒng)完全兼容,用戶無需更換硬件即可享受新的性能提升。無論是初學(xué)者還是經(jīng)驗豐富的開發(fā)人員,他們都可以使用這個強(qiáng)大的平臺來創(chuàng)建更智能、更快、更高效的項目。
所以很多用戶都有一個疑問。由于NVIDIA已經(jīng)正式宣布Jetson Orin Nano Super僅通過軟件更新推出。
那么我手中的Jetson Orin NANO 8GB官方套件可以直接升級到Super嗎?
答案是肯定的。
今天,我將分享一個詳細(xì)的教程,一步一步地解釋如何通過更新JetPack 6.1將現(xiàn)有的NVIDIA官方Jetson Orin NANO 8GB套件更新到Jetson Orin NANO Super。
1. 準(zhǔn)備
方法一:顯示屏;直接下載并使用Yahboom提供的虛擬機(jī)系統(tǒng)鏡像文件。
方法二:顯示屏;如果您使用自己的系統(tǒng),則需要下載并安裝最新版本的SDK Manager。
問:如何確定您當(dāng)前使用的SDK管理器是否是最新版本?
登錄SDK Manager賬號時,頁面提示invalid_request Authorization flow not allowed,提示您需要更新最新版本的SDK Manager。
如果無法正常更新SDK管理器。
請按照以下教程在Jetson Orin NANO 8GB開發(fā)板中重新安裝最新的SDK管理器。
注意:在此之前,您需要準(zhǔn)備一臺虛擬機(jī)或Ubuntu計算機(jī),并且不能直接在主板上操作。
1.1下載最新的SDK Manager
如下圖所示,耐心等待文件下載完成。
1.2安裝SDK管理器
進(jìn)入SDK管理器所在的文件夾,打開終端,運行deb package installation命令。
命令,如下所示。
Sudo DPKG -i sdkmanager_2.2.0-12021_amd64.deb
1.3修復(fù)依賴
為避免系統(tǒng)出現(xiàn)錯誤,建議在軟件安裝完成后直接執(zhí)行如下命令。
Sudo apt -fix-broken install
1.4安裝與使用
單擊SDK管理器圖標(biāo)或在終端中輸入如下命令啟動SDK管理器。
2. 讓你的Jeston ORIN NANO進(jìn)入閃爍模式
2.1使用跳線帽短接核心板下方的FC REC和GND引腳,使用電源適配器為Jetson ORIN NANO板供電,如下圖所示。
2.2然后,將Jetson ORIN NANO板通過Type-C接口連接到安裝了虛擬機(jī)的計算機(jī)上。
此時,您的計算機(jī)將顯示如下提示,請選擇“連接設(shè)備到虛擬機(jī)”,如下圖所示。
3. 將NVIDIA的官方原始圖像系統(tǒng)寫入Jetson ORIN NANO 8G板
3.1啟動并登錄SDK管理器。
3.2此時SDK管理器檢測到Jetson Orin NANO板,會自動彈出如下界面,需要我們選擇相應(yīng)的主板型號。
注意:如果SDK管理器提示Jetson ORIN NANO板無法識別。
請斷開Jetson板的直流電源和C型數(shù)據(jù)線,然后重新給Jetson板通電,再用C型數(shù)據(jù)線將Jetson Orin NANO 8GB開發(fā)板重新連接到虛擬機(jī)計算機(jī)上。
3.3如下圖所示,在查看完相應(yīng)內(nèi)容后,點擊右下角的“繼續(xù)”按鈕
3.4檢查如下圖所示。然后點擊右下角的“繼續(xù)”
(這里我們只安裝系統(tǒng)。待系統(tǒng)安裝成功并能夠正常啟動后,再考慮安裝其他組件環(huán)境)
3.5勾選“創(chuàng)建”,如下圖所示。
3.6此時,界面將顯示如下圖所示的進(jìn)度條。請耐心等待安裝完成。
3.7當(dāng)進(jìn)度條達(dá)到50%時,系統(tǒng)顯示如下界面。我們需要按照紅線框完成選擇。
在整個過程中,SDK管理器將自動控制Jetson板的彈出和安裝。
由于我們在步驟2.2中將Jetson ORIN NANO板連接到虛擬機(jī),因此這些設(shè)置通常會自動掛載到虛擬機(jī)中。
當(dāng)寫入即將完成時,我們需要通過單擊虛擬機(jī)選項手動將其掛載到虛擬機(jī)。如下所示。
3.8當(dāng)進(jìn)度條達(dá)到100%時,點擊右下角的“完成”。
4. 啟動系統(tǒng)
斷開Jetson ORIN NANO板的直流電源和C型數(shù)據(jù)線。將核心板下方的FC REC和GND引腳短接并拆除。
然后連接顯示器、鍵盤和鼠標(biāo),最后用直流電源適配器重新給它通電,Jetson ORIN NANO板就可以正常啟動了。
5. 安裝Jetson組件
5.1使用電源適配器為Jetson板供電,并通過Type-C接口將Jetson ORIN NANO板連接到安裝了虛擬機(jī)的計算機(jī)上。
啟動并登錄SDK管理器。如下圖所示,點擊右下角的“Continue”。
5.2檢查需要安裝的組件環(huán)境:SDK Manager會自動下載所有組件,點擊右下角的“Continue”,如下圖所示。
5.3接下來,系統(tǒng)會彈出如下界面。這里我們需要填寫之前啟動系統(tǒng)時設(shè)置的用戶名和密碼信息。
然后,點擊“安裝”
整個過程需要很長時間,所以請耐心等待。
5.4安裝完成后,點擊右下角的“完成”按鈕。
5.5設(shè)置電源模式為MAXN
6. 使用Jtop命令查看開發(fā)板的當(dāng)前內(nèi)部信息
6.1執(zhí)行以下命令,安裝Jtop
安裝python3-pip
sudo pip3安裝-U jetsonstats
6.2安裝完成后重新啟動系統(tǒng)
然后使用如下命令查看系統(tǒng)信息。
完成以上步驟后,您的Jetson ORIN NANO 8GB將變成Jetson ORIN NANO Super。
擁抱臉機(jī)器人
NVIDIA已與hug Face合作,加速LeRobot開放式人工智能平臺上的機(jī)器人研究。你可以在Jetson Orin Nano Super Developer Kit上運行HuggingFace LeRobot,它運行生成式人工智能模型,根據(jù)視覺輸入和先前的軌跡預(yù)測特定任務(wù)的動作。
生成AI驅(qū)動的聊天機(jī)器人與Ollama
在Jetson Orin Nano Super Developer Kit上運行生成式AI聊天機(jī)器人。這個聊天機(jī)器人的特點是帶有Open web的Ollama,這是一個廣泛使用的開源聊天機(jī)器人服務(wù)器接口,可以連接到本地運行的llm。它使用檢索增強(qiáng)生成(retrieve -augmented generation, RAG)進(jìn)一步增強(qiáng)用戶體驗和功能。
與Jetson AI Lab一起推進(jìn)生成式AI
Jetson人工智能實驗室是發(fā)現(xiàn)和試驗針對邊緣設(shè)備優(yōu)化的最新生成人工智能技術(shù)的中心。
通過營造一個開放協(xié)作和社區(qū)驅(qū)動的環(huán)境,NVIDIA與開發(fā)人員和合作伙伴共同推動開源邊緣人工智能和機(jī)器人學(xué)習(xí)。我們在Jetson設(shè)備上全面支持流行的機(jī)器學(xué)習(xí)框架和優(yōu)化的推理微服務(wù),您可以在Jetson計算機(jī)上快速構(gòu)建和部署最新的研究創(chuàng)新和模型,以跟上快速的創(chuàng)新步伐。
如下所示的示例NanoOWL開放詞匯實時對象檢測ViT。
如下圖所示,NanoDB多模態(tài)矢量數(shù)據(jù)庫具有交互式txt2img和img2img相似性搜索。
Jetson AI Lab提供近50個易于遵循的教程和預(yù)構(gòu)建的容器,讓任何經(jīng)驗水平的開發(fā)人員快速開始使用設(shè)備上的llm, slm和多模式vlm,以及vla,擴(kuò)散策略和語音模型的變體。它們都部署在本地,使用與云中使用的相同的優(yōu)化推理基礎(chǔ)設(shè)施。
Jetson AI Lab的協(xié)作、社區(qū)驅(qū)動的教程和資源大大降低了將高級生成AI部署到邊緣的進(jìn)入門檻。
注意:此解決方案目前僅適用于NVIDIA Jetson ORIN NANO 8GB官方套件。
Jetson ORIN NX主板目前不支持此功能。
另一條新聞是,NVIDIA還宣布,JetPack 6.1.1將于2025年1月隨JetPack 6.1.1一起發(fā)布針對JetPack Nano和Orin NX核心模塊的增強(qiáng)性能支持和文檔。
本文編譯自hackster.io