基于Jetson Nano模塊開發(fā)的Thrust Nano 5G施工安全監(jiān)控系統(tǒng)可以部署各種主流的深度目標檢測模型,例如:YOLO v3-v5系列模型以及SSD_Mobilenet系列模型。
作為資深開發(fā)者,已經(jīng)使用了好幾代NVIDIA Jetson產(chǎn)品的林銳說:“Jetson系列有多個不同型號的設備,適用于不同的應用場景和需求。因此,在選擇Jetson設備時,需要根據(jù)自己的需求選擇合適的設備!
來自湖北工程學院數(shù)學與統(tǒng)計學院的學生團隊,在導師張?zhí)旆驳膸ьI(lǐng)下,決定設計一款適合野外作業(yè)的便攜式巖石分類檢測系統(tǒng)。
軟件和AI模型的更新通常需要數(shù)周時間完成,但是研發(fā)團隊使用NVIDIA平臺顯著加快了開發(fā)時間,確保了開發(fā)和部署流程的快速性,更重要的是,能夠在現(xiàn)場環(huán)境中測試軟件,確保準確性和FPS符合解決方案的要求。
袁博融老師是在碩士畢業(yè)前才接觸NVIDIA Jetson的。那時剛完成論文答辯,有了些空閑時間,便趁著教育優(yōu)惠還沒到期入手了一套NVIDIA Jetson TX1。
復旦大學類腦人工智能科學與技術(shù)研究院副院長王守巖教授團隊開創(chuàng)性地應用 NVIDIA Jetson 邊緣計算平臺,打造了可移動智能腦機交互平臺,并應用該平臺進行了一系列腦疾病相關(guān)的科學及轉(zhuǎn)化研究。
借去年NVIDIA Jetson邊緣AI設備擴展之勢,NVIDIA Jetson Orin NX 16GB模塊現(xiàn)已在全球上市。
前面兩篇文章,已經(jīng)將Triton的“無狀態(tài)模型”、“有狀態(tài)模型”與標準調(diào)度器的動態(tài)批量處理器與序列批量處理器的使用方式,做了較完整的說明。
在“Triton推理服務器11-模型調(diào)度器(1)”文章中,已經(jīng)說明了有狀態(tài)(stateful)模型的“控制輸入”與“隱式狀態(tài)管理”的使用方式,本文內(nèi)容接著就繼續(xù)說明“調(diào)度策略”的使用。
大部分要學習Triton推理服務器的入門者,都會被搜索引擎或網(wǎng)上文章引導至官方的https://developer.nvidia.com/nvidia-triton-inference-server處(如下截圖),然后從“Get Started”直接安裝服務器與用戶端軟件、創(chuàng)建基礎(chǔ)的模型倉、執(zhí)行一些最基本的范例。
Monarch成立于2018年。此番推出MK-V Founder為該公司兩年的開發(fā)沖刺畫上了句號。這款拖拉機搭載了節(jié)能的NVIDIA Jetson邊緣AI和機器人平臺、攝像頭以及GPS,旨在提高糧食生產(chǎn)產(chǎn)量和減少全球碳排放。
本系列文章的目的就是為大家解開這些變量的意義,讓讀者能清楚識別出這些變量之間的關(guān)系,提升對Dockerfile配置文件的了解,最終協(xié)助讀者進一步簡化出自己所需要的特定腳本與配置內(nèi)容,以自己創(chuàng)建Docker鏡像的能力。
使用Docker容器的最大好處就是“獨立性強”,在前面文章中我們教大家如何使用NVIDIA在NGC提供創(chuàng)建好的l4t-ml系列鏡像為基礎(chǔ),去創(chuàng)建各種機器學習/深度學習的開發(fā)或部署用途的獨立容器,包括各種基于TensorRT的推理應用、基于Pytorch的各種YOLO相關(guān)應用等等。
YOLO(You Only Look Once)算法是近年非常知名的深度神經(jīng)網(wǎng)絡結(jié)構(gòu),由于創(chuàng)始人在v3版本之后便宣布退出領(lǐng)域,于是從v4版之后便出現(xiàn)較多的分支,到2022年8月已經(jīng)有v5、v6與v7與三大分支爭奇斗艷,其中v7版是v4版的增強,由同一個團隊進行開發(fā)與維護。
前面教大家使用DeepStream的Docker鏡像去創(chuàng)建自己的Python工作環(huán)境,其好處是即使Jetson設備需要使用JetPack重新安裝系統(tǒng),我們只要重新啟動這個Docker容器就可以,無需重復環(huán)境配置的工作。
NVIDIA亞太區(qū)開發(fā)者發(fā)展總監(jiān)李銘告訴記者,NVIDIA邊緣計算的最大特點是基于統(tǒng)一的架構(gòu),也就是Jetson與其他NVIDIA平臺上所用的相同AI軟件和云原生工作流相兼容,并能為客戶提供構(gòu)建軟件定義的自主機器所需的性能和能效。
前面一篇文章已經(jīng)帶著大家將DeepStream容器配置Python使用環(huán)境,本文的重點就是繼續(xù)執(zhí)行實際的開發(fā)操作。
LV5 CTRL TWR是由用于創(chuàng)建GPU加速應用的NVIDIA CUDA庫以及用于邊緣高性能AI的NVIDIA Jetson AGX Orin模塊構(gòu)建的。NVIDIA GPU在云端用于全局車隊路徑規(guī)劃。
Nvidia即將推出Jetson AGX Orin平臺的一款生產(chǎn)用模塊,旨在嵌入設備內(nèi)部,并為機器人和邊緣計算等各種應用提供AI加速。