NVIDIA 在 GTC2022 發布了 Jetson 系列王者：NVIDIA Jetson AGX ORIN 邊緣運算開發套件之後，就CAVEDU來看，對於邊緣運算裝置的日常：收集資料、訓練模型與部署模型這個流程上，是相當不錯的解方。Jetson Nano 這個等級的邊緣裝置為了平衡價格、算力，還要能做成一台可由行動電源供電的機器人，自然在許多地方受限了，就讓老大哥 ORIN 來幫忙吧！

一如當年 Jetson nano 發布之後，我們就覺得這套產品在規格、價格、生態系與社群支援(資源)上都拿捏了一個很好的平衡點，也確實造成了一定的熱度。 CAVEDU 除了多位講師取得 Jetson AI 專家的資格，我也取得了 Jetson AI 大使並榮獲白金獎(推廣人數全球第一！)的肯定喔

我(阿吉)常常和學生說，時間也是成本的一種。當然，學生比較難做到課金升級這件事，但就算是 Google Colab 免費版，也是會遇到記憶體、使用時間與可用算力等限制。試想一下情境：

教學現場一直以來低估一件事：軟體環境架設的一致性很難達成與維護。現在遠距教學更加普及，老師不再只須要管好一間電腦教室，還要"隔空"處理學生的電腦。但學生對於環境架設如果卡住，通常也都是兩手一攤，如果有一個server可以又快又好地處理神經網路模型訓練，該有多好？

速度很重要，然後呢？

根據[Bring AI to the edge ! NVIDIA Jetson AGX ORIN 邊緣運算開發套件]一文說明，Jetson Orin 的規格當然要配得上它的售價，但如果只看規格好像又不夠，就讓我們用 [[活動紀錄] 2021 RK-Jetbot機器學習道路識別競賽-中區邀請賽] 這個情境來看，學生需要反覆進行以下步驟：

• 操作 Jetbot (Jetson nano 為核心的機器人) 來收集道路資料
• 整理好道路影像，動輒數百甚至上千張彩色圖片
• 回傳到 notebook 進行訓練神經網路模型 (這裡最耗時間)
• 把神經網路模型放回到 Jetbot 上來驗證辨識效果並調整機器人參數 (反覆操作)

用資料來佐證！

由下表可以看到相同資料集、訓練20回合數的前提下，不同 Jetson 平台的訓練時間，Jetson AGX Orin 的訓練時間是 28秒 ！如果是在同一個教室中的話，Jetbot 收集到的資料可以透過區域網路，或USB隨身碟來傳輸，而 Orin 訓練好的神經網路模型也可以相同的方式送回 Jetbot。

經實測可以節省大量時間，開發環境也單純多了！

在 Jetson nano 上原場考照(訓練神經網路模型)可以嗎？可以，但時間非常可觀(800秒/20回合)，另外還要注意 Jetson nano 在訓練的過程中，系統會因為耗用大量資源而近乎當機…

教學現場考量

就CAVEDU長期規畫各種軟硬體整合的課程的角度，課程能否成功就在於以下四個項目可否平衡。對許多先進來說，這當然是老生常談，但在此就再強調一次。

歡迎洽詢體驗

如果對於 orin 的威力想要體驗一下的話，歡迎參考相關文章，我們對於 orin 配置於教學現場來提升邊緣預算課程的順暢度下了很多功夫，不論是軟體硬體整合與課程規劃上，都有很多實務經驗，歡迎多多洽詢喔！

相關文章

• Bring AI to the edge ! NVIDIA Jetson AGX ORIN 邊緣運算開發套件
• [新品開箱] NVIDIA® Jetson AGX Orin 開發套件開箱及系統安裝