NVIDIA 發布 Jetson Orin Nano 2,定位是一部細小、面向入門級邊緣 AI 的機械人電腦。簡單講,佢係畀機械人、無人機同鏡頭系統喺「現場」直接處理生成式 AI、自主導航及視覺分析,而唔使每一個請求都送上雲端。NVIDIA 表示,新款產品提供 78 TOPS AI 運算,推理效能是 Jetson Orin Nano Super 的兩倍,同時維持相同外形尺寸。模組連同開發者套件預計於 2027 年上半年推出。
2
3
7
規格重點:78 TOPS、8GB 記憶體及 8 核 CPU
Jetson Orin Nano 2 包括:
- 78 TOPS AI 運算能力
- 8GB 記憶體
- 8 核 Arm CPU
- 與上一代相同的細小外形尺寸
NVIDIA 將推理效能提升歸因於更新後的 Tensor Cores,以及更高的記憶體頻寬。公司形容系統的功耗範圍為 40W,並表示在 15W 模式下,以相同性能運作時,耗電量較上一代系統低 40%。
3
12
不過,以上數字屬於 NVIDIA 對平台的聲稱,唔應理解為每一款模型、每一種工作負載或所有部署環境都一定會得到相同結果。實際表現仍會受軟件套件、模型大小、散熱及運作條件影響。
針對本地語言及多模態 AI
Jetson Orin Nano 2 的其中一個賣點,是可以喺邊緣裝置直接運行現代語言模型及視覺語言模型,而唔係完全依賴雲端推理。對需要同時處理鏡頭畫面、語音、感應器數據及即時決策的機械而言,呢種安排可以減少裝置對遠端服務的依賴。
5
8
9
NVIDIA 主要瞄準以下幾類實體 AI 系統:
- 送貨及巡查無人機
- 工業及其他自主機械人
- 家居機械人
- 視覺 AI 系統及智能鏡頭
喺呢些應用入面,本地處理可以協助裝置完成環境感知、人機互動、導航及控制,並喺需要即時反應的情況下直接作出行動。NVIDIA 將呢部電腦定位為開發者建立「識睇、識理解、識行動」機械的入門平台。
2
3
「前沿」AI 落到邊緣裝置,NVIDIA 點樣解讀?
NVIDIA 表示,較小型及中型的前沿模型,現時可以達到上一年最大型前沿模型的準確度,並以此說明更細小的自主裝置開始有機會進行即時推理。
3
但要留意,呢個仍然係 NVIDIA 的產品定位及性能聲稱。現有證據未有提供獨立基準測試,證明所有小型或中型模型都可以媲美所有上一年的大型模型。較穩妥的理解是:NVIDIA 認為模型效率提升,加上硬件效能進步,正逐步擴大可以喺本地運行的生成式 AI 工作範圍。
Wing、Matic Robotics 等公司率先探索
NVIDIA 表示,全球已有超過 300 萬名開發者使用其機械人軟件平台,並點名 Cognex、Doosan Bobcat 及 Matic Robotics 為首批採用或評估 Jetson Orin Nano 2 的公司。
3
目前公布得較清楚的早期應用包括:
- Wing:探索將 Jetson Orin Nano 2 用於送貨無人機,重點是提升反應速度及能源效益,並有望令送貨更快、更可靠。
3
- Matic Robotics:採用新平台開發家居清潔機械人,應用方向包括對話式 AI、手勢偵測、語意及精準地圖、即時環境感知、人機互動、導航及自主清潔。
3
- Cognex 及 Doosan Bobcat:兩家公司被列為早期採用者或評估者,但現有公布資料未有交代佢哋各自具體使用 Jetson Orin Nano 2 的產品或場景。
3
NVIDIA 亦表示,生態圈夥伴正開發載板、完整硬件系統及參考設計,協助客戶縮短產品推出市場所需時間。
3
Jetson 在 NVIDIA 機械人版圖中的位置
Jetson 可以理解為部署喺機械人身上的「現場電腦」:負責在實際裝置運作時執行環境感知、多模態 AI 及即時控制。
2
3
NVIDIA 更廣泛的機械人策略,會將實體機械同數據中心運算及模擬連接起來。在呢個較大的架構中,DGX 用於大規模 AI 運算及訓練;Omniverse 及 Cosmos 則支援虛擬環境、合成數據、模擬及機械人開發流程,而 Jetson 就係將相關能力帶到實體機械上的邊緣端。
不過,現有針對今次發布的資料,未有完整證實所謂「三部電腦」的精確表述,亦未有將 Omniverse、Cosmos 及 DGX 的所有連接逐一列為 Jetson Orin Nano 2 發布細節。因此,較有根據的結論是:NVIDIA 正把 Jetson 放喺一個更完整的機械人平台生態中,作為實際部署層,而唔只係單純發布一枚處理器。
2
3
總結:細機械人本地跑更複雜 AI
Jetson Orin Nano 2 的目標,是令小型機械人、無人機及視覺系統可以更實際地喺本地運行語言、影像及自主推理模型。核心規格包括 78 TOPS、8GB 記憶體及 8 核 Arm CPU;NVIDIA 就聲稱,新款產品在相同細小外形下提供兩倍推理效能,並可在相同性能下減少 40% 耗電。
2
3
至於產品能否真正改變入門級機械人市場,最後仍要睇實際支援哪些模型、軟件最佳化程度、散熱限制及獨立測試結果。現階段可以肯定的是,NVIDIA 正嘗試將更強的生成式 AI 及自主決策能力,推近到真正需要感知環境和即時行動的機械身上。