生成式 AI 往入門級機器人下放,NVIDIA 新 Jetson 透露 Physical AI 硬體門檻變化

機器人要在本體跑生成式 AI、看懂影像再即時做出判斷,需要多強的硬體?NVIDIA 正把這類能力往入門級平台下放。NVIDIA 發表 Jetson Orin Nano 2,定位為入門級邊緣 AI 機器人電腦,提供 78 TOPS AI 算力、8 GB 記憶體與 8 核心 Arm CPU。

相較前一代 Jetson Orin Nano Super,新產品在相同尺寸下,推論效能最高提升至 2 倍;若在 15W 模式提供相同性能,功耗則可降低 40%,該產品預計 2027 年上半年上市。

不過,NVIDIA 所稱的 2 倍效能並不是指帳面 AI 算力翻倍。Orin Nano 2 的峰值算力為 78 TOPS,高於前一代 Orin Nano Super 的 67 TOPS;實際推論效能之所以能提升至 2 倍,主要來自 Tensor Core 改良與記憶體頻寬提升。也就是說,這次升級不只是拉高峰值算力,而是讓模型在有限功耗與空間下跑得更快。

模型越做越小,前沿 AI 能力開始往機器人下沉

NVIDIA 選在此時強化入門級 Jetson,也和 AI 模型本身的變化有關。NVIDIA 機器人與邊緣 AI 副總裁 Deepu Talla 表示,現在中小型前沿模型的準確度,已達到去年最大型前沿模型的水準,使更多即時 AI 能力能搬到邊緣設備。Jetson Orin Nano 2 因此可執行針對邊緣推論最佳化的 Cosmos、Nemotron、Gemma 4、Qwen 3 等語言與視覺語言模型。

Talla 在媒體簡報中進一步向《The Robot Report》表示,支撐 Physical AI 的開放模型在過去 3 個月明顯進步。一年前,前沿模型動輒有 6,000 億至 1 兆參數,如今相近準確度已開始能落到 Orin Nano 2 這類入門級邊緣產品。

台灣邊緣 AI 業者 Aetina 也指出,這使入門級邊緣裝置能從傳統影像辨識,進一步處理自然語言理解、視覺推理、情境理解與自主決策。對機器人而言,AI 不只是辨認眼前有哪些物體,而是能進一步理解環境與任務,再決定下一步行動。

機器人不能只堆算力,還得顧電池、散熱與尺寸

這種改變對機器人特別重要,因為實體設備不能無限制增加 GPU。家用機器人公司 Matic 就將相機資料直接留在機器本體處理,同時必須控制電池、機身尺寸與散熱。Matic 表示,希望在相同緊湊平台上加入對話式 AI、手勢辨識、語意理解、精細地圖與更自主的清潔能力。

Jetson Orin Nano 2 不代表複雜機器人從此只需要入門級晶片,NVIDIA 仍有 Jetson Thor 等更高階平台。但它反映另一個 Physical AI 的演進方向,也就是除了打造更大的機器人模型,模型小型化、推論最佳化與邊緣硬體效率也正在同步進步。當更多生成式 AI 與多模態能力能往入門級硬體移動,機器人把理解、推理、行動直接放到本體執行的硬體門檻,也開始鬆動。

從實驗室到產線,機器人正重新定義產業的樣貌。如果你也想站在第一線追蹤這場變革、寫出有觀點與洞察力的報導,《TechOrange 科技報橘》正在徵內容編輯!
👉了解職缺內容

【推薦閱讀】

單次示範就讓機器人學會新任務?Skild AI 推 S1 挑戰數百小時訓練舊模式

Amazon 想讓配送站更自動化:物流機器人下一個難題是什麼?

宇樹科技王興興:機器人軟體最快還要 2 至 3 年突破,泛化仍是關鍵瓶頸

*本文開放合作夥伴轉載,資料來源:《The Robot Report》NVIDIAAetinamatic《SiliconANGLE》,首圖來源: