Arm 在今日（11/13）舉辦「Arm Unlocked Taipei 2025」，並特別邀請 Arm 資深副總裁暨物聯網事業部總經理 Paul Williamson，發表對 Edge AI 的深刻洞察。
「接下來，運算能力將真正走進裝置端，」Paul Williamson 表示，AI 已經真實存在於生活中，並且正走向邊緣，逐漸成為所有裝置的預設能力，無論是在消費性裝置、家庭產品、工業市場、智慧城市，都將看到 AI 的蹤跡。因此，AI 發展將帶來全新的使用者介面和體驗模式，例如當使用者詢問手機如何到達某地點時，手機會先進行情境感知，理解使用者身處的環境與需求，並拼湊多方資訊，再提供最佳規劃。
為什麼 AI 必須從雲端走向邊緣？Arm 的五大觀察
Paul Williamson 分析，推動 AI 運算從雲端走向終端的過程中，主要有五個驅動力。首先，「降低延遲」是 AI 必須走向邊緣的首要原因，因為在機械化裝置或人機互動介面等許多互動場景中，非常需要仰賴即時回應。
第二，「隱私」也是一項關鍵因素。隨著裝置中有越來越多感測器，使用者開始希望與個人相關的私密資訊能夠留在自己的裝置內，不會被傳送到其他地方。
第三個因素是「能效」。隨著 AI 運算越來越常在終端裝置上進行，運算效率的最佳化就變得格外重要，由於邊緣裝置最靠近感測器與使用者，若能在邊緣完成 AI 運算，不僅能減少資料往返，也能讓整體效益最大化。
第四個因素是「成本」。若要讓 AI 規模快速擴張，運算負擔不能全由雲端承擔，所以將部分 AI 推論移到邊緣端執行，等於讓使用者分擔部分運算成本，有助降低雲端服務提供者的壓力，並讓 AI 更具可持續性。
最後是「韌性」。Paul Williamson 指出，要讓 AI 在全球普及，不可能假設所有地區都隨時具備高速且穩定的網路，因此裝置必須能在離線或網路不佳的情況下，也能獨立運作並處理 AI 任務，這正是確保 AI 服務「隨時可用」的關鍵所在，也是韌性的一環。
Edge AI 裝置的三大發展方向
Paul Williamson 引用第三方數據指出，邊緣 AI 的基礎設施投資呈現明顯加速，預計在 2028 年將成長超過 60%。
Paul Williamson 表示，隨著 AI 能力愈趨成熟，未來市場將湧現大量全新類型的裝置，這些裝置的運算能力都會依照不同的 AI 使用情境進行設計與分層。不過，Paul Williamson 也強調，雖然現在邊緣 AI 已經呈現強勁增長，但將新技術轉化為實際產品並提供新的使用者體驗，需要與整個生態系合作，同時要改變既有硬體並安裝到實際使用的裝置上，仍需一段時間。
其中，Paul Williamson 認為最具代表性的發展方向包括三種新型態的 Edge AI 裝置。首先是「Always-on」的情境理解設備，這類設備平時會以低功耗方式處理影像等資料，只在必要時才啟動高效能推理。例如未來的智慧門不再僅是偵測有人靠近，而是能理解更完整的情境，辨識「是家人回家」，還是「有陌生人試圖闖入」。
第二類則是「具備高效推理能力的邊緣運算系統」，能在本地即時完成偵測、分析與自主決策，像是在機器人與各類自動化場景中，一旦系統察覺到值得關注的事件，就能自行規劃動作並即刻執行。
最後，Paul Williamson 也預期邊緣裝置將逐步走向「多模型協作」的模式，意即裝置端會同時運行多個專門且參數規模較小的模型，並依照使用者所在情境，進而在不同模型間靈活切換，提供更精準、即時的反應。
邊緣不是 AI 的終點，而是 AI 的起點
為了回應邊緣 AI 運算的快速成長，Paul Williamson 分享 Arm 的最新策略。首先是年初發表的 Cortex-A320，作為首款 Armv9 架構 IoT 處理器，可以因應 Python、PyTorch 等高階語言帶來的更大量記憶體與運算需求，特別適合在邊緣端執行 AI 模型。
Arm 也宣布將擴大 Arm Flexible Access 授權，讓企業能以更低成本使用，甚至讓新創以零成本採用，加速邊緣 AI 的部署。
至於落地節奏，Paul Williamson 預期新平台將優先出現在開發週期較快的消費性產品，包括觸控、手勢、智慧攝影等新型人機介面，之後再進一步擴展至工業自動化領域中。
「請大家不要低估 AI 的潛力，我們看到的是非常巨大的機會，」Paul Williamson 強調，Arm 相信邊緣不是 AI 的終點而是 AI 的起點。從裝置端的能效突破，到多模型協作帶來的新應用場景，未來的 AI 服務將不再只是仰賴單一雲端，而是由無數具備推理能力的裝置所共同構築。
