文／Arm 台灣總裁黃曉剛
自生成式 AI 的巨浪襲來，全球科技產業陷入了一場以算力為名的「雲端軍備競賽」。然而，過去幾年 AI 的演進高度依賴「集權式」的雲端架構（Cloud-centric），雖然提供了強大運算力，但傳輸延遲的瓶頸、隱私資料外洩的隱憂，以及資料中龐大的能耗壓力，已成為智慧生活普及化的門檻。
隨著 2026 年「智慧運算新紀元」的到來，我們正在目睹一場大規模的「運算主權移轉」。AI 運算正從遙遠的資料中心，遷移至我們口袋裡的終端裝置、工廠的機器人以及具備主動感知的 AI 定義汽車。這不僅是技術位置的更迭，更代表「分散式架構」的崛起，讓裝置具備了不依賴雲端的即時決策和執行能力。
從「萬能大腦」進化為「數位夥伴」——「每瓦智慧」是關鍵
在這一波趨勢中，單純的算力規模已不再是唯一指標，衡量智慧的新標準將演進為「每瓦智慧（Intelligence per Watt）」，也就是單位能耗下能夠輸出的有效 AI 算力。隨著使用者對裝置端 AI 體驗的期待不斷提升，從即時助理到個人化服務，AI 正快速地往手機或穿戴裝置中運行，如何以極致能效進行複雜推論，將成為定義「終端自主權」的關鍵。
以視覺語言模型（VLM）在終端裝置的應用為例，它能辨識螢幕內容並理解操作意圖，使終端從被動工具演進為具備主動性的「AI 代理（AI Agent）」。這種技術能內化使用者習慣、預判需求並跨應用程式協調整合。要支撐這種完全在終端即時運行的個人化體驗，底層架構的能源效率表現正是決定性的技術優勢。
這種運算自主權的覺醒，主要源於市場對低延遲處理的強烈需求，以及對資料自主性與隱私保護的高度重視。未來，AI 將從遠在天邊的「通用大腦」，轉變為近在咫尺、具備環境感知能力的「數位協作夥伴」。
打破雲端終端的二元對立，從底層架構轉變成「協同智慧」
目前的產業競爭已不再是雲端與邊緣的零和賽局，而是從過去「凡事上雲」或「純終端運算」的二元對立，演變為整合性更強的「協同智慧（Collaborative Intelligence）」。在新模式下，雲端與終端不再是獨立的資訊孤島，而是一個混合的運算框架，讓系統能根據工作負載的複雜度、即時性需求與資安敏感度，進行動態的算力調度：將高能耗的大規模訓練保留在雲端，而將需要即時回應的推論與隱私感知留在邊緣。
更深層的變革在於「主權」的體現。如 AWS Graviton、Google Axion 與 Microsoft Cobalt 等雲端巨頭，正引領「系統級協同設計」的風潮。他們正逐步打破對傳統通用晶片的依賴，轉而從底層軟硬體堆疊開始與 Arm 合作，打造針對特定 AI 框架最佳化的客製平台。這種垂直整合確保了從基礎設施到應用端的絕對掌控力與效率。
守護數位資產主權，以「硬體級安全」建立信任基礎
隨著晶片製程接近物理極限，半導體創新正從追求通用運算（General-purpose）轉向「異質整合（Heterogeneous Integration）」與「特定任務加速（Domain-Specific Acceleration）」。然而，當運算能力大規模遷移至邊緣端，分散式的架構也代表著防禦邊界將被打破；若沒有強大的底層防護，終端裝置將成為資安防禦中最脆弱的新破口。
這場安全變革的勝負，取決於能否將防禦機制從「軟體外掛」徹底轉化為「硬體內建」。要達成此目標，必須從定義運算邏輯的底層指令集架構（ISA）著手。作為全球運算標準的定義者，Arm 在 Armv9 架構中導入了 MTE（記憶體標籤擴充技術）等硬體級原生安全特性，讓安全性不再是事後的補強，而是深植於晶片設計的基礎中。這種信任機制的建立，關鍵在於賦予硬體原生的「隔離能力」，確保裝置在執行高價值 AI 運算時，能從底層阻絕惡意篡改與資料攻擊。
唯有當企業核心機密與個人隱私能在終端獲得硬體級的守護、而不需被迫上雲時，使用者才能真正建立對 AI 處理高價值任務的信任感。這種「硬體級安全、本地端處理」的雙重保障，正是 AI 應用從酷炫科技展示邁向全面應用落地的關鍵基礎。
應用落地：從 SLM 到邊緣 AI 的全面滲透
終端 AI 的優勢在於對在地情境的深度理解。透過模型蒸餾與量化技術，小型語言模型（SLM）正以極低功耗實現過去僅能由雲端處理的複雜任務。
這種技術在穿戴式醫療與智慧照護領域已有具體成果。例如 Respiro 透過低功耗處理器，讓感測裝置能直接在邊緣端分析呼吸模式與資料，透過「本地即時分析」精準監控病情並提供預警。同樣的技術也落實在台灣新創 RelaJet 的應用中，他們利用 Arm 核心驅動語音分離引擎，讓聽障使用者在嘈雜環境重拾清晰對話。當技術能轉化為守護健康的後盾，或實現「全天候舒適配戴」的體感時，AI就不再是冰冷的規格，而是賦予人類主動權的科技。
實體 AI 的覺醒，機器人走入日常與照護
當 AI 獲得了「身體」，所謂的「自主權」便能從數位世界延伸至實體世界。透過「世界模型（World Models）」，機器人能在精準反映真實世界限制的虛擬環境中完成訓練，大幅降低開發風險。實體 AI 的覺醒正驅動機器人從工廠柵欄後的固定手臂，化身為穿梭於人類社會各個角落的智慧夥伴。
目前的實體 AI 應用已呈現爆發式成長，涵蓋了從室內外的自動配送、零售商店的智慧導覽，到醫療體系中的精準照護與行動輔助裝置。在這些多元應用的背後，Arm 始終扮演著推動技術實現的關鍵角色。以我們與韓國人工智慧與機器人製造商 ROBOTIS 的合作經驗為例，透過 Arm 高效能運算架構的支援，ROBOTIS 成功將 AI 運算整合進 GAEMI 配送機器人中，使其能敏捷地應對電梯搭乘、穿梭自動門等複雜的室內外環境；而其專為機器人設計的 DYNAMIXEL 智慧致動器，更是憑藉 Arm 的低延遲處理能力，成為實現擬人化精準動作的技術關鍵。
然而，要讓實體 AI 在動態的人類環境中安全運作，極度依賴「邊緣端」的高效率即時判斷。這正是 Arm 扮演「神經中樞」的角色所在，透過將高效能、低延遲的運算核心深度植入感測器與致動器等基礎元件，將強大算力直接轉化為實體執行力。這種來自底層的技術驅動，不僅讓機器人展現出極高的動作敏捷度，更確保了終端設備能具備長期穩定的實戰能力，成為解決勞動力缺口與支撐高齡社會轉型的關鍵力量。
跨裝置個人智慧型網路，提供全新「運算主權」體驗
展望未來，智慧體驗將演變得「更加個人化」。我們的智慧手機、AI PC、智慧家庭網路，與交通工具的智慧座艙（Smart Cockpit）將不再是獨立的資訊孤島，而是共享同一個「智慧框架」。
在這個架構下，資料與個人情境不再被鎖在單一雲端供應商手中，而是在裝置間安全地自主流轉。透過 Windows on Arm、Android 與 IoT 框架的底層統一，開發者能實現「一次開發，全域部署」。同時，透過 Arm KleidiAI 的支援，可在多元硬體平台上進一步最佳化 AI 工作負載。從辦公室的 AI PC 到進入智慧座艙，AI 助理都能瞬間承接所有任務，這就是真正屬於個人的「私密運算主權區」。
智慧自主權的未來，源自對每一瓦的極致追求
當智慧運算向雲端之外擴展，預告著一個萬物皆具備即時感知、決策能力，且智慧無所不在的未來。這不只是半導體產業的技術命題，更是對運算效率與資料隱私的重新定義。這一點也進一步透過 Armv9 架構的創新獲得強化，例如用於機密運算的 Realm Management Extension（RME），以及提升記憶體安全性的 Memory Tagging Extension（MTE），可從底層建立安全與隱私保障。從 Arm 的視角，真正的智慧，不僅體現在極致的能源效率表現，更在於透過標準化且具備高度彈性的技術底層，賦予開發者與使用者完整的運算自主權。
資料來源：
＊本文由作者授權刊登，並同意 TechOrange 編寫導讀與修訂標題。首圖來源：Arm。
（責任編輯：李昀蔚）
