當前 AI 正迅速發展，各行各業都在探索運用這項新科技的可能，企業也開始重新思考：AI 的最佳部署地點為何？對於製造業而言，這個問題尤其重要，因為即時反應與模型大規模學習往往難以兼得。
在地端部署 AI，也就是所謂的「邊緣 AI」或「私有部署 AI」，已不再只是少數企業的選擇，而是越來越多組織積極規劃的基礎策略。根據調研機構 MarketsandMarkets 報告，製造與工業領域的邊緣運算市場預計將從 2025 年的 211.9 億美元快速成長至 2030 年的 447.3 億美元，年複合成長率達 16.1%。這顯示地端 AI 的潛力正逐漸獲得產業認可，尤其是在講求精準度與即時反應的製造現場。
地端 AI：即時預測、降低成本的解方
《CIO》指出，地端 AI 的最大優勢在於靠近資料來源。與其將大量數據上傳雲端再進行分析，不如將模型直接部署在工廠現場附近的伺服器或邊緣設備上。如此一來，不但可大幅降低延遲、避免頻寬瓶頸，更能即時執行像是瑕疵檢測、異常預警、預測性維護等製造業常見的任務。
更重要的是，這種架構還能有效節省雲端傳輸與持續運算所帶來的高昂費用。在公有雲上，每一筆 AI 請求的輸出都會被「按 token 數量計費」，一旦模型使用量變高，成本也隨之攀升；而地端 AI 則能共用 GPU、網路與記憶體資源，提供更穩定、可預測的成本結構。根據博通，其部分企業客戶回報指出，地端 AI 的總成本僅為雲端方案的三分之一到五分之一。
另外，地端 AI 的優勢也能補足雲端的不足：自主性和客製彈性。畢竟雲端的控制權多半掌握在服務供應商，地端部署讓企業得以根據實際需求調整和配置，特別是涉及機敏資料時，地端部署便是不可或缺的選項。
對製造業來說，這種可控、可預測的成本模型至關重要。任何對 AI 硬體的優化，對企業都是「直接加分」，而非只是為雲端服務供應商創造營收。
雲端 AI：大型模型訓練的最佳舞台
儘管地端 AI 有其優勢，但雲端 AI 仍在某些任務上無可取代，尤其是在大規模資料整理與模型訓練方面。
根據 Microsoft 的合作案例，雲端平台提供強大且彈性的運算與儲存能力，適合用來整合各廠區的長期趨勢數據，進行跨年度、跨產線的模式分析，或訓練更大型、更準確的深度學習模型。這些結果再同步回地端進行即時推論，即能兼顧效率與效果。
此外，雲端也適合用來做集中式監控與策略優化。當企業擁有多個據點時，雲端可以統整來自不同地端的資料，用於進行產線效率比較、資源調度建議或異常分析等。
混合模式：製造業的理想 AI 策略
對多數製造業而言，地端與雲端不是非此即彼的選擇，而是互補的架構。最實際的方式，是導入「混合 AI 策略」：即時運算留在地端，長期學習放在雲端。Google 針對 AI 基礎建設的 2025 年報告指出，受訪技術領袖中有 74% 偏好採用「邊緣 + 雲端」混合雲架構。
地端快速反應可以保障生產不中斷，並即時排除故障；雲端則能持續累積知識，提升整體智慧化水平。這樣的設計還能避免過度依賴特定雲端供應商，導致未來難以切換技術或更新模型的「技術債」問題。
地端 AI 架構提供更大的彈性與模組化設計，讓企業不必綁死於特定平台。舉例來說，若近期有更快速或更準確的開源模型釋出，企業便能靈活導入，而不必受限於雲端廠商的更新時程。
AI 的競爭已不再只是模型的比較，更是基礎架構與營運模式的競爭。對製造業而言，是否能根據場景需求部署正確的 AI 架構，將決定未來數位轉型的深度與廣度。
＊本文開放合作夥伴轉載，參考資料：MarketsandMarkets、Google、Microsoft、《CIO》，首圖來源：Unsplash
（責任編輯：廖紹伶）
