「如何讓燒掉的 Token 轉化為企業競爭力?」大世科、HPE、和碩解析製造業 AI 規模化關鍵

TechOrange 科技報橘攜手大同世界科技(簡稱大世科)與 HPE 慧與科技舉辦「AI 算力戰略高階主管午宴」,邀集產學專家探討製造業如何將 AI 算力投資轉化為可規模化的 AI 效益。科技報橘社長戴季全在致詞中分享近期半導體產業現況,「當製造業持續擴產,人才供給卻跟不上腳步,如何透過 AI 與自動化支撐產能成長,已成為企業迫切需要解決的課題。」

「AI 算力只是基礎,還需要完善的流程、知識庫與組織配合,」大同世界科技總經理劉盈秀以馬拉松為喻,好的跑鞋不保證能順利抵達終點,配速、補給與賽前準備同樣重要。大世科攜手 AMD、NVIDIA、HPE 等合作夥伴扮演企業 AI 轉型的「陪跑員」,協助客戶將技術投入轉化為實際成果。

HPE 製造暨電信事業處副總經理朱俊豪指出,隨著 Token 計費與 AI Agent 應用興起,資源管理與資安也成為重要課題。

除了組織與流程,算力部署也是 AI 規模化不可迴避的挑戰。「AI 是吃電的怪獸,」HPE 製造暨電信事業處副總經理朱俊豪指出,高密度 AI 運算帶來龐大的電力與散熱需求,許多企業必須升級甚至重建既有機房。隨著 Token 計費與 AI Agent 應用興起,資源管理與資安也成為重要課題。

國立臺灣大學電機工程學系名譽教授、前科技部長陳良基指出 AI 能力結合了算力、演算法和數據,數據是企業最能形成競爭優勢的關鍵。

面對 AI 技術快速演進,企業該如何決定投資優先順序?國立臺灣大學電機工程學系名譽教授、前科技部長陳良基指出,企業應從客戶需求與投資報酬率(ROI)出發,先釐清希望創造什麼能力,再反向規劃所需資源。他分析,AI 發展仰賴「算力、演算法、數據」三大要素,其中算力與演算法迭代快速,真正掌握在企業手中、最能形成競爭優勢的是數據。他建議企業優先培養員工運用 AI 的能力、完善數據治理,再依實際需求評估算力投資,並選擇能整合技術與應用的合作夥伴,讓 AI 投資真正轉化為營收與競爭力。

讓 AI 投資轉化為可衡量的營運效益

大同世界科技總經理劉盈秀介紹模組化 AI CDC(Container Data Center)貨櫃機房,透過預先整合運算、供電與散熱設備,縮短機房建置時程,協助企業更快速、彈性地部署 AI 算力。

「同仁使用 AI 工具很開心,但企業更在意的是,如何讓燒掉的 Token 轉化為企業競爭力?」劉盈秀指出,AI 時代的企業競爭力來自人才、資料與算力的相互配合:人才驅動創新與改變,資料轉化為經營洞察,算力則支撐企業運用 AI 的能力。她進一步指出,當企業從早期試用走向規模化推論,若全數依賴公有雲,將面臨沉重的費用負擔與機密外流風險,因此如何兼顧雲端彈性、在地端建置安全可控的算力,成為提升「算力轉化率」的關鍵。

企業若要自建算力,往往面臨電力、散熱、樓地板承重及機房改建耗時等挑戰。大世科整合大同集團的重電與能源技術,推出模組化 AI CDC(Container Data Center)貨櫃機房,將運算設備、供電與散熱系統預先組裝完成,運抵現場後即可安裝,最快只需三週便能完成部署,大幅縮短傳統機房動輒數月的建置時程,並可依需求彈性擴充算力。

大同世界科技數位永續事業群協理段淳仁指出,企業推動 AI Agent 不應只追求部署數量,更要透過集中治理與成效追蹤,掌握各部門的實際使用率、Token 成本與預估節省工時,作為持續投入或擴大應用的決策依據。

「我們鼓勵員工將日常重複、規則明確的工作轉化為專屬 AI Agent,但必須統一上架到公司平台管理,而非各自使用外部工具,」大同世界科技數位永續事業群協理段淳仁分享內部轉型經驗。

大世科以 OneAi 企業 AI 平台打造集中治理的 Agent Factory,串接 ERP、CRM、BPM 等既有系統,讓企業員工從統一入口使用 AI Agent。例如在製造業場景中,主管可直接以對話方式即時查詢各廠區產能與達成率,不必再等待跨系統的報表開發。平台同時提供無程式碼的編輯工具,可透過圖形化操作來串接工作流程,並加上人工審核、存取權限、資安防護等機制,落實安全治理,也讓更多第一線人員可參與 AI 應用開發。此外,企業可在平台上追蹤各部門 Token 消耗、Agent 使用率與預估節省工時,藉以評估每個 Agent 上線一個月後的投入與產出,決定持續維運、調整或下線,讓 AI 投資能以數據衡量實際使用情況與效益。

和碩聯合科技新產品發展事業處暨人工智慧發展處副總經理蕭安助指出,AI 正逐步突破認知、物理與時間三大瓶頸,但企業能否將局部效率提升轉化為整體營運效益,才是建立長期競爭優勢的關鍵。

「製造業的核心是品質、速度與規模。」和碩聯合科技新產品發展事業處暨人工智慧發展處副總經理蕭安助指出,面對國際客戶嚴禁機敏資料上雲的規範,企業採取雲地混合架構已成必然。若企業自建算力且稼動率夠高,Token 成本可望降至雲端頂級商業模型的十分之一至二十分之一。

蕭安助進一步分析,AI 正逐步突破三大瓶頸:首先是「認知瓶頸」,透過 AI Agent 協助法務、採購與工程人員處理大量文件;其次是「物理瓶頸」,藉由數位孿生(Digital Twin)在虛擬環境中預先模擬、驗證,降低實體部署的試錯成本;第三是「時間瓶頸」,和碩內部財務、採購、人資與法務等非研發單位導入 AI 後,曾將原本耗時 70 多小時的作業縮短至 72 秒。蕭安助也提醒,效率提升不必然帶來競爭優勢,企業不能只看 AI 帶來多少時間節省,更要以實際數據驗證成效,重新檢視整體工作流程,才能將局部效率改善轉化為組織競爭力。

台灣製造業的 AI 競賽早已鳴槍起跑。正如大同世界科技總經理劉盈秀比喻的「好跑鞋不保證能抵達終點」,算力是入場券,數據是護城河,流程與組織則決定企業能跑多遠。當 Token 一筆筆燃燒,企業更需思考每一分算力,換到了多少競爭力。誰能率先把試點的火花變成全廠的引擎,誰就能在這場長跑中拉開與競爭者的差距。