Search
Close this search box.

「AI 帶給企業大者能大、優者能優的影響力。」台灣思科金融暨工商事業群總經理盧佳成探討 AI 基礎設施盤點與建置的具體應用

根據 Gartner 最新預測,2028 年將有超過 15% 的日常工作決策交由 Agent AI 自主完成。隨著 Agentic AI 成為數位轉型的關鍵驅動力,企業是否具備「Ready Support」的基礎設施,能夠加速實現 AI 創新和突破?在 TechOrange 2025 科技金融論壇暨第 9 屆 Hit FinTech 高峰會,台灣思科金融暨工商事業群總經理盧佳成從產業趨勢出發,深度解析「AI 基礎設施盤點與建置」的關鍵策略。

「AI 帶給企業大者能大、優者能優的影響力,」盧佳成引用《The Evident AI Banking Index》調查指出,報告依據人才、創新、領導力和透明度四項指標,揭示國際銀行業的 AI 採用成熟度,其中多數銀行正在積極發展 AI,將 AI 策略列入年度報告,「Evident AI 指數展現 AI 對金融服務業的深遠影響,我認為對企業來說,AI 已經不再是可有可無的選項,而是逐漸成為不可避免的轉變。」

企業導入 AI 需計算並驗證成本效益

盧佳成分析 AI 發展脈絡,說明 AI 正快速地從早期應用走向大規模部署,每一次資料中心的更新換代,都是 AI 進步的新機會。而台灣企業的系統在過去四、五年來為了響應大量且彈性開發模式,持續調整軟體定義(Software Defined)以支持 LLM 應用;2023 年生成式 AI 崛起,則是讓國際科技業者聚焦 AI 技術對於企業 IT 基礎設施的需要與補給。

當 Agent AI 逐步走向商業市場,企業紛紛藉此提升營運能力、實現工作自動化,思科更深入探討「Internet of Agents」的新框架。盧佳成說明,先進技術的迭代助力 AI 蓬勃發展,而企業在推動 AI 的進程上需要計算部署、持續運作、實驗及學習曲線等相關成本,若觀察計算結果合理,能為投入產出帶來極大效益,便會將 AI 視為武器,「另一方面,Gartner 估算未來 AI 成本可能減少 500% 至 1000%,這個趨勢也會加速企業使用 AI,進而提高生產力、創造全新的商業模式。」

聚焦實際案例,國際知名銀行就將 AI Agent 導入四大領域、七大業務,在營運效率、財務偵測、KYC 與客戶接入、防詐欺等面向,完整實現金融產業 AI Agents 的落地應用。在 AI 投入成本方面,盧佳成也分享,台灣某家銀行在每分鐘有 240 個用戶使用 AI 服務,進一步評估導入 AI 的成本,如果運用 On-Premise 方案,長期使用下能夠實現更高的經濟價值,因為 On-Premise 累積的成本大約在 2.5 年後開始低於 SaaS API ;如果企業需要驗證 AI 效益,SaaS API 在前 2 年將會是企業 PoC/PoV 的最佳選擇,「企業在 PoC/PoV 階段仍以雲端 LLM 與 API 開發工作為主,在開源模型更普及的情況下,則是朝向應用開發落地,甚至到第三階段會進行算力擴張,以支持更大規模的企業應用,」盧佳成分析。

思科 AI-Ready Data Center 支援大規模 AI 工作負載

台灣思科金融暨工商事業群總經理盧佳成分享,思科推出一系列 AI 安全解決方案,憑藉網路可視性、控制能力等技術,協助企業有效保護 AI 應用程式的開發、部署與使用。

「未來 AI Application 將具備 Behavior-based 的特性,銀行需要根據不同行為模式和屬性歸類,進行動態、自主的 Segmentation,」盧佳成說道,AI Application(AI ChatBot、AI Assistant、AI Agent、Agentic AI)的型態正在改變,應用架構也會由 User、Application,再到 Data、Infrastructure 的形式,於中間層加入各種模型作為企業營運大腦。進一步比較傳統 Application 與 AI Application,後者對於數據依賴性與部署模式需要更動態、基礎設施的支援要更彈性,並且能夠與多個系統進行廣泛及互動整合。不過 AI Application 也會存在多個面向缺口,以及面對外在迅速增強的資安威脅,因此,企業迫切需要盤點所屬資料中心的基礎設施、提升採用 AI 的應變能力。

盧佳成表示,為協助金融與各領域企業建立更堅韌的 AI 基礎設施,思科提供 AI-Ready Data Center 的基礎架構設計與解決方案,滿足大規模 AI 工作負載的需求,並能確保服務的安全性、可視性。另外,思科也和 NVIDIA 密切展開技術合作,開發更加成本導向的 AI 應用,讓企業和雲端服務供應商更輕鬆進行網路管理。「邁入 AI 時代,企業資料中心將發展全新架構,能夠兼容既有的軟體定義和未來的 AI DC,實現真正雲地混合管理的模式」,盧佳成指出,在這樣的趨勢下,思科還推出一系列 AI native Computing 解決方案,助力企業加速 AI Agent 部署和運算;針對金融機構分行導入 AI 應用的需求,思科「Unify Edge AI Systems」則是整合計算、儲存、AI 軟體、開發、網路、資安功能,並以彈性模組化的設計,讓客戶無須架設龐大設施就能優化終端 AI 的應用。

強化數位韌性的 3 大關鍵:Assurance、Observability、Security operations

再談到數位科技快速發展,企業如何提升數位韌性、強化市場競爭力?盧佳成強調,三大核心關鍵就是「Assurance」、「Observability」及「Security operations」。企業需要執行端到端的無縫連接,以確保應用程式與服務的順利交付,並透過全面的可視性與洞察,防止停機和優化各項服務的體驗,同時也應具備全方位的威脅預防、偵測、調查與應對能力。

「在 AI 時代,數位韌性是價值高達 4000 億美元的議題,有 94% 的隱性挑戰埋沒在冰山底下,一旦顯露就會造成嚴重衝擊,」盧佳成指出,當企業架構越複雜,就會創造更多風險,因此思科整合旗下巨量資料分析廠商 Splunk,為客戶提供主動式防禦能力,避免任何環境出現停機事件。思科也特別推出「AI Defense」,助力使用者評估 AI 風險、即時阻止有害攻擊,讓企業無須在開發、使用 AI 的速度與安全性之間做出取捨。

「企業使用 AI Agent 數位員工已成為趨勢。面對全新的技術,企業採用、適應、推進它,並且擁抱未知,那才是真正的突破與創新力之所在」,盧佳成表示,無論是 AI Assistant、AI Engineer 的虛擬數位員工,或是機器人、Physical AI 的實體數位員工,在 Agentic AI 時代,企業 IT 資訊部門都將是未來 AI Agents 的 HR 部門,而在 token revenue 的概念下,企業 IT 部門也會是間接帶動企業營收成長的關鍵團隊。因此,思科亦協同台灣重要合作夥伴「凌羣電腦」,一同為企業提供從各產業 AI 應用到關鍵基礎架構的完整解決方案,「從基礎設施、營運模式到資安韌性全方位布局,企業才能真正掌握 AI 帶來的效益與競爭優勢,」盧佳成說道。