在數位與 AI 轉型浪潮下，企業正積極探索導入 AI 以提升工作效率與生產力的具體策略，然而在實際推動 AI 應用的過程中，卻經常面臨基礎建設投資高昂、模型導入卡關、資料處理困難等挑戰，導致計畫成效不如預期。面對這樣的情形，思科台灣技術長馮志良從對企業而言至關重要的 AI 基礎架構談起，深入剖析企業在 AI 轉型中可能遇到的難題與解方，並分享思科如何成為台灣企業 AI 轉型的關鍵推手。
「談到 AI 基礎架構，許多人立刻想到的就是 GPU 伺服器，」馮志良強調，許多企業認為只要擁有強大算力，AI 部署就能水到渠成，這樣的思維卻也讓「網路」與「管理工具」，成為企業在 AI 基礎架構中最容易忽略的兩大面向。
AI Ready 的核心條件：高效網路與靈活管理工具
首先，常被企業忽略的面向之一就是「網路」。隨著 AI 運算量急遽增加，GPU 之間必須進行大量資料傳輸，因此若網路效能不足，就會導致 GPU 閒置、運算效率大打折扣。其次，伺服器與網路設備難免會出現異常與故障，這時就需要可靠的智能管理工具來即時監控、診斷並迅速排除問題，更進階的管理系統甚至能在故障發生前發出預警，避免業務中斷。
針對網路與管理工具兩個面向 ，思科提供多種解決方案，例如較新的 Nexus Hyperfabric 整合網路與管理功能，使用上更為簡便，至於伺服器管理，思科也提供 Intersight 工具，致力協助企業更有效地建置與維護基礎設施。
思科打造 ASN 解決方案，整合分散式算力
由於電力供應、空間限制或其他環境因素，企業往往難以在單一資料中心內無限擴充 AI 算力，因此如何整合不同資料中心的算力，成為日益迫切的需求。「通常這樣的整合必須依賴資料中心互聯（Data Center Interconnect, DCI）技術，這時網路的範疇就不再侷限於資料中心內部的區域網路（LAN），而是需要連接不同地理位置的廣域網路（WAN）或電信網路，」馮志良說明。
對此，思科為廣域網路和 DCI 打造「Agile Service Network （ASN）」解決方案，用於連接不同的資料中心。馮志良分享，ASN 採用高效且節能的 Cisco Silicon One 平台，並整合 IP 與矽光子技術，可以將原本獨立的路由器和光設備整合成單一台設備，達到提高效率、節省能源與簡化管理的目標。
「ASN 不只是為了資料中心，更是為了所有需要跨地整合算力的產業應用而生，」馮志良強調，ASN 的應用場景非常廣泛，像是在資料中心之外，也適用於連接公有雲或支援邊緣運算。此外，目前日本的各大電信公司以及台灣部分學術網路，都有採用此技術的實例，並多用於加速 AI 推論節點部署、強化多地協同運算效能以及節能減碳等面向。
從模型訓練到應用部署，思科 AI Defense 守護每一環
在 AI 時代，當部署基礎建設、導入 AI 應用後，資安挑戰也往往伴隨而來。馮志良提醒，AI 模型可能面臨多種威脅，除了模型本身就存在偏差或倫理問題，外部駭客的攻擊手段也層出不窮。面對新型態的資安威脅，思科整合傳統資安解決方案並加入獨特的模型保護技術，推出「 AI Defense 」解決方案，保護模型生命週期的每個關鍵階段。
首先，AI Defense 可以主動偵測企業內部是否存在未經授權使用的「影子 AI」，並掌握模型使用狀況。接著，系統會進行自動化且大規模的漏洞驗證測試，並特別針對 Prompt Injection 這一類常見的攻擊路徑進行防護強度評估。下一步，根據驗證結果，AI Defense 將對模型安全性進行風險評分，同時根據評分結果主動採取相應行動，例如封鎖或隔離潛在風險模型。此外，系統也提供模型執行期間的即時防護機制，確保 AI 模型在實際運行時仍能維持安全狀態。
馮志良強調，思科收購 Robust Intelligence 後，在建立測試標準與評估框架方面，取得市場的領先地位。 Robust Intelligence 團隊不僅積極參與 OWASP、NIST 等資安標準制定，也主導推動 Foundation AI 開源社群，探索利用大型語言模型（LLM）進行資安偵測的創新應用。「相較於一般測試，思科的優勢在於能對單一模型同時發動多次自動化的攻擊模擬，」馮志良分享，透過思科與 Robust Intelligence 的技術，將能助力企業提升模型在真實環境中的安全性。
思科的 AI 應用場景與效益
除了助力企業建構 AI 基礎設施、強化資安防護外，思科也將 AI 技術深植在自身的產品與服務中，以全面提升效能與用戶體驗。馮志良指出，思科內部團隊已廣泛導入 AI 協助程式開發，顯著提升效率，展現 AI 在營運上的實質價值。 另一方面，思科也在客服支援部門（TAC）導入 AI 分析系統，從海量歷史紀錄中主動分析問題、推薦解方並生成總結，大幅提升支援效率。
「我們的 Webex 協作平台最近增加了非常多的功能，其中多數都與 AI 相關，」馮志良以內部會議的實例說明， Webex 的降噪功能可以讓工作者儘管身處在展場、工地等吵雜環境，仍不會被噪音影響視訊會議品質，此外 Webex 的 AI 功能也包括會議摘要、自動偵測用戶進出會議並提供其離開期間的重點內容等面向，確保用戶不會錯過任何重要資訊，有效提高日常工作效率。
在台灣企業邁向 AI 轉型的過程中，思科不只是設備供應商，更是布局基礎建設、資料整備與安全治理的策略夥伴。從基礎建設到模型安全，從內部效率到產品創新，未來思科將持續擔任企業 AI 轉型的重要夥伴，與台灣百工百業一同走穩 AI 落地之路，在 AI 時代不斷成長前行。
