文 / Google Cloud 台灣技術總經理 林書平
放眼當今技術發展,阻礙企業擴展 AI 的最大瓶頸,早已不是模型本身的能力,而是模型能否精準掌握企業的「業務情境脈絡(Business Context)」。
打造情境脈絡的關鍵在於資料基礎。根據 PwC 報告,全球 AI 領先企業提供高品質資料的比例高出台灣企業 4.4 倍,且僅有 13% 的台灣企業能讓員工快速取得 AI 工作所需的高品質資料。進入代理式時代,企業不能只把資料當作靜態庫存,必須注入值得信任的情境脈絡,以將資料轉化為源源不絕的活水,推動企業資料從被動的「紀錄系統(systems of record)」升級為主動出擊的「行動系統(systems of action)」。
我們必須體認到,AI 代理的運作模式是非線性的,且任務擴展極為迅速。一個簡單的提示詞,就可能觸發 AI 代理自主在多個系統之間進行瀏覽、查詢與執行,這無疑對企業的基礎架構帶來了壓力。倘若運算、網路與儲存層沒有針對代理式 AI 進行最佳化,建立其上的資料平台將無法穩定運作。我們也從調查報告中看到,有高達 83% 的組織認為他們需要升級基礎架構,才能支撐生產級的代理式 AI 系統。
要解決這個問題,企業需要的是一套全新的架構思維——將資料、AI 模型與營運資料庫深層融合,升級為單一的行動系統。當底層架構回歸 AI 原生(AI-native)設計,便能透過以下三大關鍵能力的重構,讓企業的資料真正成為 AI 代理的強大動能:
1. 實現跨雲無縫存取,為 AI 代理注入完整業務情境
要讓 AI 代理真正發揮價值,關鍵在於能否順暢存取散落於傳統架構與各個孤島系統中的情境脈絡。一旦獲取脈絡的門檻過高,AI 產出的結果便容易失真或不完整。我們調查顯示,高達 43% 的 IT 領導者坦言,「難以與傳統 API 和資料源整合」是當前最大的基礎架構痛點之一。
然而,企業不可能單純為了串接 AI 就盲目搬遷海量數據,這只會徒增複雜度與成本。為了解決這個問題,企業應放下「所有資料必須搬到單一雲端」的舊觀念,轉向透過建立開放且彈性的無邊界湖倉(Borderless Lakehouse),並運用跨雲(Cross-cloud)技術,讓 AI 代理能像存取本地資料一樣跨環境讀取、推理並活化資料,避開傳統資料搬遷的高延遲與高昂成本。
2. AI for Data:打造 AI 原生垂直整合,推動從「思考」到「行動」的自動化
過去的「Data for AI」模式,要求企業將資料全數清理並搬遷至集中倉儲,AI 才得以發揮作用,也因此處理格式分歧與繁複的資料工程,成了過去十幾年 IT 團隊沉重的負擔,而工程師也被迫耗費大量心力進行跨系統的手動整合,甚至有 81% 的企業領導者將「營運複雜度與工程負擔」視為 AI 規模化的最大隱形代價。
如今,邁入 「AI for Data」新時代,企業應推動 AI 代理從執行「思考」邁向「行動」,建立 AI 原生的垂直整合架構,讓代理能即時調用分析與營運數據。透過將模型、資料平台與底層加速器進行深度協同設計,不僅能減少網路躍點(network hops)的延遲,工具間的整合也會更為緊密。這種統一的系統能讓 AI 代理在形成洞察的同時,直接且安全地完成交易執行,將工程團隊從複雜的維護負擔中徹底解放。
3. 建構企業知識推理層,賦予代理安全信任與長期記憶
對 AI 代理而言,僅能搜尋與查詢資料已遠遠不夠。若要採取安全且精準的行動,代理更需要豐富的業務情境脈絡與商業邏輯。然而調查顯示,高達 36% 的企業領袖坦言,缺乏用於 AI 模型錨定於事實基礎(Grounding)的高吞吐量專用向量資料庫(Vector Databases),是當前最關鍵的基礎架構缺口,直接阻礙了企業為 AI 代理注入情境脈絡的能力。
為了發揮最大潛力,代理需要一個能即時讀寫資料系統(包含傳統 ERP 與第三方 CRM)的基礎層,這能進一步賦予代理「長期記憶」,使其得以隨時調用過往脈絡,省去每次查詢皆需重新處理資料的耗損。
為了提供 AI 正確的情境脈絡,許多組織正開始建立例如 Knowledge Catalog 等「通用的資料脈絡引擎」,用以聚合並豐富資料湖中的資訊,支援代理式搜尋,並透過從非結構化資料中萃取意義、自動生成語義,使其發揮「主動推理層」的作用。
建構企業護城河:讓資料成為代理式時代的最佳後盾
想將 AI 轉化為真正的競爭優勢,現在正是建立相連、活躍資料生態系的最佳時機。要讓 AI 從概念驗證(PoC)走向實際生產環境,「讓 AI 代理安全且無縫存取所有數據」是必要的,而這背後需要足以應對代理式時代需求的基礎架構來支撐。
我相信未來的市場贏家,不一定是擁有最聰明 AI 代理的企業,而會是那些能安全、具成本效益且大規模地提供代理正確知識的企業。
【推薦閱讀】
◆ 數萬家餐廳怎麼導入 AI?KFC 母公司從統一資料、微調小模型到算 ROI
*本文由作者授權刊登,並同意 TechOrange 編寫導讀與修訂標題。首圖來源:由 Gemini 生成。
(責任編輯:廖紹伶)



