過去幾年來,許多大型企業都投入資源,發展 AI 基礎設施、軟體,還有其他相關建設,然而,即便財務部門同意計畫,採購部門也開始動作,但卻鮮少有企業理解未來該如何管理這些 AI 系統背後所涉及的資料。
在資料無法妥善得到管理的情況下,它將會悄無聲息、日積月累的拖慢公司業務表現,並且以預期之外的人力成本增加、專案進度延誤等形式表現出來。
根據麻省理工學院(MIT)於 2025 年發表的一份報告,高達 95% 的企業生成式 AI 試點計畫,對於營收幾乎或根本沒有可量化的影響。該報告表明,模型品質並不是企業面臨的主要問題,而是企業將 AI 整合到營運流程的方式存在缺口。
換句話說,即便企業的 AI 試點計畫成功了,也無法證明當同一套 AI 系統套用整個組織的運作環境時,獲得同樣順利的表現。
企業 AI 的隱形稅,來自搬不動的資料
科技巨頭戴爾(Dell)技術長辦公室基礎架構解決方案 VP Gaurav Chawla,近日於專欄文章中提出「企業 AI 隱形稅」的概念,說明企業 AI 專案之所以從「試點成功」變成「營運失敗」,其過程容易遭到領導者忽略的困境與難關。
Gaurav Chawla 首先指出,大多數企業在導入全新 AI 平台之後,就會誤認為僅需要將資料匯集到一處,其上方的智慧層就能自然運作。Gaurav Chawla 說,這雖然是個合理的假設,可是在企業級規模下,想實現幾乎是不可能。
理由在於企業資料具有引力,也就是所謂的「資料引力(Data Gravity)」,例如法規規定某些資料只能存放在特定位置,資料主權規則也要求資料只能儲存於指定區域,無法隨意流動與遷移;過去花費數十年時間針對某個資料集建立治理架構的業務單位,也幾乎沒有動機將資料移動到新的平台,有時甚至沒有合法、合規的途徑允許部門這麼做。
資料引力最重要的影響,就是當有人試圖將資料,以及圍繞資料所建構的應用程式分離時,這些應用程式將可能會因此發生嚴重且代價高昂的故障。
Gaurav Chawla 指出,資料引力所帶來的影響,通常隱藏在企業 AI 專案的概念驗證與試點計畫之中,因為這些項目通常只會在經過預先清理的小部分資料上運作,而企業真正需要負擔的成本,將會於 AI 專案應用到大部分雜亂無章的真實環境資料後才浮現。
廣義上資料引力概念的本質為「資料集越大,企業移動的成本就越高」,其中傳輸費用僅是一部分,資料交由 AI 處理後所產生的延遲、頻寬、安全控制及營運開銷,全都會再進一步推高整體成本,所謂的「企業 AI 隱形稅」正是由此而來。
隱形稅不只一筆帳,還會層層壓在團隊身上
Gaurav Chawla 認為,因「資料引力」所產生的「企業 AI 隱形稅」,通常不會以單一項目呈現,而是以數十項細微需求的形式,壓在原本就已不堪重負的團隊身上。
舉例來說,負責團隊必須建立並維護資料傳輸管道,將資料從原本未經此類流量設計的系統中移出;當來源系統變更時,還要將每份副本與原始資料進行對帳;而且無論資料儲存於何處,都必須套用相同的治理控制措施。此外,團隊還必須追蹤為開發、測試、分析及訓練所建立的額外資料集。
這些任務若只單看任何一項,似乎都不至於造成災難性的後果,拖累企業實際營運,但當它們疊加在一起時,便會成為 AI 專案的重大負擔,甚至隨著組織試圖擴大專案規模,負擔的代價只會越來越高。
成本延遲浮現,回頭修改代價更高
除此之外,Gaurav Chawla 強調「企業 AI 隱形稅」最危險的地方,還在於它出現的時機。這筆帳往往會在企業採購完成,而且團隊組建到位之後的 12 至 24 個月內才浮現,此時 AI 帶來的初步成果,早就已經被負責單位向上呈報。
當採購合約已經簽署、團隊人力都已經聘僱,企業甚至連發展方向也已經對外公開承諾,想要再回頭重新修改架構,其成本將遠高於企業從一開始就針對資料引力進行設計。
尤其對於規模較大的企業來說,雖然運算資源的需求容易規劃並納入預算,可是資料管線維護、資料對帳、治理、安全審查,以及維持系統運作所需的人力,卻會分散在不同組織之中,使得狀況變得更加複雜。
AI 需要的是上下文,不是更大的資料倉儲
Gaurav Chawla 直言,多數企業針對停滯 AI 計畫所做的事後檢討,往往僅止於「資料尚未準備就緒」的層面,這種判斷雖然方向正確,可是卻不完整,因為更深層的問題在於企業正試圖用儲存策略去解決「上下文」問題。
簡單來說,AI 模型從來不需要有人將原始資料直接倒在它面前,它需要的是上下文,即能夠找出正確的紀錄、與政策進行交叉比對、遵守存取規則,並基於最新資訊進行運作,而非僅依賴專案啟動的資料快照。
Gaurav Chawla 表示,想讓 AI 模型獲得這些東西,解法從來不是更大的資料倉儲,而是建立起企業級的上下文層,利用一種受管制且一致的機制,跨系統和跨位置發現資料,接著連結並檢索資料,這樣就不必將每個資料來源將資料交給中央儲存庫處理。
在這種情況下,中繼資料和向量資訊能夠協助 AI,查找並推論受到法規、主權、所有權限制,無法任意移動的紀錄。Gaurav Chawla 說,關鍵並不在於如何將所有資料匯集到同一個地方,而在於如何讓正確的上下文能在資料原本所在的任何位置、無論受何種規則管轄的情況下,都能被 AI 模型有效運用。
投入 AI 建設前,企業先回答 4 問題
Gaurav Chawla 提醒,在執行重大的 AI 基礎設施投資之前,企業應該要先回答四個基本問題:
- 第一,哪些資料集受到法規或合約限制而無法移動?
- 第二,目前各資料集的治理權歸誰所有?同時當資料集的副本存在於其他地方時,又會發生什麼情況?
- 第三,隨著來源系統的演進,這些副本將如何保持同步?
- 第四,智慧處理能否部署至資料現存的位置,還是架構要求所有資料必須集中化?
Gaurav Chawla 表示,企業釐清這些問題後,將有助於篩選出新架構、新平台的候選供應商,達成導入 AI 的目標,並且以更低成本快速實現業務流程自動化;此外,資料架構應該是成為 AI 商業案例中最主要的要考量項目,而非是在採購合約簽訂後才需要被解決的細節。
ROI 反映一半問題,還有一半是資料
最後 Gaurav Chawla 強調,企業通常會用 Token、吞吐量和 GPU 使用率來衡量 AI 的投資報酬率(ROI),而這些指標雖有助於評估 AI 專案的效率,但僅能反映出問題的一半。
所謂企業 AI 價值的另一半,終究限制在於運算的上游環節,即餵入模型的資料是否值得信賴、是否受到妥善管理,以及能否保持最新狀態,同時又不對相關人員造成日益沉重的負擔。
Token 使用量和 GPU 效率,可以告訴企業團隊運作 AI 模型的成本,但它們無法呈現一款 AI 模型,是否具備做出良好決策所需要的上下文。若想達成這一點,將始終取決於底層資料是否準確、最新、受管控,並且跟正確的業務流程互相連結。
從資料中萃取出的上下文,決定了 AI 自主行動的準確性,以及企業是否正朝著成為「AI 原生組織」的方向前進;既然企業都懂得為 AI 運算成本編列預算,那麼資料架構自然也會需要。
Gaurav Chawla 說,未來能從 AI 中獲益最多的企業,將是那些可以設計資料架構時,為 AI 代理所需要的上下文提供支援,同時還不必移動或刻意集中全組織資料的企業。
【推薦閱讀】
◆ 【企業 AI 成本報告】代理型 AI 與 AI 開發工具成本衝擊商業決策,建立「主動式財務防線」防範失控帳單
◆ 通用 AI 懂最多卻搞不定公司內部流程,企業需要訓練自己的專屬模型
◆ 【用資安思維做 AI 治理】78% 員工自行使用未核准 AI,企業可比照資安管控分層授權
*本文開放合作夥伴轉載,參考資料:SiliconANGLE、Fortune,首圖來源:Nano Banana 2
(責任編輯:鄒家彥)



