企業還沒準備好,AI Agent 卻已進入核心流程:34 位 CEO 示警四大治理難題

AI 在企業中所扮演的角色,正迎來一場從「生成內容」走向「自主決策與行動」的結構性轉變。《Fast Company》近期訪問 34 位來自醫療、金融、國防、行銷等領域的企業執行長,探討他們對 Agentic AI(代理型 AI)的策略、布局、期待與擔憂。多數受訪執行長認為,企業尚未為這場全面性變革做好準備,但 AI Agent 卻已經加速進入日常營運流程。

KPMG 在 2026 年 6 月進行的調查也呼應這項趨勢。報告指出,51% 的銀行正在試行 AI Agent,應用範圍涵蓋財富管理、客戶審查、交易與企業資金管理。例如紐約梅隆銀行(BNY)便將數位員工視為團隊成員,不僅為其配置登入帳號與暱稱,也讓它們執行特定任務並彼此互動,人類主管則負責訓練、品質控管,以及進行類似績效評估的管理工作。

然而,AI Agent 從「提供協助」走向「自主執行」,也將企業推向治理的深水區。隨之而來的,是運作速度與商業成果之間的落差、內部資料與流程的斷裂、模糊的問責制度與資安威脅,以及員工職能從執行者轉向管理者的巨大轉變。這四大治理難題,正是企業在真正取得 AI Agent 紅利前,必須面對的考驗。

考驗一:效率提升不等於商業成果,AI Agent 恐讓企業更快走錯方向 

隨著 AI 自主程度提升,企業對生產力的期待也快速升高,但更快完成工作,不等於創造更好的商業成果。美國運通執行長 Steve Squeri 表示,公司擴大採用 AI 輔助開發工具後,程式開發週期縮短 30%,未來 Agentic AI 更可能從支援開發者,走向承擔設計、測試與部署新功能的完整責任,改變企業創新的速度與規模。

醫療編碼公司 Arintra 執行長 Nitesh Shroff 也表示,其 AI 編碼引擎每月在 Mercy Health 自主處理逾 5 萬份病歷,協助營收提升 5.1%,並讓人類編碼人員轉向更複雜的工作。然而,運用 AI 協助房地產租賃團隊提高成交率的 Grotto AI 共同創辦人兼執行長 Nick Deveau 提醒,AI 雖能讓人同時處理更多任務,也可能形成「生產力幻覺」,使企業更快朝錯誤方向前進。

廣告與創意產業主管同樣擔心,企業可能因追求速度與便利而犧牲品質。Rethink 全球首席策略長 Sean McDonald 指出,科技熱潮常強調成本與效率,卻忽略品質代價。AI 創意與廣告代理商 Supergood 執行長 John Elder 也警告,若品牌都使用相同的現成 AI Agent、模型與資料,最終只會產出缺乏差異的平庸作品。

因此,全球性創意創新與數位行銷諮詢公司 R/GA 執行長 Robin Forbes 認為,創意服務業應以產出品質與商業影響衡量價值,而非投入時間。不過,AI Agent 能否持續產出可靠結果,仍取決於資料是否可信,以及企業流程能否支撐自主系統運作。

考驗二:資料與流程沒準備好,AI Agent 再強也難以落地

要發揮 AI Agent 的最大價值,關鍵不只在模型能力,更在企業的資料與流程是否健全。埃森哲旗下大型數位行銷與創意設計部門 Accenture Song 負責人 Ndidi Oteh 指出,AI Agent 正暴露企業長期存在的資料孤島、權責分散與陳舊工作方式;若不重新設計工作流程,企業反而可能在最需要速度時拖慢自己。

數位創意與行銷廣告公司 Big Spaceship 執行長 Taryn Crouthers 也強調,AI Agent 的表現取決於所接收的資料,但多數組織仍缺乏乾淨、結構化且易於存取的資料。若只是把 AI 疊加在原本並非為自主系統設計的基礎設施上,資料品質將成為難以察覺的落地瓶頸。

這項問題在需要跨部門資料流動的醫療業尤其明顯。醫療 AI 新創 Abridge 執行長 Shiv Rao 指出,若臨床、財務與行政資料持續處於孤島、割裂或延遲的狀態,再先進的模型也難以充分發揮作用。

醫療保健科技公司 Collective Health 執行長 Ali Diab 更表示,醫療領域仍大量依賴傳真,「專有資料」也常被用來阻礙競爭,然而 AI 安全運作需要高品質且即時的資料,一旦底層資料錯誤或被刻意隱藏,系統就可能失敗。no-code 與 AI 驅動應用程式建構平台 Softr 執行長 Mariam Hakobyan 因此總結,企業是否準備好採用 Agentic AI,不只取決於意願,更取決於基礎設施、信任與理解,而多數企業目前仍欠缺乾淨資料、明確流程與完善治理。

不過,打通資料與流程,只是讓 AI Agent 開始行動的前提。當企業進一步允許 AI Agent 存取內部系統、執行任務甚至參與決策,下一個更棘手的問題便是:誰有權授權它行動,誰要為結果負責,又該如何防止它成為新的資安漏洞?

考驗三:AI Agent 愈自主,責任歸屬與資安風險愈難控管

隨著 AI 自主能力提升,企業的治理責任與資安邊界也日益模糊。美國的綠色科技新創公司 Plantd 執行長 Nathan Silvernail 就點出核心:「當 AI Agent 做出錯誤的採購決策或有瑕疵的設計判斷時,究竟由誰負責?」

美國組織設計與管理諮詢公司 Org.works 執行長 Janet Sherlock 也指出,多數企業仍未釐清誰決定 AI Agent 的使用範圍、誰承擔產出結果,以及應統一採用哪些平台。當決策權與問責機制不明,AI 不但無法提升效率,反而可能放大組織混亂。

資安則是許多受訪執行長最深的擔憂。量子運算公司 SeeQC 的 John Levy 指出,AI Agent 能自主行動,也提高敏感資訊外洩的風險。網路安全公司 Reality Defender 執行長 Ben Colman 舉例,惡意行為者已利用 AI 語音 Agent 大量撥打電話、發動社交工程攻擊,並試圖取得個人識別資訊。這些 AI Agent 能以低成本平行運作並即時生成合成語音,也讓一般使用者甚至具備高度警覺的人,都更難判斷正在通話的究竟是真人還是 AI。

因此,即使是走在導入前端的銀行業,也仍為 AI Agent 設下嚴格限制。摩根士丹利(Morgan Stanley)財富管理 AI 主管 Koren Maranca 表示,雖然公司將測試直接與客戶互動的數位助理,但關鍵功能仍會保留人類監督,也不會讓 AI 自行決定投資組合。

Bain & Company 金融服務先進分析全球主管 Bhavi Mehta 也觀察到,銀行目前仍主要將 AI Agent 用於內部工作,一旦涉及客戶互動,便會保持高度謹慎,確保任何關鍵功能都有人類參與。這些銀行的做法也顯示,隨著 AI Agent 自主程度愈高,人類愈不能完全退出工作流程。相反地,員工的工作重心將從親自執行任務,轉向判斷結果、監督系統與管理風險。

考驗四:員工從執行者轉為 AI 管理者,企業必須同步重塑人才能力

最後,在人機協作時代,員工在組織中的角色正發生根本改變。德國 AI 公司 DeepL 執行長 Jarek Kutylowski 認為,Agentic AI 將迫使員工從親自執行的「建造者」,轉向類似執行長的角色,工作也會從直接解決問題,轉為管理最終成果。

就像 CEO 無法逐一審查龐大系統的每個細節,員工未來也必須具備高層次的監督能力,判斷哪些結果可以信任、哪些地方需要介入,以及如何持續管理風險。然而,過度依賴 AI,也可能削弱人類的核心能力。心理健康平台 NOCD 創辦人 Stephen Smith 以計算機為例指出,人們長期依賴工具後,可能逐漸忘記原本具備的技能;同樣地,若員工過度依賴 AI 解決問題與寫作,相關能力也可能退化,除非企業有意識地引導團隊持續成長。

因此,企業是否準備好迎接 Agentic AI,關鍵不只在技術,更在人才培訓。美國教育科技公司 Guild 執行長 Bijal Shah 認為,真正做好準備的企業,不一定擁有最先進的技術,而是願意為員工創造學習條件,給予時間實驗、分享使用案例,並接受學習新工具必然伴隨的摩擦。企業也必須像投資技術一樣,有意識地投資人才。

沒有人真正準備好迎接 Agentic AI,因為模型、Agent、介面、通路、成效衡量與開放網路的經濟模式正同時快速變動,企業幾乎沒有過往科技轉型所享有的緩衝期。然而,等待並不是答案。正如專注智慧協作辦公設備的 Vibe 執行長 Charles Yang 所說,企業無法站在岸上學會游泳。對企業領導者而言,接下來的課題是如何同步建立成果衡量方式、健全的資料與流程、清楚的責任與資安邊界,以及培養員工從執行者轉為能判斷、監督與管理 AI 的關鍵人才。 

*本文開放合作夥伴轉載,資料來源:《Fast Company》《Reuters》,首圖來源:Unsplash