一家已有 138 年歷史、承保業務遍及全球的保險公司,已投入超過 5,000 萬美元發展生成式 AI,執行長見到 Google Cloud 亞太區 AI 上市業務董事總經理 Harsha Konduri,第一個問題卻是:「為什麼我們仍看不到合適的 ROI?」
這不是單一企業的困境,Harsha Konduri 在今(7/9)日舉辦的 Google Cloud Day Taipei 主題演講指出,87% 的企業 AI 專案從未達到生產規模,仍有大量專案停留在展示階段;真正把 AI 嵌入營運流程、形成競爭優勢的專案,占比甚至不到 5%。
Harsha Konduri 認為,問題往往從企業如何定義 AI 策略就已經開始。他歸納企業最常見的幾項誤區,包括把 AI 策略押在單一模型或供應商、認為擁有大量資料自然能形成優勢,甚至只把 AI 當成降低人力成本的工具。
台灣 57% 企業已部署生成式 AI,焦慮卻從怕不懂變怕跟不上
這股壓力在台灣更加明顯。IDC 台灣總經理江芳韻在 Google Cloud Day 活動中指出,IDC 去年下半年調查亞洲超過 950 家企業,台灣已有 57% 企業部署代理式 AI,高於亞太平均的 36%。企業對代理式 AI 的期待也相當高,61% 受訪企業預期投資報酬(ROI)可超過 3 倍。
Google Cloud 台灣技術總經理林書平觀察,過去企業高階主管的焦慮,多半來自不了解 AI 是什麼、可以做什麼;如今則逐漸轉為「擔心跟不上」,開始急著盤點企業流程中有哪些工作應盡快導入 AI 或 AI 代理。
然而,導入速度加快,不代表價值自然出現。Google Cloud 大中華區 AI 技術總監蔡力宏點出一個常被企業忽略的差異:Personal Context(個人上下文)與 Enterprise Context(企業上下文)。
個人使用 AI 助理時,可以利用自己的 Gmail、Google Drive 等個人情境提升生產力;但到了企業環境,AI 真正需要理解的還包括 SOP、CRM 系統資料,以及公司獨有的營運流程。
蔡力宏說,許多企業「把 Gemini App 給所有員工」,就期待很快產生成效,「但坦白說,有很多 Enterprise Context 並不是非常 visible(可見的)。」
換句話說,讓所有員工用上 AI,不代表 AI 已經理解企業如何運作;缺少 SOP、CRM 資料與內部流程,提升的仍可能只是個人生產力。
Agent 做出來了,為何還是做不大?企業卡在 3 道關卡
即使企業找到適合的應用場景,下一道難題則是:如何讓成功的 AI 專案從概念驗證走向規模化部署?
江芳韻歸納,目前企業發展代理式 AI 面臨三大痛點:資料尚未就緒、缺乏可擴展的平台,以及難以整合既有系統。
當企業沒有統一的資料骨幹,各部門往往有什麼資料就先做什麼,例如客服用自己的資料建立 Agent,行銷、財務也各自開發,最後企業內部出現大量各自為政的小型 Agent,卻無法串起更大的效益。
她也引述 IDC 調查強調平台的重要性:擁有平台的企業,Agent 部署數量比沒有平台的企業高出 2 倍以上。針對既有系統整合,江芳韻表示若 Agent 無法讀取、寫入或觸發企業內部系統,即使能回答問題,也難以真正執行任務。
林書平則提醒,企業認為 AI 投資 ROI 不足,有時並非應用本身沒有價值,而是資源投入錯誤的技術層級。
AI 從哪裡開始導入?先找「本來就有 KPI」的高頻流程
面對 ROI 壓力,企業應該從哪裡開始?林書平歸納兩類較容易產生價值的場景。第一,是資料大量散落在不同系統,需要頻繁搜尋、彙整與摘要的工作;第二,則是高頻率、可高度自動化的商業流程。
江芳韻則觀察,目前台灣較具體落地的三大領域是客戶支援、風險管理與供應鏈優化。這三類工作有一項共同點:在 AI 出現以前,就已有明確的績效指標。例如客訴解決時間、成功攔截多少詐欺金額,或平均庫存天數。江芳韻指出,這些流程導入 Agent 後,前後差異更容易衡量。
這也提供企業一個更實際的 AI 導入思路:與其先問「AI 能做什麼」,不如先盤點公司內部哪些流程每天重複發生,而且早已有明確 KPI。
模型人人都買得到,企業如何讓 AI 優勢「愈滾愈大」?
找到適合的流程、建立資料與平台,是讓 AI 走出概念驗證的基礎。但 Harsha Konduri 提出另一個問題:當競爭者也能取得相近的模型與技術,企業如何利用 AI 建立長期差異?他的答案是「複利優勢」(compounding advantage)。
「如果沒有數據飛輪,就不存在所謂的 AI 策略。」Harsha Konduri 認為,企業只是持有資料並不足以形成優勢。企業必須先將資料轉化為 AI 可使用的「燃料」,用來改善決策,再把決策自動化進流程;隨著更多員工與客戶使用,又產生新的資料,持續改善 AI 與決策品質。
但要讓這套循環運轉,企業還需要「組織的 AI 代謝力」(organizational AI metabolism):AI 能力能否快速被組織吸收,並由真正熟悉業務流程的人持續轉化成新的應用。
他以一家擁有 1.1 萬名員工的保險公司為例。若 Agent 永遠只靠 AI 團隊中的 3、4 人開發,能改善的流程終究有限;這家公司因此讓更多員工參與建立 Agent。其中一名保險從業人員便自行打造健康保險 Agent,交叉比對複雜保單資料、提供客戶洞察,相關驗證流程的回答速度提升 37%。
企業 AI 落地已不只是模型選擇問題。找到可衡量成果的流程、準備 Agent 所需的企業情境、解決平台與既有系統整合,或許是把 AI 接進營運流程的起點。
【推薦閱讀】
◆ 高盛預估到 2030 年 Token 用量暴增 24 倍,企業如何避免 AI 帳單失控?
*圖片來源:《TechOrange》拍攝,由左至右為蔡力宏、林書平、江芳韻。



