生成式 AI 加速進入企業應用，市場焦點已由「導入 AI」轉向能否規模化部署並產生實際投資回報，代理型 AI（Agentic AI）的興起也讓治理、可解釋性與資料品質受到更多關注。SAS 最新結合 IDC 研究洞察的《資料與 AI 影響力：AI 時代的信任經濟學》報告指出，企業 AI 投資成效正因治理與信任能力出現明顯差距。研究顯示，落實可信賴 AI 實務的組織，獲得高投資報酬率（ROI）的機率，可達其他組織的 15 倍；而台灣等大中華區市場近一年在 AI 治理與信任能力上已有明顯提升，但資料基礎成熟度仍未完全跟上 AI 應用發展，成為企業擴大部署時需要補強的一環。
可信賴 AI 成熟度出現分化 投資回報差距同步擴大
根據《資料與 AI 影響力：AI 時代的信任經濟學》報告，重視可信任 AI 實踐的企業與未重視的企業之間，ROI 差距正在擴大。落實完善可信任 AI 實務的組織，不僅可能獲得高投資報酬- 在 AI 專案上獲得高投資報酬率(ROI) 的機率高出 15 倍（62% 對比 4%）。在營收成長、成本節省與客戶體驗等 13 項業務成果上的效益亦平均高出 1.85 倍；此外，在可信任 AI 領先企業中，有 85% 今年的相關投資增幅超過 10%，進一步拉大與同業的表現差距。
SAS 技術長 Bryan Harris 指出：「AI 發揮作用時，可以帶來很大的影響。然而，目前最先進的 AI 代理在處理複雜任務時，錯誤率仍可能超過 25%，這樣的錯誤率無法用於高風險決策。」他表示，企業若要提高 AI 決策的準確性與可重複性，必須將領域專業知識納入代理型 AI 工作流程，同時讓人員持續參與治理與監督，才能縮短信任落差，並將 AI 轉化為市場競爭優勢。
IDC 副總裁 Chris Marshall 表示：「當 AI 變得更自主，企業面臨的新挑戰，是如何維持人們對一套無法完全理解的系統之信心。」研究結果顯示，更完整的監督、可解釋性、問責機制與資料基礎，正成為企業成功擴大 AI 部署的必要條件。
AI 自主性提高 信任與治理機制面臨考驗
報告亦探討了 AI 落地應用的一大隱憂：當員工對 AI 決策缺乏信任時，往往會主動介入並進行手動修正。這不僅會加劇 AI 的信任赤字，並可能消耗企業的時間、生產力與獲利能力。
有 97.2% 的使用者表示，至少曾在某些情況下推翻 AI 產生的建議，最常見的原因是系統無法說明其決策依據；受訪者對生成式 AI 的信任度為 76%，對自主程度更高的代理型 AI 則降至 66%。
AI 應用成熟度提升 資料基礎仍待補強
資料與 AI 影響力報告同時觀察到，目前全球僅 17.5% 的企業擁有足以支撐代理型 AI 需求的完全最佳化資料基礎架構。擁有最佳化資料基礎的企業，預期從 AI 專案獲得高 ROI 的機率高出 4 倍，且強制推行建立信任所需之資料品質與可解釋性管控機制的機率高出 6 倍。
台灣等大中華區市場已有 61.5% 的組織將自身 AI 成熟度評為「整合」或「轉型」階段，但資料基礎架構達到「已管理」或「最佳化」的比例只有 43.4%。
根據報告內容，SAS 台灣總經理龔律安指出：「台灣等大中華區企業近一年在 AI 治理與問責機制上已有明顯進展，接下來仍須補強資料品質、資料治理與來源可追溯性。尤其代理型 AI 開始參與實際決策後，底層資料能否被追溯、治理機制能否落實到日常流程，都會影響 AI 是否能穩定產生可衡量的業務成果。」
五項指標衡量可信賴 AI 成熟度
本次研究調查全球 28 個國家、2,699 名對企業資料與 AI 策略具有了解或影響力的決策者，涵蓋銀行、保險、生命科學與公營部門四大產業。報告以資料品質與治理、模型治理與監督、可解釋性與公平性、負責任 AI 政策，以及稽核與問責五項面向評估組織的可信賴 AI 成熟度，總分達 80 分以上者列為可信賴 AI 領先組織。在此框架下，可信任 AI（Trustworthy AI）是指具備可靠性、公平性、安全性、法規遵循與可解釋性，並具備明確治理及問責機制的 AI 系統。企業必須確保 AI 的決策過程能被理解與監督，並針對錯誤或缺失的 AI 輸出建立清楚的責任機制，使 AI 應用符合組織所訂定的治理規範。
（本文訊息由 SAS 提供，內文與標題經 TechOrange 修訂後刊登。新聞稿 / 產品訊息提供，可寄至：[email protected]，經編輯檯審核並評估合宜性後再行刊登。圖片來源：SAS。）
