生成式 AI 正成為金融業的創新推手，帶來嶄新的應用與商機，但同時也伴隨著風險管理的難題。如何運用負責任 AI 確保公平性和透明度，並防範潛在的數據偏差與安全威脅，已成為金融機構的首要課題。本文剖析了金融業在這波技術革命中的挑戰與機遇，帶您了解負責任 AI 的實際應用及其治理框架。
隨著金融業加速數位轉型，擁抱開放銀行、生成式 AI、嵌入式金融等新興趨勢，科技已經成為現代銀行的重要 DNA。但在創新的同時，資安與各種新興技術風險的考量也成為治理的新考驗。
如何在「促進金融創新」與「確保風險管理」之間取得平衡，成為金融監管的重要任務。
因應 AI 時代，台灣金管會金融科技政策概覽
新興科技的發展常超出現有的監管與法律框架，舉例來說大數據蒐集可以拿來作為 AI 模型訓練，但是也會涉及個人隱私侵犯的風險；所訓練的模型是否準確，也會有偏見與歧視的隱憂。
對此，台灣金管會從 2023 年起陸續頒布「金融科技發展路徑圖」、「金融業運用 AI之核心原則與相關推動政策」針對金融未來的發展推動措施，還有協助金融機構運用 AI 技術的原則提出方向。今年 6 月推出的「金融業運用AI指引」即著眼促進產業 AI 負責任的應用、保障台灣消費者權益以及確保系統的穩定和安全性。
許多銀行也開始關注如何在享受 AI 的創新之外，做到負責任的 AI （Responsible AI)。
成為金融業界新顯學的「負責任 AI」是什麼？
「負責任的 AI」是一個 AI 的治理框架，確保 AI 或機器學習模型做出的決策是具有公平性、透明並妥善保護用戶隱私的。
依據每間機構所使用的評量標準不同，通常負責任的 AI 框架還會帶有以下評量標準：可解釋性、安全性、當責性、隱私保護等面向，目的就是為了可以針對 AI 風險有衡量的一致性價值。
為什麼金融業需要這樣的 AI 治理框架？
主要是考量到大型語言模型在建構、訓練等各個環節，資料容易出錯或是出現模型開發人員無意的偏差，導致模型在使用時可能危害到企業內部營運流程，甚至是消費者的權益。因此，金融業需要在監控偏差、確保模型透明性等面向保持警覺，確保在提供各式金融服務的時候可以基於公平性作出適當決策。
例如經過 AI 判讀後可能針對特定族群、性別、年齡產生誤判，因此拒絕提供金融服務或是收取更高的利率，或是針對某些地區劃分成高風險區域，進而拒絕為該地區居民提供信貸與保險服務。其他案例還包括容易發生因部署 AI 與雲端的安全機制不足，造成客戶隱私外洩的案例；過去美國的金融機構 Capital One 就曾因雲端服務配置錯誤，讓駭客非法取得超過 1 億美加地區的用戶銀行與社會安全碼資料。
讓「負責任 AI」落地，金融業該考量的四大關鍵
身為引領全球 AI 應用的領先者，微軟也在開發 AI 創新的同時逐步發展負責任的 AI 相關治理與技術框架。Azure 服務現在也支援 Responsible AI 記分卡，透過可視化的方式讓開發人員可以配置、生成資料與 AI 模型的健康狀況，讓非技術人員也可以評估模型是否偏差、是否有任何流程上的安全與準確性缺陷，以此更加了解模型的狀況。
負責任的 AI 治理仍屬新議題，在各家金融機構與 Fintech 新創都急欲發展能商用實際落地的解決方案時，有幾點是所有業者都可以開始共通考量的重要衡量：
- 制定負責任的 AI 承諾，並將其原則和實踐應用於內部營運
- 針對企業內部所使用的工具進行技術審核，以評估模型偏差、安全缺陷與資料準確等問題
- 為員工提供培訓，建立企業內部的 AI 治理意識
- 建立持續的流程與治理機制，確保營運不中斷
企業競相導入 AI 技術，唯有那些負責任部署 AI 的企業才能在競爭中脫穎而出。有效避開法律風險也能維持客戶信任，避免可能損害企業聲譽的失誤，以此確保長期穩健發展的根本。
＊本文開放合作夥伴轉載，資料來源：《Microsoft》、《金管會》、《WEF》。首圖來源：Image Creator in Bing
