當 AI Agent 不只整理文件，還能直接發起付款、修改帳戶資料，銀行該如何判斷風險，並在出錯前介入？美國貨幣監理署（OCC）11/4 發布首份銀行 AI 監理框架，其中一項值得注意的內容，是將自主付款 Agent 列為最高風險等級的示例，並強調 AI 的風險不只取決於技術複雜度，更與實際用途、自主權及出錯後果有關。
根據《Reuters》報導，這份框架主要供銀行檢查人員使用，並未新增強制性監理要求，而是說明如何將 AI 納入既有的銀行風險管理制度。
不另設 AI 風險類別，OCC 為何仍提出新框架？
根據 OCC 官方文件，AI 可能增加或改變銀行原有的營運、法遵與信用風險，但不需要因此被視為完全獨立的風險類別，銀行也無須另外設定一套 AI 專屬的風險承受程度（Risk Appetite）。
不過，沿用既有制度不代表不必調整管理方式。傳統模型風險管理重視預測與輸出是否可靠；生成式 AI 可能產生不一致的回答，而 AI Agent 更能存取系統、使用工具、修改資料或執行交易，讓銀行除了模型表現，也必須關注它取得哪些操作權限。
為此，OCC 提出涵蓋 16 個項目的監理框架，並歸納為六大支柱：使用目的、風險、控制、監督、營運韌性與控制有效性驗證。
為此，OCC 提出涵蓋 16 個項目的監理框架，歸納為使用目的、風險、控制、監督、營運韌性與控制有效性驗證六大支柱。核心是先釐清 AI 被允許執行什麼任務、出錯可能造成哪些後果，再依風險調整控制與監督強度，並確認相關機制確實有效。
例如，銀行可在部署 Agent 前，明確界定其用途、授權使用者、可存取的資料與工具，以及哪些操作需要人工核准。即使 AI 的執行結果看似合理，只要超出原本核准的用途，也可能構成控制失效。
自主付款 Agent 為何列最高風險？OCC 提出四級分類
OCC 指出，AI 系統的風險高低不一定與技術複雜度成正比。獲准發起交易的簡單規則型代理，可能比只能協助員工撰寫內部文件的先進模型更具風險。
為說明如何依風險調整控制強度，OCC 在框架中提出四級示例性分類：最高的 Tier 1 包括自主付款代理、即時授信決策與解除詐欺交易凍結；Tier 2 包括 AI 輔助核貸、代理主動聯繫客戶及反洗錢警示處置；Tier 3 涵蓋須經人工審核的授信文件摘要與代理輔助研究；Tier 4 則是一般員工問答等低風險內部工具。
這套分級的關鍵，不只是 AI 能否完成任務，而是它取得多少自主權、能否直接採取行動，以及錯誤發生後能不能挽回。例如，同樣用於付款，一個 Agent 只能準備交易資料、等待員工確認，另一個則能自行發起付款。後者若執行錯誤，款項可能已經匯出，無法在造成損害前追回，因此需要考慮更嚴格的控制。
OCC 也將客戶與財務影響、資料敏感性、可解釋性及模型來源等因素納入評估，讓銀行不必對所有 AI 應用採取相同強度的管理措施。不過，這套四級分類是供檢查人員參考的示例，並非要求銀行強制採用的法定標準。
人工監督不能流於形式，AI Agent 出錯還要能及時停止
當 AI Agent 取得更多操作權限，銀行不只需要事先界定它能做什麼，也要確保運作過程中有人能有效監督，必要時阻止錯誤行動。OCC 區分兩種人工監督方式：Human-in-the-Loop 是 AI 執行前須經人類審查與批准；Human-on-the-Loop 則允許 AI 自主運作，但由人員持續監控，並保有介入或停止操作的權限。
文件特別提醒，人工監督不能只是形式上的批准。如果銀行讓員工一次審核大量 AI 操作，可能降低審查品質，甚至產生警示疲勞。監理人員也可評估，一名員工實際能監督多少個 Agent、帳戶與作業流程，以及是否有足夠時間介入。
另一項值得注意的風險是，AI Agent 即使沒有當機，也可能持續執行錯誤任務。OCC 因此提出速率限制、最小權限、熔斷機制（Circuit Breaker）與緊急停止開關（Kill Switch）等控制方式，供銀行依風險評估採用，並規劃出錯後的復原與客戶補救程序。
外部 AI Agent 透過銀行服務發起操作，如何確認授權與責任？
除了管理自己部署的 AI，銀行也可能面對來自客戶或其他業者的外部 Agent。這些代理並非由銀行直接控制，卻可能透過銀行服務管道提出付款或其他操作請求。例如，消費者授權 AI Agent 代為購物付款，銀行便需要考慮如何確認代理身分、授權是否涵蓋這筆交易，以及使用者撤銷授權後，如何阻止後續操作。OCC 因此也將代理授權驗證、交易頻率限制與爭議處理列為監理考量。
另一方面，若銀行自行採購第三方廠商提供的 AI 系統，責任問題又有所不同。OCC 指出，即使模型由外部供應商開發或託管，管理銀行自身風險的責任通常仍由銀行承擔。因此，銀行除了掌握供應商 Agent 的操作權限，也可透過契約釐清模型錯誤、客戶損害與相關損失的責任分配。
【推薦閱讀】
◆ AI 代理替客戶動錢，誰來把關？美國大銀行先擋，香港金管局研議身分與授權驗證
＊本文開放合作夥伴轉載，資料來源：《Reuters》、《Decrypt》、OCC、Super Intelligence Supervisory Framework，首圖來源：Unsplash
