Search
Close this search box.

Visa 如何讓員工使用 AI 又不外洩機敏資訊?靠的是投資 30 億美元的「數據基礎設施」

支付巨頭 Visa 在生成式 AI 浪潮襲來不久,就收到員工詢問「我可以使用 ChatGPT 嗎」、「我想要 ChatGPT」,但考量到客戶敏感資料的安全問題,無法直接開放員工使用。為了平衡這些擔憂,Visa 的因應之道是什麼?

為此,Visa 建立了一套名為「Secure ChatGPT」的內部生成式 AI 系統,架設在自家防火牆後方。該系統透過資料外洩防護(Data Loss Prevention, DLP)機制篩選所有輸入與輸出資料,避免敏感資訊離開 Visa 系統。

Visa 資深副總裁暨資料與 AI 部門主管 Sam Hamilton 接受《VentureBeat》採訪時表示:Visa 能順利使用生成式 AI 的背後,是多年來大量投資建立的數據基礎架構。Hamilton 將此架構形容為「4 層生日蛋糕」,Visa 為此技術架構,在過去十年投資了 30 億美元。

第一層「資料平台即服務」,是負責收集與管理數百 PB 大小資料湖的作業系統。

第二層「資料即服務」,提供高效且快速的資料通道,支援數百個應用程式即時運作。

第三層「AI 與機器學習生態系統」,是 Visa 用來持續測試與監控 AI 模型效能之處,確保模型運作沒有偏差。

第四層「資料服務與產品」,Visa 在這一層開發專門給員工及客戶使用的各類產品與工具。

一套系統、6 種模型:透過「RAG 即服務」彈性使用

Visa 在此數據基礎架構之上建立的「Secure ChatGPT」,雖然名稱中有 ChatGPT,但實際上提供多達 6 種不同的生成式 AI 模型,包括 OpenAI 的 GPT 系列、Mistral、Anthropic 的 Claude、Meta 的 Llama、Google 的 Gemini 以及 IBM 的 Granite 等。這種設計被 Visa 稱為「模型即服務」(Model-as-a-Service)或「RAG 即服務」(RAG-as-a-Service)。

Hamilton 表示:「這像是一層抽象化的介面,員工可根據特定用途需求自行選擇最適合的 AI 模型。」例如需要簡單調整與快速反應時,選擇較小的開源模型如 Mistral;而如果需要複雜推理能力時,則可選擇更高階的模型如 OpenAI o1 或 o3。如此一來,就能有效避免員工因為系統不夠彈性而自行尋找未授權的 AI 工具,進而維護企業的資料安全。

快速又安全取得跨國法規資訊?靠 RAG 加速實現

Visa 表示,Secure ChatGPT 的重要應用場景,是快速處理、查詢跨國政策與法規的問題。

Visa 業務遍及全球 200 多個國家與地區,每個地區都有不同的支付法規及規範,以傳統手動方式徹底查詢,可能需要耗費數小時甚至數日。但 Visa 表示,Secure ChatGPT 透過 RAG 技術縮小了答案範圍,不只能告訴使用者什麼可以做、什麼不能做,還可提供具體的資料引用來源和文件,方便迅速確認資訊。

根據《VentureBeat》報導,Visa 以高達 1,000 倍的速度擷取資訊,Hamilton 表示,這套系統可以把過去需要「數小時,甚至數天」的工作,縮短至 5 分鐘以內。

用深度學習防範詐騙,擋下 400 億美元詐欺交易

除了內部使用,Visa 也將生成式 AI 應用在交易安全與防範詐欺領域。2024 年,Visa 透過 AI 攔截了價值高達 400 億美元的詐欺交易。

Visa 的具體作法包含,新的深度授權工具(deep authorization)管理無卡支付──利用深度學習與遞迴式神經網路(RNN)快速識別交易風險等級,即時攔截惡意行為。同時,Visa 也將真實資料搭配合成資料(Synthetic Data),藉此模擬不同詐欺行為,提高 AI 防範新型詐欺攻擊的能力。

Hamilton 解釋,Visa 透過生成式 AI 來強化詐欺行為的識別和阻止能力,是希望按照交易的實際需求應用 AI,「這代表我們的反應時間不到 1 秒,甚至應該說是幾毫秒。」

【推薦閱讀】

IBM 公布 5 大 AI 趨勢,台灣 IBM 總經理李正屹:「資料」是企業的最大武器

拆解美國最大銀行摩根大通「AI 部署策略」,20 萬名員工積極用 AI 只是第一步?

金管會怎麼看金融業導入 AI Agent?專訪金管會金融市場發展及創新處處長胡則華

*本文部分初稿為 TechOrange 使用 AI 編撰,經《TechOrange》編撰,資料來源:《VentureBeat》IBM麥肯錫《TechOrange》,首圖來源:Ideogram 生成。