OpenAI 執行長 Sam Altman 近期出席美國聯邦準備理事會主辦的銀行監管會議，並在會議中指出，AI 技術的快速發展，開始讓全球面臨一場前所未有的「詐欺危機」。
「讓我感到害怕的是，仍然有金融機構接受聲紋作為轉移大量資金或做其他事情時的身份驗證，」 Sam Altman 更以「瘋狂」來形容這個現象，因為「除了密碼之外，AI 已經徹底擊敗目前人類大多數的身份驗證方式。」這也代表，現行許多安全防線在 AI 面前已形同虛設。
AI 可能導致大規模金融危機，讓 Sam Altman 徹夜難眠
面對日益嚴峻的挑戰， Sam Altman 呼籲銀行業必須「走在 AI 發展的前面」，才能應對這股日益猖獗的詐騙浪潮，確保客戶資產安全。
在現實生活中，AI 深度偽造（deepfake）技術確實已造成許多危害，甚至發展到僅需 20 秒的音訊樣本，就能產生逼真的語音模仿。像是在個人與家庭層面，《CNN》就曾報導，美國已有多位家長接到以 AI 語音技術冒充他們子女聲音的電話，試圖騙取金錢。這些詐騙者利用 AI 偽造的親人聲音，謊稱身處困境、急需金錢援助，導致受害者在情急之下匯款。
在企業與國家層級，AI 深度偽造的詐欺案件同樣層出不窮。2024 年初，香港一家工程公司的員工在一場看似日常的視訊會議中，被 AI 深度偽造的財務長所欺騙，進而轉移高達 2,500 萬美元至海外帳戶。近期，美國官員證實，有人利用 AI 假冒美國國務卿 Marco Rubio 的聲音，聯繫了一位美國州長與國會議員。這些案例皆凸顯 AI 詐欺不僅限於個人財產損失，更可能威脅國家安全與外交關係。
Sam Altman 坦言，這種「對手利用 AI 對美國發動攻擊」導致大規模金融危機的可能性，讓他「徹夜難眠」。他也預警，目前「語音通話」的詐騙將迅速演變為「視訊通話或 FaceTime」，屆時將更難以分辨通話對象的真實性。
金融業如何因應 AI 驅動的詐騙浪潮？
Sam Altman 認為，AI 是一個「過於複雜的系統」，也是一項「太新且具影響力的技術」，因此後果「很難預測」。這也解釋為什麼 Sam Altman 在其他領域總是保持相對開放的態度，卻對詐欺危機如此警惕。Sam Altman 也強調，為應對 AI 造成的真偽難辨現象，需要尋求「人類證明」（proof of human）的解決方案，因此他支持開發一款名為「The Orb」的工具。
AI 不僅帶來技術突破，也讓全球金融安全和身份認證體系的挑戰伴隨而來。金融服務的基石是信任，然而 AI 卻逐漸侵蝕信任、模糊真實與虛假之間的界線。因此對金融產業而言，當務之急是尋找更堅實、更能抵禦 AI 攻擊的身份驗證方法，這也代表企業必須持續了解威脅情資、不斷培訓員工和客戶，並投資前瞻性的驗證方法。
當「身份識別」這道城門在 AI 時代逐漸形同虛設，也迫使我們必須重新思考，如何在一個真假難辨的世界中，建立起新的防禦城牆，抵抗不斷演進的攻擊手法。
＊本文開放合作夥伴轉載，資料來源：《CNN》、《tech.co》、《secureworld》，首圖來源：flickr。
