【TO 編輯部導讀】
在這個數位化時代，詐騙手法也跟著進化。生成式 AI 出現，使得詐騙郵件更加逼真，讓許多人難以分辨真偽。但是，當我們面對這樣的威脅時，是否真的束手無策？絕對不是！接下來，讓我們了解在這個充滿挑戰的數位世界中，有什麼專業工具能保護自己，避免成為詐騙的受害者。
隨著科技變革，詐騙技術也越來越多元且難以辨識。現在就有人利用近兩年快速發展的生成式 AI 進行商務電子郵件詐騙（Business Email Compromise，簡稱 BEC），讓許多人不堪其擾，究竟有沒有技術可以對抗它？
還真的有！以色列新創 Perception Point 最近公開他們研發的創新檢測模型，它能辨識與阻止以生成式 AI 產生的惡意郵件帶來的威脅。
生成式 AI 成網路詐騙工具，BEC 較過往增加 83%
細談 Perception Point 的創新技術前，先來了解 BEC 的進行方式：詐騙者通常會假冒成一名值得信賴的對象，向特定使用者要求轉帳款項，或提供企業、個人的機密資訊。
而生成式 AI 的出現，讓詐騙者能夠創建更多高質量、且人性化的電子郵件內容，乍看之下與真人所撰寫的內容毫無差別，成為網路犯罪的強大工具。Microsoft 官網顯示，2022 年 FBI 就已收到了近兩萬起 BEC 投訴。
Perception Point 2023 年的年度報告也顯示 BEC 相較過往增加了83％。
訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導
感謝訂閱！隨時注意信箱的最新資訊
設計獨有的「三段式結構」，0.06 秒就可精準揪出詐騙信件並隔離
Perception Point 的創新檢測模型有望揪出詐騙信件。它以大型語言模型（LLMs）為基礎，可以藉由追蹤序列資料中的關係，學習上下文之間的脈絡與意義，不但能辨識信件是否由生成式 AI 產出的文字，還能檢測並阻止惡意信件的攻擊。
雖然比較先進的電子郵件安全系統，也有進行上下文和行爲檢測的功能，Perception Point指出這些系統，「仍難以識別生成式 AI 帶來的新型攻擊，因為這些攻擊巧妙繞過檢測系統當初設計的識別模式。」
現在市面上提出的解方，多只能在收到信件後進行檢測，這代表惡意信件會在收件者的收件匣中放置一段時間才會被刪除；面對這樣的問題，Perception Point 最新技術中獨特的「三段式結構」可以提供解方。
Perception Point 技術長 Tal Zamir 接受《VentureBeat》採訪時解釋：「一開始，此模型會透過 Transformer 模型和分群演算法（clustering algorithms）對信件內容進行分類，再針對對分類的洞察、以及對如寄件者信譽、認證協議（authentication protocol）等補充資料進行整合，最後便能辨識郵件是否由 AI 生成，並判斷是否存在潛在風險。」一旦發現惡意郵件，此模型就會在它到達使用者收件匣前進行隔離。
Perception Point 說這款創新檢測模型使用他們的專利技術 HAP（Hardware Assisted Platform），處理收到的電子郵件速度極快，平均處理時間只需 0.06 秒。這是他們透過公司收集到的數十萬個惡意樣本進行訓練，並持續更新數據、不斷優化才有的成果。
Perception Point 的下一步希望能持續精進 AI 技能，用以篩選大量數據、識別潛在威脅、並為客戶提供相關情報，有助客戶更有效地應對不斷更新的詐騙技術、及早採取能保護個人資產的行動。
＊本文開放夥伴轉載，資料來源：Microsoft、《VentureBeat》、StartupHub.ai，首圖來源：Perception Point
（責任編輯：黃俊誠）
