隨著 AI 技術提升，為企業帶來強化效率和生產力的效益，對駭客而言，卻也成為讓詐騙手段更真實的攻擊幫手。在 TechOrange 科技報橘舉辦的「2025 AI 人工智慧資安論壇」，特別邀請 AWS 專業架構師團隊總監楊仲豪，以「Generative AI 浪潮下資安的衝擊，從駭客的角度談韌性」為主題，深入探討 AI 時代的資安挑戰，並解析企業如何規劃全面的資安策略。
AI 助長駭客攻擊，讓「眼見為憑」更加困難
「95% 駭客的犯罪行為是出於經濟原因，74% 的犯罪行為包含人為因素，另有 17% 的犯罪運用社交工程（Social Engineering）的方式攻擊，而這些駭客的主要目的是為了取得企業龐大價值的資料，」楊仲豪表示，生成式 AI 出世後，已經有駭客使用這項新技術了解對話內容，生成更擬人情感與個性化的回覆訊息，另外 Deepfake 技術也成為新興詐騙手法，例如有駭客透過偽造聲音影像，成功誘導一間香港企業的財務人員匯款。
當網路上出現越來越多 AI 資源與教學內容，社交工程欺騙的話術依舊便宜有效，再加上 Deepfake 影像、聲音開始興起並且被駭客廣泛使用，讓「眼見為憑」這件事變得更加困難。楊仲豪指出，「我們看到駭客利用 PentestGPT（由 ChatGPT 驅動的滲透測試工具），可以知道 Flask 框架的漏洞，進而產生對應的攻擊方法；透過作業系統內建的工具、函式庫、和驅動程式（LOTL），加上最佳化查詢次數和傳輸資料量（Evading ML），躲過掃毒程式的偵查，也是對岸常見的攻擊手法之一。」
面對 AI 興起正為企業資安帶來的全新挑戰，楊仲豪建議防守方在重要系統做到三件事：首先是掌握你所知道的密碼、PIN 碼；再者是掌握你擁有的，例如公司發放的 Token或者其他設備上的相同應用程式；最後則是掌握指紋或其他生物辨識方法。「對攻擊方而言，AI 技術讓社交工程、網路釣魚電子郵件（Phishing Emails）、提示注入攻擊（Prompt Injection Attacks）可以大量規模化；對防守方而言，我們可以持續進行威脅情報（Threat Intelligence）、異常檢測（Anomaly Detection）、程式碼漏洞掃描（Code vulnerability scanning）等研究；研究方現在最艱難的部分則是從有限的駭客攻擊的資料（limited data），產生出有合成的訊息（synthetic data），讓機器學習，如同大海撈針一樣，學習和識別新型態的攻擊。」
在每一階段制定資安政策，減少被攻擊面積
「企業需要從駭客思維防禦資安，因此在獵殺鏈（Kill Chain）每一個階段的防禦能力、授權面向都要擬定政策和執行，」楊仲豪分析，大多數的客戶關注對外的服務，忽略後續步驟阻止的能力，且為了節省成本仍未開啟 Log、刪除權限等設置出現錯誤，加上對於內部服務調用沒有強認證，以及缺少兵棋演練等因素，導致資料一旦被駭客加密，就會發生資料找不到、倒不回去、裝不起來的情況，因此企業需要盤點入口、API、應用程式、資料庫、裝置、內外部使用者等各個暴露面向，以及相對應處理的機制，例如檢測、拒絕、破壞、降級，才能最大化減少被攻擊的面積。
「AWS 致力打造企業上雲使用的安全環境，所以我們會使用 ML 支援的服務增強安全性，」楊仲豪表示，借力 AWS ML powered 安全服務，可以更安全保護企業敏感資料，並針對高度可疑的使用者行為提出警示。當客戶面臨供應鏈等攻擊模式，AWS 能夠以軟體解決方案協助企業應對，同時更打造「駭客不喜歡用的環境」，讓駭客在使用新 AWS 帳號，無法起上千台機器做 DDoS 攻擊，也加入人工智慧的偵測，防止惡意的行為。
企業往往低估生成式 AI 工程化與資安的問題
楊仲豪指出，駭客已在攻擊行動投資時間、金錢並累積經驗，因此追求攻擊規模化，甚至將攻打企業的經驗持續應用在下一個目標對象。「不起眼的小系統通常都是企業破口，」楊仲豪觀察，在訂便當系統、HR 請假系統涵蓋姓名、電話等有價值的個人資料，這些系統背後是大型的資料庫，因此容易成為駭客的入侵管道，另外 IoT 漏洞多、更新速度慢，也是目前企業基礎建設脆弱的一環，所以除了在防護偵測上加大力道，企業 CIO／CSO 更需要排序核心系統重要性並與內部溝通，同時衡量可承受的停機與金錢損失，以強化資安防禦。
「生成式 AI 目前都還不是客戶的核心系統，但是他們都會低估工程化和資安的問題，」對於生成式 AI 衍生的風險，楊仲豪建議企業定義造成財物損失、大眾利益受影響、未經過授權揭露敏感訊息、個人安全、犯罪等影響分類，並遵守生成式 AI 安全指導原則，包括將追蹤模型版本視為軟體物料清單（SBOM） 的一部分、參考與強化現有的數據政策、對生成式 AI 應用程式進行威脅分析等。楊仲豪強調，生成式 AI 不只為企業優化工作效率，也可以協助落實資安防護，而透過從駭客視角剖析攻擊型態、重新思索資安韌性，將能更全面進化資安防線。
