隨著 AI 技術發展讓資安威脅日趨複雜，擁有巨量用戶數據的金融、零售、製造等產業如何透過駭客的角度提升資安韌性、強化安全與風險管理的策略？在 TechOrange 科技報橘舉辦的「2025 AI 人工智慧資安論壇」，DEVCORE 戴夫寇爾紅隊隊長徐偉庭聚焦「從駭客視角漫談 AI 盛行所衍生的資安議題」，剖析 AI 如何重塑駭客攻擊行動，以及企業的因應策略。
AI 降低駭客技術門檻與攻擊成本
「AI 對駭客帶來的幫助，就是大幅降低攻擊成本，加速理解新的系統，」徐偉庭引用資安公司 Bugcrowd 發布的《Inside the Mind of a Hacker》報告，指出在接受調查的 1300 名駭客中，86% 的駭客認為 AI 顯著改善攻擊模式，更有 77% 的駭客已經使用 AI 進行攻擊。當駭客身處全新的技術領域，往往需要寫出客製化的進攻程式，這時 AI 就可以快速提供一個程式雛形並協助偵錯。徐偉庭說明，「駭客進攻企業時，因為不同企業偏好的解決方案不盡相同，所以需要投入更多的時間和人力資源展開研究，才可以找到新系統的破口，以深入測試企業的資安防禦。」
徐偉庭指出，DEVCORE 戴夫寇爾作為提供「紅隊演練」的資安業者，主要目標是基於企業真實營運環境模擬駭客攻擊，並進攻內網取得機敏資料或關鍵基礎設施的控制權，為客戶發掘可被攻擊者利用的漏洞，不過遇到複雜攻擊情境、不熟悉的系統、未知的攻擊錯誤，也會優先選擇進攻其他場域。徐偉庭分析，過去黑帽駭客進攻企業時，一旦發現麻煩狀況也會先放棄當前目標，轉往攻擊其他企業，但是在具備 AI 工具、各種強大 LLM 服務的情況下，攻擊者可以補齊系統或漏洞的背景知識、常見打法，進而尋找更多突破方向。
徐偉庭進一步舉例，OpenAI 就曾經觀察到駭客組織向 ChatGPT 詢問程式漏洞、系統知識背景等問題，還有伊朗駭客運用 ChatGPT 寫爬蟲程式，以進行後續的社交工程攻擊，「從這些案例我們可以發現，其實 AI 幫忙解決的問題沒有多困難，但是可以讓專業攻擊者有更多餘裕專注挖掘深層破口，另外 AI 也降低攻擊的技術門檻、能夠特化惡意模型，並且全面強化社交工程的力度，生成偽造的圖片、聲音、影片，讓攻擊素材更為真實。」
剖析企業抵禦 AI 資安威脅的行動策略
面對 AI 大幅降低進攻成本，導致各層級的攻擊強度提升，企業如何透過實際行動抵禦資安威脅？徐偉庭首先建議企業強化網路邊界的安全控制，同時定期檢測系統、強化郵件安全設定，因為駭客的攻擊成本更低，同時也獲得更多時間觀察破口。再者是落實縱深防禦策略，在駭客突破外網時，讓企業內網具備更多道防線保護。最後則是定期執行社交工程演練，以提升員工的安全意識。
當越來越多企業在使用 LLM 優化工作效能，徐偉庭提醒企業需要避免將系統帳號密碼、憑證私鑰等機敏資訊輸入進 LLM，「我們在紅隊演練的經驗中，發現一個重要破口就是從企業內網自建 LLM 服務記錄的聊天內容取得憑證，最終獲得雲、地端控制權，這是過往很多企業沒有想像到的駭客攻擊路徑，」針對 LLM 服務的安全性，徐偉庭分析駭客往往會關注檔案傳送的地方、檔名是否可控，以及輸入字串的位置能否被過濾，以及切換 URL ID 是否有機會讀取別人的聊天記錄等，因此企業如果擁有開發、自建 LLM 服務的需求，也需要更加留意系統安全防護。
徐偉庭強調，AI 攻擊手法層出不窮，企業需要具備駭客思維的資安意識，在重要地方防守並定期進行演練，才能有效應對持續加劇的攻擊威脅。
立即預約收看【2025 AI 人工智慧資安論壇】演講精華，解鎖更多抵禦 AI 資安攻擊的關鍵戰略！
