隨著人工智慧成為資安領域的全新攻防重點，專家認為，在不久的將來只需要一名駭客，就有能力在 AI 的輔助下，對全球不同的資訊系統同時發動 20 次零日攻擊。
即便是駭客技術較低的「腳本小子」（Script kiddie），在未來亦有能力於攻擊過程中，透過客製化 AI 模型的應用，自主學習與適應不同攻擊手段，甚至是點個按鈕就立刻於網路上釋放大量惡意程式碼。
AI 駭客：永不休眠、永不疲倦、從不失手
近日，企業資安漏洞賞金系統 HackerOne 的多個排行榜上，有款 AI 驅動的白帽應用突然竄起，而它正是由 GitHub Copilot 背後，多位菁英開發者所聯手打造的 XBOW。
XBOW 不僅能夠偵測網路基礎設施的安全漏洞，甚至還能主動利用漏洞，並透過自我編寫程式碼的方式，破解各種加密措施、執行雜湊函式長度擴充攻擊，同時模仿頂級人類駭客的各種行為。
由於 XBOW 本質上是個 AI 系統，因此它永不休眠、永不疲倦，甚至也從不失手，
這套為白帽攻擊者所開發的 AI 弱點滲透工具，懂得自動尋找並利用許多網站的程式碼漏洞，替資安業者解決了高達 75% 現實世界的網路安全挑戰，效率超越了一眾人類滲透測試者。
AI 降低程式撰寫門檻，「氛圍駭客」隨之興起
即便 XBOW 屬於白帽駭客的資安演練工具，但由 AI 所驅動的安全攻擊行為，仍是當前網路安全產業最令人擔憂的威脅，外界亦十分清楚「AI 駭客」的潛力尚未獲得完全釋放。
資安新創公司 Hunted Labs 聯合創始人 Hayden Smith 就向外媒透露，資安業者對於 AI 的看法，就像是一台飛機正在緊急降落，機師（資安團隊）仍拼命撐住飛機（資安防禦體系），不希望它突然墜毀，但某種程度上卻也明白「災難」隨時可能發生。
生成式人工智慧的高速進步，讓任何人都能以更輕鬆、更高效率的方式編寫程式碼，比方說使用 ChatGPT 編寫 Python 腳本，進而促成了「氛圍編碼」（Vibe coding）概念的出現。
當 AI 化身為程式開發者的高效工具時，意圖利用人工智慧製作惡意軟體的氛圍駭客（Vibe Hacking）概念，卻也於此刻同步誕生。
專用於生成惡意程式碼的 LLM 在暗網流竄
資安領域公司 Luta Security 創始人兼執行長 Katie Moussouris 表示，世界正在見證氛圍駭客攻擊的興起，那些沒有任何技術知識或深厚技巧的人，未來只需要跟 AI 應用進行交談，即可創造出各種攻擊工具。
事實上在 2023 年，一個專門用於產生惡意程式碼的大型語言模型（LLM），就在 Discord 群組、Telegram 伺服器和暗網論壇上流竄，其名為 WormGPT；當資安專家與媒體相繼揭露 WormGPT 的存在後，它的開發者立即停止了更新。
隨後，其他自稱是「黑帽 LLM」的服務，例如 FraudGPT 卻在 WormGPT 銷聲匿跡後取而代之；FraudGPT 等工具在暗網流竄，研究顯示多數為商業 AI 模型的越獄版本（如 ChatGPT），非獨立訓練系統。
繞過 AI 護欄多容易？只要人類說謊就可以！
對於真正的壞人來說，他們若想要透過 AI 製造惡軟體，通常會去找「源頭」，直接仰賴 ChatGPT、Gemini 和 Claude 等正規服務，即便這些平台本身擁有防護措施，可以阻擋大多數惡意程式碼遭到輸出，可是想繞過 AI 護欄對於有心人士來說，事實上也十分容易。
在 2023年，趨勢科技（Trend Micro）的安全研究人員就曾發起測試，透過讓 ChatGPT 扮演「安全專家」和「滲透測試員」的角色，使 AI 模型成功輸出惡意程式碼，ChatGPT 還會根據惡意程式碼資料庫的數據，為駭客生成 PowerShell 執行腳本。
Katie Moussouris 說，任何人都可以透過市面上的 AI 創造惡意軟體，至於繞過人工智慧安全護欄的最簡單方法，就是向 AI 表明，自己正在參加一場合法的駭客「奪旗」攻防演練，接著 AI 就會大膽且毫無阻礙的輸出惡意程式碼。
在 AI 兼具方便性與效率的情況下，如「腳本小子」（Script kiddie）這類的低技術駭客，其影響將會進一步遭到放大。資安公司 RANE 網路情報分析師 Hayley Benedict 就直言，人工智慧確實降低了網路犯罪的門檻。
資安業者的真正恐懼：AI 跟資深駭客結合
只不過，相較於腳本小子所帶來的威脅，資安專家顯然更擔心 AI 工具，遭到高技術駭客的深入應用，增強傳統駭客組織本來就已經十分可怕的攻擊能力。
Hayley Benedict 說，一旦資深駭客擁有 AI 工具，他們就能大幅提升網路犯罪行動的規模，以更快的速度創造惡意程式碼；Katie Moussouris 也認為 AI 技術所帶來的「加速」，將讓資安風險控制變得極為困難。
Hunted Labs 聯合創始人 Hayden Smith 坦言，人工智慧程式碼帶來的真正威脅，仍然掌握在那些對程式開發領域瞭如指掌的人手中，例如以前需要好幾天才能完成的駭客工具開發，現在卻只需要 30 分鐘。
Hayden Smith 強調，經驗豐富的駭客有能力借助 AI，設計出突破多重安全保護措施，以及不斷學習新知的攻擊系統；惡意程式碼將在學習過程中，不停重寫與進化，這類攻擊簡直可以用「瘋狂」來形容，也很難進行歸納與分類。
Hayden Smith 甚至為此提前設想了一個極端情境，即未來駭客將有能力借助 AI，同時利用 20 個零日漏洞發動攻擊，屆時那種場面將會非常可怕。
對抗 AI 壞人的手段，要靠用 AI 的好人
即便 AI 駭客所帶來的威脅顯而易見，但資安專家仍然認為，完全由人工智慧取代人類發動資安攻擊，這種情況短時間內應該還不會發生。
舉例來說，目前最接近「自主 AI 駭客」的白帽工具 XBOW，背後仍有 20 多名來自GitHub、微軟等，多家軟體公司的菁英開發者聯合打造，若是從該角度分析，對於程式開發有著高階理解的資深攻擊者，仍然比 AI 更加令人畏懼。
同時上述情況也指向另一個真理。資安公司 RANE 網路情報分析師 Hayley Benedict 說，對抗擁有 AI 工具壞人的最佳防禦手段，其實就是擁有人工智慧技術作為後援的好人。
AI 既能保護人類，同時也能毀滅人類
資安領域公司 Luta Security 執行長 Katie Moussouris 表明，黑帽駭客和白帽駭客對 AI 技術的使用，只是他 30 年來對網路安全軍備競賽演變的另一個見證，即惡意軟體的製造從「手動及專屬專用」，變成了「自動化且普及化」。
Katie Moussouris 說，人工智慧只是駭客工具箱中的另一種選擇，唯有那些知道如何正確使用的人，才有可能創造出顛覆性的前端應用。
沙烏地人工智慧公司 SCAI 智慧城市與 AI 負責人 Mohammed Alqahtani，則下了更精確的註解；他指出，AI 既能保護人類，同時也能毀滅人類，因此問題並不僅在於它能做什麼，而在於誰能夠真正控制人工智慧。
【推薦閱讀】
◆【資安新威脅】「零知識駭客」不會寫程式，卻靠沉浸式世界讓 AI 生出惡意軟體
◆【真的是老闆打的電話嗎】Jericho Security 用真人級 AI 模擬釣魚，讓企業防禦「明天的攻擊」
◆【RAG 能讓 AI 更安全嗎】研究顛覆認知：導入後，LLM 對有害指令有問必答
◆ 【每 42 秒就來一封】AI 讓釣魚攻擊成本暴降 95% 還展現「多態性」，企業該怎麼防？
＊本文開放合作夥伴轉載，參考資料：《Wired》、《Mohammed Alqahtani》，首圖來源：Pixabay
（責任編輯：鄒家彥）
