多年來，AI 是否會幫助駭客更快找到漏洞、生成攻擊程式，一直是資安圈最擔心的問題之一。但如今，這個風險不再只是理論，而是正式進入實戰階段。Google 威脅情報小組（Google Threat Intelligence Group）發布最新報告指出，他們首次發現並阻止了一起駭客利用 AI 發現並武器化零日漏洞的網路攻擊事件。
零日漏洞是連軟體開發商本身都尚未知曉的安全漏洞。過去這類漏洞極為稀有且威力強大，甚至能在地下駭客交易市場上賣出數百萬美元高價。Google 雖然沒有透露是哪一個組織發動攻擊，但指出中國與北韓相關的駭客，對於如何使用 AI 來發現這類漏洞展現高度興趣。
一個 Python 腳本、一個 2FA 繞過漏洞，差點釀成大規模攻擊
根據 Google 報告，攻擊者為「知名網路犯罪威脅行為者」，目標是一款廣泛使用的開源網頁式系統管理工具。攻擊者發現了該工具雙重驗證（2FA）機制中的一個高階語意邏輯漏洞：開發者在程式碼中硬性建立了一個信任假設，使攻擊者得以在取得有效帳號憑證的前提下繞過 2FA。
攻擊者隨後以 Python 腳本撰寫了漏洞利用程式（exploit），準備發動大規模利用行動，但在造成損害前已被 Google 阻斷。Google 表示已即時通知相關軟體開發商與執法機關，並協助完成修補。
Google 如何判斷是 AI 做的？
Google 研究人員判斷此次攻擊有 AI 介入，主要依據是 exploit 程式碼本身的多個異常特徵，包括出現「幻覺式 CVSS 評分」、過度詳盡的說明性文字（educational docstrings）、結構化的教科書式格式，以及人類工程師在正常情況下不會加入的多餘說明內容。
美國國家安全局前網路安全主任 Rob Joyce 在公開發表前受邀審閱這份報告，他表示 AI 生成的程式碼不會自我揭露，但 Google 所找到的這些線索，「是目前最接近犯罪現場指紋的東西」。Google 威脅情報小組首席分析師 John Hultquist 告訴《紐約時報》，Google 另掌握其他佐證駭客程式碼是由 AI 編寫的指標，但拒絕討論這些證據。
Google 未公開受影響的工具名稱、攻擊者身分，以及攻擊者所使用的 AI 模型為何，但明確表示不認為是 Google 自家的 Gemini 或 Anthropic 的 Claude Mythos。
攻擊者比間諜更有動機用 AI 加速
Hultquist 在接受外媒採訪時表示，「這其實只是未來局勢的一個預演。我們相信，目前看到的恐怕只是冰山一角，實際問題可能比想像中還要更大，而這只是第一個真正浮上檯面的具體案例。」
Google 這次案例之所以重要，在於犯罪集團其實不需要完美的漏洞掃描能力，他們只需要「夠快」，快到能在漏洞公開與修補完成之前搶先發動攻擊即可。Hultquist 表示，相較於行動緩慢、以長期潛伏為主的國家級間諜組織，犯罪集團更能從 AI 的高速能力中獲益。「你和他們之間正在展開一場競賽，你必須在他們獲取勒索你或發動勒索軟體所需的任何資料之前阻止他們。」
Google 的更廣泛追蹤報告也顯示，AI 輔助攻擊已不限於零日漏洞，而是滲透進整個攻擊作業流程。根據《implicator.ai》，與中國有關聯的威脅行為者已使用專家角色扮演提示對 TP-Link 韌體與特定檔案傳輸協定實作進行滲透測試；北韓相關組織 APT45 則向 AI 模型送出大量提示，用以分析 CVE 漏洞資料庫並建立概念驗證型漏洞利用程式。此外，Google 也觀察到威脅行為者正在使用包含逾 8.5 萬筆中國漏洞賞金平台案例的 GitHub 儲存庫訓練與測試 AI 模型。報告同時指出，攻擊者也開始以 AI 系統本身為目標，針對賦予 AI 系統實際行動能力的自主技能模組與第三方資料連接器發動攻擊。
《implicator.ai》強調，零日漏洞競賽不再只比誰先發現漏洞，而要比拼誰能將發現的漏洞轉化成可重複使用的攻擊能力。
從 Mythos 到 Google 報告：AI 漏洞競賽正式開始
Google 此消息發布的時間點格外敏感。Anthropic 上個月剛宣布推出 Mythos 模型，並以功能過強、擔憂遭惡意利用為由，僅開放給約 40 家受信任的合作企業與政府機構測試。Anthropic 當時指出，Mythos 已在每個主要作業系統與每個主要瀏覽器中發現數千個零日漏洞，其中許多已存在數十年。
《紐約時報》表示，Google 此次公布的零日漏洞案例，可能進一步強化國際社會對「限制最新 AI 模型釋出方式」的呼聲，希望能先讓專業人士完成安全修補，再擴大開放使用。《紐約時報》上週報導指出，美國川普政府正評估相關方案，其中甚至包括建立正式的政府審查機制，用來評估新 AI 模型是否適合公開發布。
部分專家認為，從長期來看，AI 最終將有助於提升資安水準，因為它能協助開發近乎完美的程式碼。不過在短期內，政府與企業仍需合作，降低 AI 對現有網路環境可能帶來的衝擊。Hultquist 就表示：「最前沿的模型，將讓我們打造出史上最安全的程式碼，這對資安而言絕對是一件好事。但問題在於，我們才剛開始這個過程，同時還必須面對一整個早已存在、充滿歷史遺留程式碼的世界。」
【推薦閱讀】
◆ Anthropic Mythos 太會找漏洞：Firefox 修補數暴增 13 倍，工程師坦言還沒有自動化解方
＊本文開放合作夥伴轉載，資料來源：《CNBC》、《The New York Times》、《Reuters》、Google Cloud、《The Verge》、《implicator.ai》、《AP》，首圖來源：Unsplash
