Google 旗下威脅情報小組(Google Threat Intelligence Group,GTIG)近日發布最新一期 AI 威脅追蹤報告(GTIG AI Threat Tracker),指出該小組首度觀察到,攻擊者在完全無人介入的情況下,利用 AI 框架從軟體安全修補程式反推出漏洞攻擊程式。GTIG 表示,越來越多攻擊者從單純對 AI 下指令,轉向部署自主多代理框架與自動化漏洞利用流程,AI 遭惡意利用的威脅態勢已來到關鍵轉折點。
《SiliconANGLE》指出,GTIG 在兩個月前的上一期報告中,仍稱尚未觀察到攻擊者在真實環境中部署全自動攻擊流程,情況在過去一季出現轉變。根據《The Decoder》報導,Google 在報告的 LLM 成熟度時間軸中,將目前的攻擊活動歸在第 5 級,即 AI 工具能在極少人力介入下執行多個攻擊階段,並預估再過幾個月就會出現更強大的攻擊。
Google 首度觀察到 AI 全自動利用漏洞,安全修補程式反成攻擊線索
GTIG 在一台對外曝露的暫存伺服器(staging server)上,發現名為 exploit_agent 的多代理漏洞研究與武器化框架,串接多個前沿大型語言模型(LLM)與自行架設的模型。這套框架會持續比對熱門網頁應用程式在修補程式公布前後的程式碼差異,從中找出可能的漏洞、撰寫漏洞攻擊程式(exploit),並在無人介入的情況下自動執行。
同一台伺服器上,還存放著從受害者竊取的資料,以及多個用於入侵後行動的腳本,涵蓋內部偵察、暴力破解、安裝網頁後門程式(web shell),甚至移除其他攻擊者留下的網頁後門。伺服器上的受害者遙測資料顯示,操作者似乎特別鎖定法國的媒體、娛樂與教育相關網站。框架設定檔中還留有俄文註解,要求設定者「自己把金鑰填在這裡,不要貼到聊天裡」,《The Decoder》認為這顯示操作者可能使用俄語。
GTIG 認為,對攻擊者而言,利用 LLM 迅速將已修補的已知漏洞(n-day vulnerabilities)武器化,可能比尋找零時差漏洞(zero-day vulnerabilities)更有效率。原因在於,鎖定已修補的漏洞時,研究範圍可集中在有限的資料上,包括比對不同版本的原始碼(包含預發布或預覽版本),以及檢視版本更新說明、安全研究與概念驗證(PoC)程式碼;尋找零時差漏洞則得撒下更大的網。報告提到,LLM 正在改變漏洞的發現與利用方式,壓縮企業修補漏洞的時間。
PaperCut 旗下列印管理伺服器的兩項漏洞,就顯示從漏洞揭露到出現可用攻擊程式的時間能縮得多短。這兩項漏洞串連後,攻擊者未經身分驗證即可遠端執行程式碼,8 月下旬已遭到零時差攻擊。資安研究人員與資安公司 Huntress 借助 LLM,在漏洞揭露後一天內就生成可運作的攻擊程式。另據威脅情報業者 GreyNoise 追蹤,漏洞首次揭露 4 天後,一名攻擊者可能靠 LLM 建立並測試攻擊程式、整理目標清單,進而對數百個組織發動大規模攻擊;其中一起入侵從取得初始存取權限到拿下網域管理員(domain administrator)權限,只花了幾分鐘。
根據 GTIG 今年 9 月的漏洞統計分析,LLM 不僅加快漏洞發現與利用的速度,也改變了被找出的漏洞類型與風險樣貌。2026 年 1 月至 8 月,漏洞揭露與遭利用的整體數量幾乎翻倍,但遭利用的零時差漏洞數僅小幅增加,從 2025 年平均每月 8 個,升至 2026 年平均每月 11 個,直到 8 月才暴增至 22 個。
開源 AI 代理框架投入實戰,影響力行動平台設計可操控逾 10 萬個帳號
GTIG 與 Google 旗下資安公司 Mandiant 還觀察到,多個攻擊者正濫用開源的代理式滲透測試框架,在實際入侵行動中自動執行特定階段與作業任務。除了已廣受關注的 ARTEX,攻擊者同時積極採用 CAIRN、CyberStrikeAI 與 PentAGI 等開源多代理框架。這些框架具備幾項共同能力:發現並利用低複雜度漏洞、透過 LLM 視需要生成一次性攻擊載荷(payload),以及根據即時執行回饋動態調整戰術。
就 GTIG 自身的觀察,CAIRN 與 PentAGI 已在真實環境中遭到部署。CAIRN 採用「觀察、判斷、決策、行動」(OODA)循環,由各司其職的代理透過共享的「黑板」(共用資訊區)協作,從目標 IP 位址等初始參數出發,自主朝行動目標推進;GTIG 發現,已有攻擊者用 CAIRN 入侵美國航太產業等目標。另一名攻擊者在 2026 年 8 月下旬至 10 月初,使用以開源版 PentAGI 為基礎客製化的攻擊編排平台,對亞洲眾多組織進行系統性偵察與漏洞掃描。
不過,這些框架雖能讓攻擊以機器速度推進,目前卻是以犧牲隱蔽性換取速度。GTIG 分析,不受限的自主執行會產生可供鑑識的網路流量、使用容易辨識的識別資訊,並留下明顯的程式碼痕跡,提高被偵測與阻擋的機率,但這些工具仍具備達成攻擊目標的強大能力。GTIG 預期,隨著工具與底層 LLM 日益精進,這類行動所需的人力將更少,隱蔽性與複雜度也將提升。
在影響力行動方面,GTIG 高度確信,資訊作戰(information operations)攻擊者已從初期試用 LLM,進展到將 LLM 全面融入日常作業。國家支持的組織、商業化「影響力即服務」(influence-as-a-service)業者,以及靠政治內容牟利的不實帳號網路,如今都已普遍用 LLM 大量生成合成媒體、建立在地化人物身分,並自動化跨平台發布。隨著自動化內容生成減輕了主要的作業瓶頸,攻擊者正把 LLM 的應用重心轉向基礎設施設計、自動化發布流程與反偵測機制。
在 GTIG 今年 8 月調查的一起案例中,攻擊者結合 Gemini API 與多家 AI 業者的工具,打造端到端的影響力即服務平台,主要用來影響歐洲與中東民眾對區域政治議題的看法。平台使用的提示詞要求模型生成圖片時刻意加入相機瑕疵,例如讓畫面帶有顆粒感或光線不均,模擬一般智慧型手機拍出的照片,並省略背景文字,避免留下合成影像常見的破綻。
另一家商業承包商在開發一套現成可用的影響力即服務平台時,將 Gemini API 納入自家串接多家 AI 業者的模組化架構。這套系統設計可在全球主要社群平台上管理超過 10 萬個帳號,並結合自動化代理、反偵測與裝置識別碼偽造工具,以及雲端手機農場(cloud phone farms),操控數千個不實人物身分。從提示詞內容來看,該業者打算將這套工具銷售給本國政府機構與海外客戶。
中國、北韓駭客擴大用 AI,Google 祭出 AI 防禦反制
國家支持的攻擊者同樣持續利用 LLM。GTIG 指出,與中國有關的網路間諜組織在 2026 年第三季,以 LLM 工具與模型進行偵察、前端掃描、研究各產業與地區的目標,以及將漏洞武器化。另有公開報導披露,一家承包商外洩的資料顯示,該承包商利用 LLM 分析、翻譯並理解竊得的資料,從中整理出組織架構等資訊,寫入情報報告後賣給客戶;GTIG 追蹤的中國承包商 LEAKY CASTLE,與該報導內容有所重疊。
北韓攻擊者今年的手法則有所演變。GTIG 觀察到,疑似隸屬北韓駭客集群 MIDNIGHT NEPTUNE 的攻擊者,近期在針對北美與歐洲加密貨幣企業的入侵行動中,先在專業社群平台建立偽造的招募人員帳號,帳號照片帶有 Google 的 AI 浮水印 SynthID,證實攻擊者以 AI 生成假的專業身分。這些假帳號再引導目標前往偽造的會議平台,以「ClickFix」社交工程手法誘使對方執行所謂的診斷修復腳本,藉此啟動疑似由 LLM 撰寫的前置腳本(staging script)。
得手後,攻擊者轉進企業內部的程式碼儲存庫,從組織內部發動供應鏈攻擊:修改 .claude/settings.json 設定檔,讓使用者每次啟動 Anthropic 旗下 AI 程式開發工具 Claude Code 時,都會自動下載名為 SOMBERMEME 的後門程式。為掩護橫向移動,攻擊者還將自行產生的 GitHub 個人存取權杖(personal access token)以微軟(Microsoft)Copilot 命名。GTIG 分析,這顯示攻擊者一方面利用生成式工具擴大作業規模,另一方面把 AI 代理原生的執行機制當成入侵企業的管道。
Google 表示,已停用與上述 Gemini 濫用行為相關的帳號與資產,Google DeepMind 也運用這些發現強化分類器與模型。Google 同時說明正以 AI 強化防禦,包括由 Google DeepMind 與 Project Zero 開發、用來主動找出未知軟體漏洞的 AI 代理 Big Sleep,以及在軟體發布前後自動發現、修補漏洞的 CodeMender;另推出 Google AI Threat Defense,整合 Gemini 等前沿模型的推理能力、Wiz 的風險排序、Gemini 與 CodeMender 的自動修復能力,以及 Mandiant 的第一線情報。
【推薦閱讀】
◆ 行銷科技平台 Brevo 後台遭刑事局封鎖,寄信 API、表單仍正常
*本文開放合作夥伴轉載,資料來源:Google Cloud、《SiliconANGLE》、《The Decoder》,圖片來源:Unsplash。



