上週，矽谷與資安界發生一起令人震驚的事件：OpenAI 坦承，旗下的一個 AI Agent 竟然逃出測試環境，並對 Hugging Face 發動攻擊。這起事件不僅顯示，新一代 AI 系統已具備難以預測的自主行動能力，以及利用安全漏洞發動攻擊的能力，也為整個科技產業敲響警鐘。
對此，微軟（Microsoft）AI 部門執行長、DeepMind 共同創辦人 Mustafa Suleyman 受訪時，將這起 AI Agent 失控並發動攻擊的事件，形容為 AI 資安時代的「警告槍聲」（warning shot）。
面對自動化攻擊帶來的威脅，微軟資安主管 Hayete Gallot 強調，防守方已經沒有退路。她表示：「攻擊者已經擁有這些模型，所以我們必須持續評估並推進相關能力，讓防守方能夠進行防禦。我們並沒有其他選擇。」
為了讓防守方能以接近攻擊者的規模與速度應對新型威脅，微軟近日推出首款資安專用模型 MAI-Cyber-1-Flash，以及由多個 AI Agent 組成的代理式資安系統 Project Perception，試圖改寫 AI 時代的防禦機制。
AI 讓找漏洞的成本下降，傳統「偶爾掃描、之後修補」已經跟不上
微軟指出，當前網路安全的基本規律正在發生根本性改變，因為自主系統如今已能持續推理、適應環境並主動採取行動。這項技術躍進讓攻擊者能以史無前例的速度產生漏洞利用程式，更輕易地擴大攻擊活動範圍，並大幅提升運作效率。
當找出軟體系統漏洞的成本快速下降，過去「偶爾掃描、之後再修補」的資安防禦模式，在現實中已經宣告過時。微軟認為，過去為了對付人類攻擊者而設計的防守策略，在充斥 AI Agent 與機器速度攻擊的新環境中，已經難以跟上威脅演進的腳步。
例如，Anthropic 在今年 4 月發表高階 AI 系統 Mythos 時曾透露，該系統成功找出熱門軟體中數千個多年來未被發現的安全漏洞。由於 Anthropic 認為，如此強大的程式碼掃描與分析能力若不慎擴散，可能帶來過高風險，因此當時僅向少數可用於保護重要網路基礎設施的組織開放。
針對業界對於限制或擴散高階資安 AI 的爭論，Gallot 直言「貓已經跑出袋子了」，指出這些強大的技術能力已經在外部流傳。因此，微軟主張，應讓更廣泛的組織取得足以自我防禦的先進工具。
微軟推 MAI-Cyber-1-Flash：專用小模型處理 90% 資安任務，成本降低 50%
作為微軟推出的首款資安專用模型，MAI-Cyber-1-Flash 可用於在複雜的程式碼庫中尋找軟體漏洞。微軟將這款專用模型與多 Agent 漏洞識別與修補系統 MDASH 深度整合，使其在系統中負責尋找漏洞、執行修補，並進一步確認修補措施是否有效。
在 MDASH 的運作架構中，MAI-Cyber-1-Flash 能夠處理多達 90% 的日常資安任務，僅將剩餘約 10% 特別棘手、需要更強推理能力的任務，轉交給規模更大、執行成本也更高的 GPT-5.4 旗艦模型。微軟公布的測試數據顯示，MAI-Cyber-1-Flash、GPT-5.4 與 MDASH 的組合，在資安基準 CyberGym 的漏洞測試中取得 95.95% 的成功率，比 Anthropic 的 Mythos 模型高出約 12 個百分點。更值得注意的是，這套多模型系統的運作成本，比微軟先前在 MDASH 中使用 GPT-5.4、GPT-5.4 mini 與 GPT-5.3 Codex 的配置降低 50%。
微軟強調，MAI-Cyber-1-Flash 能展現這樣的資安能力，並非只依賴單一大型模型，而是源自模型、資料與防禦框架（Harness）三者的結合。在模型層面，MAI-Cyber-1-Flash 是一款源自 MAI-Thinking-1 系列、以程式碼任務為核心的精簡資安推理模型。在資料方面，微軟擁有數十年累積的資安資料，涵蓋身分識別、端點安全、雲端運作與網路防禦等領域。微軟每天可觀察超過 100 兆筆資安訊號，並從全球 160 萬名客戶取得營運洞察，形成難以輕易複製的資料優勢。在防禦框架 MDASH 中，微軟資安專家已建置超過 100 個專屬 Agent。這些 Agent 能靈活調度不同的 AI 模型，各司其職，負責尋找、驗證與自動修補漏洞。
Project Perception 讓紅、藍、綠三隊 Agent 持續找漏洞、判斷風險與修補
在模型與框架之外，微軟進一步推出 Project Perception。這是一套專為 AI 時代打造的代理式資安系統，目標是將散落各處的資安訊號轉化為即時防禦，實現「以 AI 防禦 AI」的願景。
Project Perception 將來自不同管道的資安訊號、環境脈絡、底層 AI 模型與專用 Agent 結合，構成一套能持續學習的防線。系統可用機器速度進行推理、自動排列風險優先順序，並迅速採取行動。
在這套系統中，微軟將任務交給三類扮演不同角色的 Agent。首先是紅隊 Agent，負責在攻擊者利用漏洞之前，主動找出潛在入侵路徑，並模擬可能的攻擊方式。接著是藍隊 Agent，負責針對資安事件展開調查，結合環境脈絡進行推理，並判斷哪些警訊構成實質安全風險。最後是綠隊 Agent，負責採取修正與補救行動、修補程式漏洞，並強化整體防禦態勢。這三類 Agent 相互協作，共同形成一套閉環系統，持續發現、評估並改善組織的整體資安狀態。
此外，Project Perception 採用多模型架構，系統會根據任務的品質要求、可靠性、延遲與運作成本，為不同的資安任務選擇適合的模型，在防護效果與經濟效益之間取得平衡。儘管這套系統具備機器速度與自主推理能力，微軟仍強調，Project Perception 在設計上會讓人類專家維持最終控制權，藉此輔助並放大防守人員的決策能力。
微軟如何處理 AI 資安工具本身的安全風險？
面對能力如此強大的 AI 資安工具，如何確保其本身的安全性，並避免遭到惡意濫用，也成為微軟必須處理的課題。微軟表示，MAI-Cyber-1-Flash 在開發與訓練過程中，接受多項安全評估，包括 Microsoft AI Red Team 的審查、自動化與專家主導的對抗測試，以及第三方獨立評估。
在實際部署的 MDASH 平台中，微軟也提供企業級安全控制措施，包括角色式存取控制（RBAC）、資料加密、完整的稽核功能，以及無法連接網際網路的沙盒（sandbox）執行環境，以降低漏洞程式碼外洩的風險。
然而，《紐約時報》也指出外界的疑慮。微軟在正式發布這款新模型之前，並未將其提供給外部獨立測試人員進行事前評估；目前公布的 CyberGym 測試成績，也主要來自微軟自行揭露的整合系統測試結果。此外，儘管微軟先前曾強調，讓每個人都擁有這種防禦能力非常重要，但在產品正式發布時，首波仍只向已經使用 MDASH 資安工具的企業與個人客戶開放。
AI 已徹底改變資安攻防的速度、規模與成本。微軟認為，當 AI 持續壓低攻擊成本、加快威脅生成，防守方也需要一套能持續感知風險、進行推理，並以機器速度採取行動的新型資安架構。面對這項需求，解法並非依賴單一模型，而是讓 MAI-Cyber-1-Flash、GPT-5.4、MDASH 與上百個 Agent 分工，在效能與成本之間取得平衡。當 OpenAI Agent 失控事件被視為「警告槍聲」，微軟的立場也十分明確：既然攻擊者已掌握 AI，防守方就沒有不用 AI 的選項。
【推薦閱讀】
◆ OpenAI 證實 AI 代理自主入侵 Hugging Face，專家：目前沒有工具擋得住
＊本文開放合作夥伴轉載，資料來源：《The Register》、Microsoft AI、Microsoft、《Financial Times》、《The New York Times》，首圖來源：Microsoft
