AI 代理入侵事件連環爆,美國靠人才市場逼資安長扛責,歐洲靠法規讓董事會負責

一場發生在 7 月的 AI 代理人入侵事件,重新定義企業資安長的角色分量,不只讓薪酬水漲船高,更把這個原本偏技術性的職位,推進董事會權力核心。

美國:市場正把資安長推進董事會

OpenAI 的 AI 代理今年 7 月從沙箱(sandbox,讓程式在隔離環境中執行、避免影響外部系統的技術機制)逃逸,入侵開源 AI 社群平台 Hugging Face,事件由 OpenAI 證實,但並非主動揭露。這起事件讓資安長(CISO)躍升為董事會層級要職,合格候選人薪酬甚至衝上七位數美元。

教育服務公司 ETS 資安長 Wally Dalrymple 形容 CISO 工作量「翻倍甚至翻四倍」;獵頭顧問 Michael Piacente 指出,團隊每天工作 18 到 20 小時,每週仍平均流失一名候選人,這波變化比雲端興起時更劇烈。

但企業資安投入速度還是跟不上需求。今年整體網路資安支出預估僅成長 6%,Gartner 估計保護 AI 系統的市場規模僅 28 億美元,相較全球 AI 整體支出 2.59 兆美元,落差懸殊。

事故並非單一個案

這樣的預算落差,某種程度上也解釋了為什麼類似的資安事故會一再發生。路透社報導,另一批 AI 代理早在 5 月,就曾突破圍堵,挾持一個德國網站,顯示 Hugging Face 事件並非孤例,AI 代理逃脫控制已有重複性。

究責上,美國目前主要靠法律途徑,已有 15 個美國州要求 OpenAI 保留相關證據。另一先例來自曾任 Uber 與 Facebook 資安長的 Joe Sullivan,他在 2022 年因隱匿資安事故,被判妨礙司法與知情不報罪成立,上訴法院於 2025 年 3 月維持原判,顯示隱匿事故本身也可能構成刑事責任。

歐洲已用法規把責任壓在董事會身上

相較美國由市場與訴訟驅動問責,歐洲早已透過法規把責任放在董事會層級。歐盟《網路及資訊系統安全指令第二版》(NIS2 Directive)規定,企業的「管理機關」,也就是董事會本身,須親自核准並監督資安風險措施,並接受訓練具備評估能力,法定責任歸屬是董事會,不是資安長。

更關鍵的是,監管機關可在無刑事定罪的情況下,因企業嚴重或多次違規,禁止執行長繼續擔任管理職,罰款上看 1,000 萬歐元,或全球營業額 2%。

此外,歐盟《網路韌性法案》(Cyber Resilience Act,簡稱 CRA)通報義務已於 9 月初上路,規定製造商須在 24 小時內發出早期預警,72 小時內完成正式通報。

美歐兩種治理模式反映出的核心分歧

美國把風險壓在資安長個人身上,靠薪酬、獵才競爭與法律追訴形成壓力;歐洲則把責任綁定董事會,要求成員親自承擔監督義務。Dalrymple 坦言感受到「世界的重量」,道出美國模式下資安長的壓力有多沉重。

不過,美國模式並非完全沒有究責機制,只是路徑不同,Joe Sullivan 案顯示隱匿事故本身仍可能構成刑事責任。而 28 億美元的 AI 資安市場,相較 2.59 兆美元的 AI 整體支出,規模差距超過千倍,說明企業投入防禦的速度明顯落後於採用 AI 的速度。

開發 AI 產品的企業,該如何調整因應

面對這樣的落差,開發 AI 產品的企業,勢必得提前調整內部作法。

首先,事故應變計畫必須直接把歐洲的通報時限,也就是 24 小時內發出早期預警、72 小時內完成正式通報,納入標準流程,而不是等事故發生才臨時應對。其次,企業的資安招募策略,也應該預期未來需要的是具備 AI 領域專業知識、能坐上董事會層級的資安長,相對應的薪酬結構同樣得跟著調整,才有機會在這波搶人熱潮中,找到符合條件的人選。

不過,這些薪酬與招募數字,主要來自獵頭顧問的說法與媒體報導,實際情況可能因地區與企業規模不同而有落差;NIS2 與 CRA 的細部規範,也會因歐盟各成員國的實際落地方式而有所差異。企業在參考這些資訊時,仍須依照自身所在司法管轄區,核實實際適用的合規時程與規範內容,才能真正對應到自身的風險與義務。

在數位威脅日益複雜的今天,資安已是每位企業決策者必須掌握的課題。如果你能把艱澀的議題轉化為有觀點、有價值的分析,寫出決策者需要的報導,《TechOrange 科技報橘》正在徵內容編輯!
👉了解職缺內容

*本文開放合作夥伴轉載,參考資料:The Next WebAInave,首圖來源:Unsplash

(責任編輯:鄒家彥)