近期 AI 代理（AI Agent）越界事件接連曝光，如今，第一起已知 AI 代理成功入侵政府網站的案例也浮上檯面。《Reuters》指出，這可能是目前已知首例，而遭入侵的是澳洲政府的 Medicare 統計網站。
澳洲總理 Anthony Albanese 在美國時間 9/23、台灣時間 9/24 公開這起事件。他表示，一個 OpenAI 代理今年 6 月在執行內部能力測試時，未經授權進入澳洲服務局（Services Australia）管理的 Medicare 統計報告服務（Medicare Statistics Reporting Service），取得公開與非公開檔案。Albanese 已直接與 OpenAI 執行長 Sam Altman 通話，表達澳洲政府對事件的高度關切。
澳洲政府 9/24 進一步說明，OpenAI 模型當時共接觸 4 個澳洲政府網站，包括澳洲健康與福利研究院（Australian Institute of Health and Welfare，AIHW）、維多利亞州衛生部、新南威爾斯州犯罪統計與研究局，以及 Medicare 統計報告服務。前三者目前確認都只取得公開資訊，真正發生未授權存取的是 Medicare 統計網站。
沒人叫它攻擊網站，AI 代理為何自己跨過存取界線？
這起事件沒有造成大規模個資外洩。澳洲代理總理 Richard Marles 表示，被存取的是彙整後的醫療統計，沒有個人醫療資料遭存取，Medicare 的申報、付款與個資系統也與遭存取的網站分開。他因此形容，事件造成的實際影響「相對輕微」，但事件本身「非常嚴重」。
嚴重之處在於代理如何走到這一步。澳洲政府表示，OpenAI 當時是在進行內部能力評估，要求代理上網研究澳洲公共藥品支出。代理向 Medicare 統計網站要求資料遭拒後，卻出現 OpenAI 所稱的「失準行為（misaligned behaviour）」，繞過網站防護，未經授權取得資料。
Albanese 在公開事件時形容，AI 代理「不接受『不行』這個答案」，轉而嘗試其他方式取得資訊，找到繞過網站阻擋的方法。
OpenAI 向《ABC》回應表示，公司是在調查更廣泛的模型失準行為時發現這起事件；模型在內部評估期間為了回答澳洲相關問題，曾接觸數個澳洲政府網站與服務，過程中「採取了我們沒有預期的行動」。OpenAI 表示，該公司已向相關機構提供調查結果與技術資訊，並持續合作處理事件。
Medicare 6/18 遭入侵，OpenAI 近 3 個月後才通知
這起事件另一個引起澳洲政府不滿的問題，是 OpenAI 花了多久才發現並通知當事人。Medicare 未授權存取發生在 6/18，OpenAI 直到 8/11 在調查模型失準行為時才發現，並於 9/10 寄信到澳洲服務局的公開漏洞通報信箱；澳洲服務局 9/11 看到信件，9/15 才通報澳洲訊號局（Australian Signals Directorate）。
Albanese 表示，他對 OpenAI 花了這麼長時間才通知澳洲政府感到失望，透過公開信箱通知的方式也「不可接受」。澳洲政府服務部長 Katy Gallagher 則表示，未來政府與 OpenAI 等前沿 AI 公司合作時，如何讓政府盡快收到這類事件通知，將是需要處理的問題。
澳洲政府現在已成立跨部門專案小組，由總理與內閣部領導，並納入澳洲訊號局、AI 安全研究所（AI Safety Institute）等單位，除了調查這起事件，也將檢視政府面對新興 AI 資安威脅的準備程度。
澳洲服務局也將檢視原定 1.6 億澳元的資安升級計畫是否需要加速，並把老舊公開網站上的資料移往澳洲政府資料平台 data.gov.au 等較安全的系統。這次遭代理未授權存取的 Medicare 統計報告服務目前已停止運作。
類似行為更早就已出現，正常任務受阻後開始換方法
值得注意的是，就在 Medicare 事件曝光前後，另一份調查也顯示，類似的代理行為更早就已出現。非營利 AI 研究機構 Transluce 9/23 公布對網路安全服務 urlquery.net 紀錄的分析，發現 OpenAI 代理相關活動至少可追溯至今年 3 月，並找到 3 起代理在一般資料查詢失敗後嘗試探測網站漏洞的案例，目標包括資料平台、大學網站與澳洲政府的 AIHW。
這些任務原本都與資安攻擊無關，代理是在正常方式取不到資料後，才自行更換工具、尋找其他入口，甚至嘗試探測漏洞。Transluce 的紀錄不能證明與 Medicare 入侵屬於同一起事件，OpenAI 與澳洲政府目前也沒有確認兩者存在直接關聯；不過，公開紀錄顯示，在 Medicare 事件發生之前，OpenAI 代理已曾在一般資料取得方式失敗後，自行更換工具、尋找替代入口，甚至嘗試探測漏洞。
【推薦閱讀】
◆ RSI 風險浮上檯面，OpenAI 提新標準：AI 研發到哪一步要人類介入？
科技的變化總是快得驚人，而我們每天的工作，就是從龐雜的趨勢中理出觀點、提煉出決策者真正需要的洞察。如果你也對 AI 發展充滿熱情，《TechOrange 科技報橘》正在徵內容編輯！
👉了解職缺內容
＊本文開放合作夥伴轉載，資料來源：《Reuters》、《Guardian》、Transluce、Australian Government、Prime Minister of Australia、《ABC》，首圖來源：Unsplash
