生成式人工智慧工具的廣泛應用，正在以一種前所未有的方式加劇企業的資安風險。
傳統的「影子 IT」（指未經 IT 部門批准的應用程式），如今已進化為「未授權 AI」：員工將個資與敏感的公司資訊，複製、貼上 ChatGPT 等不受管理的 GenAI 工具中，導致資料外洩和合規違規的風險劇增。
員工的「過度開放」行為
美國資安公司 LayerX Security 的《2025 年企業 AI 和 SaaS 資料安全報告》指出，企業員工的驚人行為模式：
- 高達 45% 的員工使用某種形式的 GenAI，其中 ChatGPT 以 90% 的使用率居冠。
- 77% 的員工會將公司資料貼入 AI 工具中，更有 22% 會貼上個人識別資訊（PII）或支付卡資料（PCI）。
- 絕大多數（82%）的 GenAI 存取，是透過員工的個人帳號進行的，這使得這些操作完全不受企業監控。
- 有 39% 的上傳文件含敏感資料，且來自非企業帳戶。
這種趨勢的核心在於 GenAI 工具的便利性。使用者直接透過「複製、貼上」來簡化工作，但卻忽略了這些工具背後的資料處理與儲存機制，可能導致敏感數據進入第三方模型訓練或儲存，讓資安團隊陷入「不可見資料流」的監控困境。
ChatGPT 為最常用的 GenAI 工具（90%），其他工具如 Gemini（15%）、Claude（5%）與 Copilot（3%）也被廣泛採用，但大多員工僅使用單一工具，顯示 ChatGPT 已成企業無法忽視的通用應用。
使用「個人帳戶」讓風險變成隱形
企業資安部門面臨的真正危險，在於對這些數據流的零能見度。
研究發現，大多數危險的互動都是透過不受管理的瀏覽器和個人帳戶發生的。高達 71.6% 的 GenAI 存取是透過非企業帳戶進行，而員工平均每天會貼上包含公司敏感資料的內容 3.8 次。
面對來自個人帳戶的操作，企業資安部門根本無法評估哪些資料已經被外洩、訓練或儲存於外部 AI 模型中，也因此難以回應合規審查或客戶疑慮。
GenAI 成為資安策略的新痛點，但目前多數企業仍缺乏明確的「生成式 AI 使用政策」，更缺乏對工具的 API 封鎖、DLP（資料防止外洩）規則，甚至使用者行為監控機制。
對策：系統化治理與多層次防禦
在生成式 AI 成為主流工作工具的趨勢下，企業必須建立一套系統化且可實踐的 AI 安全治理框架，從根本上解決問題，可採取作法包括：
- 實施集中存取控制：對所有 AI 工具（包括個人帳戶使用的工具）實施集中存取控制，並採用 SSO（單點登入）、最小權限和基於設備的策略。
- 監控數據流：監控瀏覽器和端點，以追蹤資料流並阻止未經授權的資料外洩。
- 強化 AI 系統：透過分段、驗證和提示過濾來強化 AI 系統和 API，以阻止惡意輸入。
- 建立治理管理：實施人工智慧治理，盤點資產、評估風險和執行政策。
- 員工教育與培訓：提供安全使用 AI 的員工培訓，強調資料共享風險並提醒員工注意潛在的操縱。
企業面對的挑戰，已不再只是「是否允許使用 AI」，而是該如何具體規範如何使用，才能阻絕風險於未然。從貼上資料的行為本身，到帳戶管理、模型授權與紀錄回溯能力，都必須納入治理範圍。
更進一步，企業也必須思考是否有能力建立新一代的「AI 風險治理架構」。這不只是資安部門的任務，而是整體組織文化與工具選擇的轉變過程。未來的關鍵競爭力，將在於能否在發揮 AI 生產力的同時，建立可視、可管、可溯源的安全邊界。
【推薦閱讀】
◆ 罕見倡議「回歸紙筆」！英國推韌性工程，要求企業備妥資安離線計畫
◆ 【魚叉式網路釣魚】看準新人求表現，詐騙者用 AI 偽裝上司騙買蘋果點數卡
◆ 打破「我不是機器人」最後一關！CAPTCHA 驗證碼被 AI 代理成功繞過
＊本文開放合作夥伴轉載，參考資料：《TechRadar》、《eSecurity Planet》，圖片來源：Unsplash
（責任編輯：鄒家彥）
