Search
Close this search box.

防範「影子 AI 」資安風險,微軟示警:別讓消費級 AI 工具滲透職場

根據微軟最新發布的研究報告,「影子 AI 」(Shadow AI)的現象在英國企業界越來越普遍。有超過七成的員工在工作過程中使用未經企業批准的 AI 工具,如 ChatGPT 、 Copilot 、 Gemini,藉此讓工作更有效率。

根據 Fortune 報導,企業傳統上對 AI 所產生效益的量化方式存在根本問題,多半僅以軟體購買數量、員工訓練完成度和應用程式使用情況來評估 AI 採用深度、廣度,忽略人與 AI 互動的工作流程、效能,而這會造成「治理表演」(governance theater)問題

——即高階管理者眼中看似成功的 AI 投資,其實未帶來實質商業價值,反倒是潛藏於員工日常工作中的「影子 AI」未授權工具,推動了真正的生產力提升,不過也伴隨重大風險。

AI 辦公場景滿地開花,重塑企業文化

從生產力角度來看,AI 工具為英國經濟帶來巨大價值。不僅能為英國的工作者每年節省約 120 億小時的工作時間、折合約 2,000 億英鎊的經濟價值,也反映出工作型態的轉變:超過半數的員工利用 AI 工具所省下來的時間,找回 work-life balance。

員工使用 AI 的主要用途包括:擬草稿、職場溝通回應參考(49%)、寫報告和簡報(40%) 以及執行財務相關任務(22%)。而 AI 使用在 IT 與電信、銷售、媒體與行銷、建築與工程、金融與保險等領域最為普遍,該產業員工平均每週透過 AI 節省 7.75 小時。

然而,這股 AI 熱潮背後潛藏著重大風險。微軟警告,當消費級 AI 工具(consumer AI tools)被應用於工作場域時,可能導致敏感的資料保護不當,使組織面臨資料外洩和增加網路攻擊風險增加的威脅。

消費級 AI 工具定義通常指的是,沒有企業級的資料加密、無法確保資料不被用於訓練 AI 模型、沒有存取權限控制甚至無法追蹤誰輸入了什麼資料。

儘管存在大量風險,員工對 AI 的態度卻呈現正向發展。超過半數(57%)的員工現在對 AI 抱持樂觀的態度,較年初的 34%大幅成長。同時,認為「不知道如何開始使用 AI」的員工比例從 44% 降至 36%。更重要的是,員工認為「AI 是企業成功策略重要一環」的比例翻倍成長(從 18% 增至 39%),這些數據都顯示,AI 正在深刻重塑組織文化。

AI 成私人助理,員工明顯風險意識不足

雖然利用 AI 工具來撰寫工作郵件、生成報告素材甚至執行財務相關任務,已是現今工作的常態,但多數員工對這些影子 AI 所帶來的風險認知卻相當有限。

根據調查顯示,僅有 32 % 的員工,對於將公司及客戶的敏感資料輸入外部 AI 平台的隱私問題表示擔憂;而關心公司內部資安的比例甚至更低,僅有 29%。

這也透露出在享受 AI 帶來的效率和便利的同時,面對的是數據外洩與監管違規的重大風險,但大多數員工明顯風險意識不足。

企業需完善組織的 AI 治理框架 

面對影子 AI 的挑戰,英國微軟執行長 Darren Hardman 強調,企業內部必須確保使用的 AI 工具是為職場而非大眾設計的,他指出,只有企業級 AI 才能同時在提供員工需要的協助,也具備組織所需的隱私和安全保護。

除此之外,企業也需要建立完善的 AI 治理框架,例如,建立「AI 使用準則」與「員工授權界線」,明確規範哪些數據可以餵給 AI ,另外還有提升員工對 AI 風險的認知,以及打造可控的 AI 環境,讓員工在安全的框架內實現工作成果。

影子 AI 治理框架是數位轉型成功關鍵之一

影子 AI 現象反映了企業 AI 轉型的兩大挑戰:一是組織文化挑戰:當員工已經習慣自由使用 AI 工具,企業如何在不影響員工工作習慣以及效率下導入治理機制?關鍵在於找到適合員工與組織的企業級替代方案,同時建立清晰的使用規範。

二是完整內部資安政策。傳統的資安政策多聚焦於資料防護,但在 AI 時代,企業需要將「AI 使用行為」納入監管範疇;這包括建立 AI 使用審計機制、定期檢視員工的 AI 使用模式,以及評估潛在的資料外洩風險。

【推薦閱讀】

◆ 員工將公司機密貼到 ChatGPT 了,「影子 AI」正撕開企業資安破口
◆ 員工愛用自己的 AI 不用公司的?7 大策略讓企業避免「影子 AI」隱憂
◆ 影子 AI 正在企業悄悄擴散——AI 工具禁不了,如何務實防護資安?

*本文開放合作夥伴轉載,參考資料:《Microsoft》《Zendesk》,圖片來源:Unsplash

(責任編輯:鄒家彥)