Search
Close this search box.

AI「員工化」的代價:為什麼像對待人一樣管理 AI,反而會重挫組織信任?

《哈佛商業評論》報導,隨著企業加速導入 AI 代理,越來越多組織正將 AI 從「工具」重新定位為「員工」,不僅為其命名、賦予職稱,甚至將其納入組織圖與工作流程中,直接視為團隊成員或數位員工。

從摩根大通到 Walmart:企業正在把 AI 代理當真正的員工用

Boston Consulting Group(BCG)針對 1,261 名來自美國、加拿大與歐盟的人資與財務部門經理、主管與高階主管的隨機實驗中,31% 的受訪者表示,公司領導層已將 AI 視為團隊成員或員工,23% 則表示 AI 已被正式列入組織圖,且這種做法不只存在於科技業,也已擴及醫療、金融、零售與專業服務等產業。其中一家公司甚至將名為 Scout 的 AI 代理正式納入 HR 團隊,負責履歷審查、第一輪面試與候選人評估摘要,並被主管形容為「在技術上等同於同級同事」。

摩根大通描繪未來願景:進入無所不在的 AI 代理時代,員工將配備個人化 AI 助理,所有流程由 AI 驅動,客戶體驗則由 AI 禮賓服務支援。在實體零售領域,美國的跨國零售企業 Walmart 也已開始落實其 AI 代理的布局,應用範圍涵蓋顧客服務、門市員工支援與其他業務環節,其中主管型 AI 代理負責指派任務給子代理,運作方式類似人類主管管理員工。

這些大型企業以及許多其他組織意識到,AI 代理並不只是像搜尋引擎或簡單聊天機器人那樣回答問題,而是能透過規劃任務、執行行動並檢查結果,實際完成工作目標的系統。《The Conversation》指出,從金融、科技到物流與法律等產業,企業擁抱 AI 代理的潛力,但原本應從中受益的真人員工,卻在適應過程中面臨困難,導致士氣與生產力同時受到影響。

BCG 研究顯示,當 AI 被描述為員工而非工具時,個人責任感下降 9 個百分點,歸責於 AI 的比例則增加 8 個百分點,代表人們更容易將錯誤視為 AI 的問題,而非負責部署、監督與批准 AI 輸出的人的責任。受訪者提到,公司將 AI 員工 Kevin 列入組織圖後,同事開始以「Kevin 出錯了」的方式討論問題,逐漸將 AI 視為真正的社交角色。

「AI 腦疲勞」浮現:過度監督推高錯誤與認知負荷

AI 員工化不只影響心理認知,也會實際衝擊工作品質與組織治理。《哈佛商業評論》提及,當文件被標示為來自 AI 員工時,管理者找出的錯誤數量,比 AI 被視為「工具」時少了 18%,且要求額外送交主管複查的比例增加 44%,顯示人們更容易降低自身審查強度,並將責任往上轉移。

BCG 研究使用的文件包含刻意設計的錯誤,例如數據矛盾、職缺描述要求初階職位具備超過 10 年經驗等問題,而管理者在 AI 員工框架下更容易忽略這些異常。研究者也引用另一項 AI brain fry(AI 腦疲勞)研究指出,過度監督 AI 工具可能導致精神疲勞與錯誤率上升,而當 AI 被視為員工時,管理者甚至可能進一步降低投入審查的認知負荷。

除此之外,當公司將 AI 視為團隊成員時,管理者對自身專業身份感到不確定的比例增加 13%,對工作安全的擔憂增加 7%,對組織如何使用 AI 的信任程度則下降 10%。儘管外界普遍認為擬人化有助於提高 AI 採用率,但 BCG 研究數據顯示,將 AI 以「員工」身分呈現的擬人化框架(如賦予職稱、納入組織圖、視為團隊成員)並未明顯提升導入意願;真正影響採用率的,是管理者是否積極鼓勵並親自示範使用 AI。

《哈佛商業評論》補充,重點不在於是否導入 AI 代理,而在於如何將其整合進工作流程,並重新設計責任分工與人機協作方式。BCG 研究者建議,企業應將 AI 視為需要人類負責的軟體自動化系統,而非真正能承擔責任的數位員工,並重新定義人類在監督、判斷、創造力與決策中的角色,才能在 AI 擴大產出的同時,維持品質、責任感與組織信任。

*本文開放合作夥伴轉載,資料來源:《哈佛商業評論》《The Conversation》,圖片來源:Unsplash