作者：前國家通訊傳播委員會主任委員／財團法人人工智慧科技基金會董事長 詹婷怡
摘要
人工智慧（Artificial Intelligence, AI）正成為全球科技競逐與治理思維轉型的核心議題。AI 治理（AI Governance）不僅關乎技術發展的安全與倫理，更關乎社會信任、制度規範與產業永續。本文旨在探討AI治理的核心內涵、理念脈絡及其在全球範圍的制度化發展，透過比較分析負責任 AI（Responsible AI）與可信任 AI（Trustworthy AI）的概念異同與多層次整合，並進一步論述英國 AISI 模式、 ISO/IEC 42001 國際標準及 OECD GAPI 框架的制度實踐，最後總結全球治理的演進趨勢與我國應有的戰略思維。
一、導論：AI 治理作為時代課題
人工智慧的崛起，使「治理」不再只是技術管控的議題，而成為一場涉及人類價值、社會結構與國際秩序的深層轉變。從生成式 AI 到自動決策系統，AI 應用滲透金融、醫療、教育與公共行政，帶來前所未有的效率與風險。這些風險不僅包括演算法偏誤、資料濫用與不透明性，更牽涉倫理、隱私與民主信任等根本問題。
因此，AI 治理的核心在於「讓技術在可控範圍內服務人類」。它不只是建立法律規範或技術標準，更是一種跨層次的社會治理工程——結合倫理原則、組織制度與公共參與，以確保 AI 的發展能維持人本、安全與公平的價值導向。特別是近日發生的 Deloitte 退款事件，顧問報告中發現含大量人工智慧假內容，如不存在的引用論文、捏造的聯邦法院判決，以及多個無法查證的註釋，更是專業幻覺下的 AI 治理警訊，引發各界 AI 工具使用規範的激烈討論，我們更應高度且持續關注及推進 AI 治理的制度與實踐。
從全球視角觀察，AI 治理已成國際競合與價值輸出的新戰場：美國強調以技術標準與市場導向確保創新競爭力；歐盟以《AI Act》為核心，透過法律強制建立高風險 AI 監管體系；英國則以倫理、透明與安全為三支柱，透過 AISI 建構「科學化治理」；OECD 與 GPAI 推動跨國政策協調，形成多邊信任網絡；日、韓、新加坡等亞洲國家也相繼推動相關的國家政策與立法監理，積極且與國際接軌。
在此多元架構中，「負責任人工智慧」（Responsible AI）與「可信任人工智慧」（Trustworthy AI）為 AI 治理的兩大核心理念，前者重倫理文化與社會責任，後者重制度信任與技術可驗證性。兩者共同構成 AI 治理的基礎，並在制度層面預期將經由 AISI、ISO/IEC 42001 及 GPAI 等機制逐步落實。
二、AI 治理的內涵與核心原則
AI 治理可視為一套多層次的架構，包含倫理與價值的理念、政策與標準的制度、與監理與落實的執行等各層面，相較於傳統的資訊治理（Information Governance），AI 治理更具挑戰性，因為 AI 具自我學習與非線性決策特徵，使透明度與責任歸屬更為複雜。AI 治理的核心價值主要體現在幾個方向：
(1) 確保安全與信任：降低演算法偏誤與系統風險，強化公眾信賴。
(2) 促進責任分配：明確界定 AI 錯誤與損害的責任主體。
(3) 兼顧創新與監管：確保治理不扼殺創新，形成動態平衡。
(4) 強化國際競爭力：以治理能力與標準輸出塑造國際規則影響力。
(5) 推動永續發展：逐漸將 AI 納入 ESG 與 SDGs 框架，確保技術發展與人類長遠利益一致。
其中，「負責任 AI」與「可信任 AI」是兩個動態互補的核心內涵。
(一) 負責任 AI（Responsible AI） 強調「行動者的責任」——即 AI 的開發者、使用者與管理者應對 AI 的結果負責。它注重透明、問責、可解釋性與風險管理等原則，要求 AI 開發全流程中落實人權尊重、偏誤防範與透明溝通，並形成企業內部治理機制， 反映一種以人為中心、以社會責任為導向的治理觀，為後續的制度化信任奠基。
自 2017 年起，Google、Microsoft、IBM、OpenAI、以及 IEEE 等企業及學術機構與組織相繼提出 AI 倫理準則；2019 年 OECD 發布《AI 原則》（OECD AI Principles），強調 AI 應促進人類福祉、確保透明與問責，並於同年獲 G20 採納。此類原則屬於「軟性治理」（soft governance），主要透過道德倡議與自律文化引導開發者行為，強調組織內部倫理自覺與社會問責。
(二) 可信任 AI（Trustworthy AI） 則代表 AI 治理從倫理文化走向制度化與可驗證信任的階段，更強調「系統的品質與社會信任」。它關注技術本身是否具備可靠、安全、公平與尊重人權的特質，並能建立長期的信任關係。可信任 AI 的實踐不僅依賴倫理宣言，更需以制度化的合規機制與監理工具支持。其核心理念源於歐盟的《可信任AI倫理準則》（2019），強調 AI 必須同時具備三大合法、合乎倫理、技術穩健等三大要件。
整體而言，負責任 AI 偏向「治理者的倫理義務」，可信任 AI 則偏向「系統的社會信任條件」。兩者共同構成 AI 治理的雙重支柱，從主體責任到制度信任，建構出完整的治理生態。
三、倫理理念的脈絡演進
AI 治理的倫理脈絡可追溯至資訊倫理與科技社會責任的發展。早期 AI 倫理多以「不傷害」與「透明」為原則，隨著AI影響範圍擴大，倫理焦點轉向「公平」、「可問責」與「人類控制」。
歐盟在 2019 年提出《可信任 AI 倫理指導原則》，奠定七大原則：人類能動性、技術穩健性、隱私與資料治理、透明性、多元與非歧視、社會福祉與問責。此一倫理結構影響了後續國際標準與國家政策，2024 年歐盟正式通過《AI 法案》，以風險導向的方式對 AI 應用進行分級監管：
(1) 無法接受的風險 AI 由於對人類構成嚴重威脅，因此要全面禁止，包括以行為、社經地位、個人特徵為準的社會評分系統，遠端即時生物特徵辨識系統，預測個人會不會犯罪的預防性執法系統等。
(2) 高風險 AI 指有可能損害人身安全或基本人權的 AI 系統（如醫療、教育、司法）需通過第三方合規審查。
(3) 有限風險 AI 需資訊揭露與人類監督。
(4) 最小風險 AI 則採市場自律。此等法案也象徵 AI 治理由倫理原則走向「硬法規」實踐，使 AI 不僅是「可被信任」，更是「可被驗證地信任」。促使 AI 治理由「倫理倡議」轉化為「制度實踐」。
在此脈絡下，「AI 治理」逐步從道德宣示自律原則走向具體管理制度，並形成跨國政策競逐的焦點。倫理原則不再只是附屬於技術的附註，而成為創新與信任的制度基礎。
四、制度實踐的逐步形成：從原則到框架
AI 治理的制度化發展，反映各國在技術競爭與社會責任之間的平衡思維。歐盟以《AI Act》建立高風險 AI 分類制度，美國強調自律與責任機制，而亞洲國家多採混合模式。
英國的人工智慧安全研究院（The AI Security Institute, AISI） 提供了治理的創新模式。2023 年成立的 AISI 以「科學化測試與技術驗證」為核心，建立 AI 模型的風險評估與透明度審查機制，確保 AI 開發在透明、可追溯的框架下進行。它使 AI 治理從理念走向操作，提供了具體可驗證的管理工具，成為國際企業實踐「可信任 AI」的重要依據，這種模式不僅強化風險監理，也形成一種「科技自律與公共信任並行」的治理典範。AISI 不僅是研究機構，更是「政策、技術與倫理」交會的治理樞紐、並與美國 NIST、OECD 及 GPAI 合作推動國際標準協調。戰略上 AISI 同時整合 Responsible AI（倫理自覺）、Trustworthy AI（制度信任）與 Global Cooperation（全球協作），成為「責任･安全･信任」三位一體的國家治理模式。
同時，2023 年底發布的 ISO/IEC 42001《人工智慧管理系統標準》，是可信任 AI 落實的關鍵制度。ISO/IEC 42001 作為全球首個 AI 管理體系標準，將 AI 治理制度化地嵌入組織運作，要求企業建立涵蓋倫理審查、風險辨識、透明報告與問責程序的完整管理流程。這項標準要求企業建立 AI 政策、風險控制流程與倫理審查機制，並以「持續改進」為原則，將 AI 治理制度化、可稽核化，形成跨國企業共同遵循的操作準則，降低合規成本並促進信任流通。
五、OECD GAPI 模式與國際合作的推進
AI 治理的挑戰不僅在於國內制度，也在於跨國協調。OECD 於 2020 年成立的「全球人工智慧夥伴關係」（GPAI），正是將負責任 AI/ Responsible AI 理念轉化為全球制度信任與政策協作的平台。GPAI 的目標與功能在於：
(1) 政策協調與知識共享：以分組重要主題建立跨國 AI 政策資料庫與最佳實踐庫。
(2) 倫理落實與信任評估：推動 AI 倫理原則的操作化、量化與評估。
(3) 跨國信任基礎建設：連結 OECD、UNESCO、AISI 與 ISO 標準，形成全球信任互認機制。
2023 年 OECD 提出 Governing AI Principles and Implementation（GAPI）模式，代表 AI 治理邁向全球協調的新階段。
GAPI 模式強調「從原則到實踐」的政策轉譯，並以多層架構推動治理成熟度。在 GAPI 框架中，AI 治理被視為動態系統，需同時考量政策一致性、風險導向管理、社會參與與跨境協調。它主張各國應在共通價值的基礎上，建立資料共享、監理透明與技術評估的協作機制。這一思維不僅促進國際信任，也降低治理碎片化的風險。
GAPI 的特點在於強調「治理生態系」的形成，而非單一國家的管制。GPAI 強調多方利益關係人協作導向 AI 治理，透過政府、企業與學研合作，促進國際規範一致性與互操作性，減少治理碎片化與地緣政治分歧。經由推動開放數據、跨部門合作與公私協力，OECD 試圖打造一個兼具靈活性與責任感的全球治理格局。這也意味著 AI 治理正從以國家為主體的監理邏輯，轉變為以國際共治與倫理共識為基礎的制度秩序。
六、全球 AI 治理趨勢與政策脈絡
AI 治理模式的演化可概括為三個階段：
(1) 原則階段（Ethical Phase）：提出道德倡議與行為準則，如 OECD AI Principles、企業自律守則。
(2) 標準階段（Standardization Phase）：制定可操作化的技術與管理標準，如 ISO/IEC 42001、NIST AI RMF。
(3) 法規階段（Regulatory Phase）：立法規範高風險 AI，如歐盟《AI Act》的強制監管。
目前全球 AI 治理呈現三大趨勢。首先，從倫理宣言走向法制化監理。歐盟《AI Act》、美國《AI Bill of Rights》草案及日本「可信任社會 5.0」政策，都顯示 AI 治理正在制度化，成為具約束力的政策架構。
其次，從個別國家邁向跨國協作。AI 技術跨越國界，單一國家難以獨立監理。因而出現 OECD、G7 與聯合國等多邊平台推動的「全球 AI 協調架構」。聯合國也同時倡議建立「AI 治理理事會（AI Governance Council）」，以確保 AI 發展符合人權、和平與永續原則。
最後，從企業自律邁向社會共治。越來越多企業開始採用 ISO/IEC 42001 或內部倫理審查機制，但真正的信任建立需仰賴公民社會的參與。AI 治理因此被重新定義為「多方協力的信任建構過程」，政府、產業與公民共同承擔風險與責任。
在此脈絡下，AI 治理不僅是防止風險的工具，更是推動創新的基礎。唯有在有秩序的信任機制下，AI 的潛能方能被安全且永續地釋放。
七、融合與前瞻：責任與信任並重的全球治理新秩序
AI 治理的發展已從理念走向結構化實踐。從英國 AISI 的前瞻安全治理，到 ISO/IEC 42001 的組織管理體系，再到 OECD GAPI 的全球協作模式，世界各國正共同形塑 AI 的治理藍圖。AI 治理的未來方向，具體而言將是：
(1) 責任文化制度化：將 Responsible AI 的倫理理念內嵌於企業流程與國家政策，透過 ISO/IEC 42001 及 AISI 轉化為具體稽核標準。
(2) 制度信任國際化：藉由 GPAI、OECD 與 NIST 等平台推動跨國標準協調與風險共評。
(3) 跨層協作治理：在倫理、制度與合作三層間形成互補機制，構築全球 AI 信任基礎設施。「倫理･制度･協作」的結構與模式，使 AI 治理從理念走向行動，從國內規範走向全球互信。
未來的 AI 治理，將不僅著眼於法規，而更重視價值導向與制度信任。其挑戰在於如何在促進創新與防範風險之間取得平衡，並建立跨國共享、透明與可問責的治理機制。
八、結論：邁向安全、可信與永續的智慧國家與公民社會
AI 治理的發展軌跡反映出一場從倫理自覺到制度信任，再到全球協作的治理進化。Responsible AI 是倫理責任的起點；Trustworthy AI 是制度信任的核心；各國法制結合 GPAI 與 AISI 等制度 則象徵多邊治理的實踐平台。
未來的 AI 治理，「倫理･制度･協作」將是非常重要的戰略高度與戰術實踐的基礎，唯有如此，AI 才能在責任中被設計、在信任中被使用、在合作中被治理，邁向一個安全、可信、永續且普惠的智慧未來。
對台灣而言，若能借鏡國際制度，建立具前瞻性的 AI 治理架構，結合倫理審查、風險監理與國際接軌，不僅可提升科技競爭力，更能以「信任科技」為核心，成為亞太區 AI 治理的標竿。
關鍵詞：人工智慧治理、負責任 AI、可信任 AI、ISO/IEC 42001、OECD GAPI、AISI、全球治理
＊本文由詹婷怡授權刊登，並同意 TechOrange 修訂標題。意投稿者可寄至：[email protected]，經編輯檯審核並評估合宜性後再行刊登。首圖來源：Unsplash。
（責任編輯：李昀蔚）
