南韓推出一套號稱全球最全面的 AI 法律，有機會成為其他國家的範本。《衛報》報導，正值全球對 AI 生成媒體與自動化決策日益不安，各國政府努力追趕快速發展的科技之際，南韓《AI 基本法》於近日生效，強制企業標示 AI 生成內容，卻受到多方批評，因科技新創公司認為規範過於嚴格，而公民社會團體則認為規範遠遠不夠。
南韓想當 AI 強國卻先自綁手腳？業界怨合規負擔重、不確定性高
《Reuters》指出，南韓希望躋身全球三大 AI 強國之列，寄望新的《AI 基本法》能讓該國在此領域取得領導地位，與歐盟《AI 法案》採分階段推動、預計至 2027 年全面實施不同，南韓這套法規已全面生效，也是南韓立志與美國、中國並列為全球三大 AI 強國的核心戰略之一。
根據新法，提供 AI 服務的公司必須為明顯屬於 AI 生成的內容（如卡通或藝術作品）加入「不可見的數位浮水印」，若是逼真的深偽（deepfake）內容，則必須加上可見標示。高影響 AI（High-impact AI）系統包括醫療診斷、招聘與貸款審核等用途，必須進行風險評估，並記錄決策過程，若最終決定由人類做出，該系統可能不被歸類為此類別。極為強大的 AI 模型需提交安全報告，但目前門檻設定極高，政府官員也坦言，全球尚無任何模型達到該標準。
《衛報》提及，違規企業最高可被處以 3,000 萬韓元（約 1.5 萬英鎊）罰款，但政府承諾將提供至少一年的緩衝期才會正式開罰。政府官員強調，法律內容有 80%～90% 著重於促進產業，而非限制發展。
新創聯盟（Startup Alliance）去年 12 月的調查顯示，98% 的南韓 AI 新創公司尚未準備好符合法規，該聯盟共同負責人林正旭表示，「業界有點怨氣，為什麼我們非得第一個做這件事？」普遍感到挫折。企業必須自行判定其系統是否屬於「高影響 AI」，批評者認為這個流程冗長又充滿不確定性。《衛報》補充，南韓企業可能出現競爭失衡，因為所有南韓企業不論規模大小都必須受管制，但外國公司（例如 Google、OpenAI）只有在達到特定門檻時才需遵守。
人權團體憂監管力道不足，南韓政府稱將持續修法補強
另外，《衛報》指出，這波監管推動因發生在南韓特殊的社會背景下，使公民團體擔憂法律力道不足。根據美國身分保護公司 Security Hero 2023 年的報告，全球 53% 的深偽色情受害者來自南韓，南韓國家人權委員會批評施行細則缺乏對「高影響 AI」的明確定義，並指出最可能遭受權利侵害的人，仍處於監管盲區。
公民社會團體也認為，新法對 AI 受害者提供的保護十分有限。包括人權律師團體「民辯」（Minbyun）在內的四個組織，在法律實施隔天發表聯合聲明，指出法律幾乎沒有條款能保護公民免於 AI 風險，他們表示法律雖提到要保護「使用者」，但這裡的「使用者」指的是醫院、金融公司與公部門機構，而不是受 AI 影響的個人。批評者指出，法律沒有明文禁止任何 AI 系統，「只要有人類參與就可豁免」的規定，更製造了重大漏洞。
南韓科學技術情報通訊部則在聲明中表示，該法預期能「消除法律不確定性」，並建立「健康且安全的國內 AI 生態系」，未來也會透過修訂指引進一步釐清規範。
