歐盟議會歷時兩年，制定全世界第一部針對AI管治的法律草案《AI 法案》（Artificial Intelligence Act），預計年底完成最終協議。該法案不僅將針對 AI 進行統一的技術定義，也會依風險程度要求技術供應商、用戶盡到安全義務，試圖打造更透明、負責任的使用 AI 環境。
歐洲不太歡迎監管法案，美國也蠻負面的
但這個法案卻遭到德國西門子、法國空中巴士等 150 家歐洲知名企業，聯合發表公開信反對，他們在 7/1 發給歐盟委員會、議會的公開信指出，《AI法案》若通過，將重挫歐洲在 AI 領域的競爭優勢。
連署此信的還有歐洲各家新創、風險投資機構像 Blablacar、Felix Capital 等，商界普遍認為，AI 崛起開啟了歐洲重新成為科技先鋒者的機會，但這部首創的法案恐阻礙發展速度，讓歐洲慢人一截。
即便美國也有針對 AI 技術立法管制的討論，但科技法規遊說組織 Common Sense Media 卻認為：「我們的聯邦政府連個資隱私法案都無法通過，怎麼可能指望他們通過 AI 法案。」
AI 失控下場一：假照片、假新聞、假資訊
儘管全世界還沒有任何一部 AI 監管法案，有明確執行時程。全球數據分析機構 EXL 執行長 Rohit Kapoor 近日在歐洲新聞社投書個人觀點指出，若監管機制失靈、 AI 失控，具體而言人類會遭遇什麼樣的挑戰。
Rohit Kapoor 認為，首先要防禦的戰場是 AI 的仿造能力。隨著生成式 AI 爆炸不到一年時間，網路上就充斥各種 AI 生成的假照片、假新聞。今年年初一位美國藝術家，就控告了Midjourney 與 Stable Diffusion 兩家生成式 AI 新創，認為其 AI 軟體冒用了他的創作風格，讓人誤以為生成圖像是他的新作。Rohit Kapoor 認為：
「應有平台能標記 AI 使用的素材來源，或是創作者能普遍使用數位簽名，保障自己的作品不受盜用。」
失控下場二：加深社會歧視
另一需要留意的是 AI 可能加深歧視問題。主導全球最大慈善基金會的梅琳達·蓋茲近期在接受訪問時就指出，社會目前需要更多女企業家、女工程師投入 AI 領域，以免機器被餵養、訓練的數據缺乏女性視角以及性別偏見。
Rohit Kapoor指出，消除歧視須仰賴 AI 在汲取訓練資料時有足夠透明度，及技術提供商是否能夠解釋AI如何排除制定流程、下決策時的偏誤。
訂閱《AI TOgether》趨勢週報
每週幫你精選 AI 主題報導
感謝訂閱！隨時注意信箱的最新資訊
失控三場三：AI 一代比一代更失控，最後偏離人類預設
最後需要特別注意的領域是，AI 在迭代過程中有可能生成創造下一代 AI 的數據，最終導致現代 AI 被前代 AI 生成的虛假資訊給誤導。
「從第一代 AI，到未來的第二代、第三代，AI 迭代進程預計很快就會發生。」Rohit Kapoor 指出為防止未來 AI 失控，偏離人類預設的軌道、擅自行動，我們需要盡快為所有 AI 立下基礎天條，也就是所有 AI 模型都得認知到，自己作為人類所使用的工具的本質。
但要創建這樣的天條，將牽涉模型最初步的編碼過程，要有規範強迫研發單位將限制輸進軟體的根基、限制 AI 的功能只能發展到一定極限。就像電影《機械公敵》裡的「機器人三大法則」。
「而最終這還是仰賴各國、每個司法管轄區通力合作，推廣一個放諸全球皆通用的標準規範。」Rohit Kapoor 指出。
＊本文開放夥伴轉載，參考資料：《TechCrunch》、《Fortune》、《CNN》、《euronews》，首圖來源：Unsplash
（責任編輯：鄒家彥）
