美國加州州長 Gavin Newsom，近日正式否決由地方議員提出的《前沿人工智慧系統安全創新法案》，稱該 AI 監管法案將扼殺人工智慧創新，並且限制公共利益的進步與推動，必須重新思考因監管 AI 所付出的代價是否值得。
AI 法案監管權限大，引起科技公司反彈
大約在一個月之前，由加州議會所通過的 AI 監管法案，引起矽谷科技圈極大討論；該法案要求未來的矽谷科技業者，必須為 AI 模型打造「終止開關」，以便在 AI 失控時能夠立即關閉系統。
此外，若是企業推出的 AI 模型，無法符合地方政府的安全規定，甚至有威脅民眾安全的疑慮時，開發者還會被加州執法機關直接提起法律訴訟。
面對加州 AI 法案過大的監管權限，美國眾議院前議長 Nancy Pelosi 即抱持反對態度，並指出這些監管程序可能會產生「重大且意想不到的後果」，並且扼殺美國 AI 生態系的創新發展。
更具有爭議點之處，在於加州 AI 法案甚至擁有治外法權，即法案若正式成立，加州政府將可以自由監管美國當地任何一家人工智慧公司，為科技巨頭帶來令人困惑的合規性惡夢，甚至破壞掉美國境內更進步的 AI 系統開發。
法案本意雖善良，但不是最佳監管方法
美國智庫 R Street Institute 認為，監管人工智慧最重要的原則，應該在於規則上不能限制 AI 技術的基礎發展，反而要注重個別 AI 應用的功能與輸出。
美國眾議院 AI 工作小組主席、加州共和黨眾議員 Jay Obernolte 也指出，人工智慧政策應該關注「機制」，而不是透過假設性的結果，認為 AI 就是有風險並且監管，進而導致扼殺了創新。
加州州長 Gavin Newsom 基本上也是站在同樣角度，因此決定封鎖 AI 法案正式成立。
Gavin Newsom 說，雖然該法案的制訂是出於善意，但卻未考慮到 AI 系統是否處於高風險環境之中，甚至 AI 功能是否涉及關鍵決策或敏感數據的使用。
Gavin Newsom 指出，大型系統只要採用 AI，即便是執行最基本功能，也得面對最嚴格標準的監管，這顯然並不符合邏輯，他也不認為這是保護公眾免受 AI 技術威脅的最佳方法。
壓力拋給聯邦政府，如何管理 AI 仍是問題
民主黨籍加州參議員暨提案人 Scott Wiener 則表示，加州政府有必要立法以保護大眾，防止 AI 科技變得難以駕馭或不受控；州長選擇動用否決權將使加州的安全性下降，並意味著試圖創造強大 AI 技術的公司，將會不受任何約束。
Scott Wiener 認為，科技業界的自願性承諾並不具強制性，過去甚少產生足夠監督效果，不過對於這次 AI 法案激起的火花，確實於國際上極大推進了人工智慧安全問題的相關討論。
美國智庫 R Street Institute 預測，加州確定否決該套 AI 法案後，關於人工智慧模型監管的爭論，接下來會轉移到美國聯邦政府。
美國國家標準暨技術研究院（NIST）近期成立了新的 AI 安全研究所，希望藉由政府的力量，跟企業一起進行 AI 測試、評估與研究，不過美國國會至今仍未正式授權該機構足夠職能。
【推薦閱讀】
◆ 矽谷因 AI 法案吵成一團！為什麼馬斯克支持但 OpenAI、Google 全反對？
＊本文開放合作夥伴轉載，資料來源：《R Street》、《TechCrunch》。首圖來源：Unsplash
