矽谷所處的加州近日通過一項新法案，當地政府希望透過法律監管 AI，減少人工智慧帶來的潛在安全風險，避免某天 AI 突然失控，進而摧毀國家電力設施或製造化學武器等等；然而，這項立意看似良善的 AI 法案，卻讓科技巨頭如 Google、Meta 與 OpenAI 齊聲反對。
由地方議員所提出的《前沿人工智慧系統安全創新法案》，要求所有設立於加州的科技公司，必須先對旗下 AI 模型進行一連串安全測試，大舉超前美國聯邦政府的監管進度。
根據加州 AI 法案的內容，未來矽谷科技業者必須要為 AI 模型打造「終止開關」，以便在 AI 失控時能夠立即關閉系統，如果 AI 模型無法符合地方政府的安全規定，甚至有威脅民眾安全的疑慮時，開發者還會被加州執法機關直接提起法律訴訟。
此外，加州 AI 法案還要求科技公司必須提出保證，宣示不會開發具有「危險能力」的模型，例如透過 AI 製造生化武器、核武與協助網路攻擊等等，這將導致科技業者必須被迫聘請第三方公正單位，評估旗下的 AI 模型是否足夠安全，因此增加了成本開銷與洩密風險。
矽谷掀正反論戰，AI 到底該不該管？
由於加州 AI 法案的內容十分嚴苛與嚴格，導致許多矽谷科技業者與投資人聲稱，該法案將會扼殺創新力量，並且迫使 AI 公司紛紛離開加州。
在全球人工智慧 50 強公司中，加州本地就擁有高達 35 家，同時加州更是 AI 技術的早期採用者，例如透過生成式 AI 技術，解決當地高速公路的擁塞和道路安全等問題。
矽谷大型科技和人工智慧公司，包括 Google、Meta 和 OpenAI 在內，近期都對加州 AI 法案表達反對立場；然而，由亞馬遜所投資的 Anthropic，以及擁有 xAI 的特斯拉執行長馬斯克，卻選擇對該法案提出支持，兩派人馬的意見分歧使得矽谷內部吵成一團。
馬斯克在 X 上寫道，自己在過去 20 多年以來，一直都倡導必須有效監管 AI 技術，就像政府試圖限制任何對公眾構成潛在威脅的技術與產品一樣；由許多矽谷科技公司所資助的「進步商會」則發聲反對，認為加州 AI 法案所提出的風險，只不過是政府「對人工智慧產生的科幻幻想」。
部分 AI 領域知名人士認為，加州 AI 法案本身的問題在於太過短視，因為法案所監管的對象，並非對人類是有害的特定 AI 應用，而是對於整個 AI 領域、具有潛在無限用途的廣泛 AI 技術進行的全面監管，這會嚴重阻礙 AI 的未來發展與創新。
九月底前決定是否上路
主動提出該法案的加州參議員 Scott Wiener 表示，AI 的創新和安全可以齊頭並進，而加州希望在這方面處於領先地位；議會投票通過 AI 法案是歷史性的一步，能夠確保令人興奮的新技術在發展過程之中，依然可以有效保護公眾利益。
就在加州議會以 41 比 9 的壓倒性票數通過後，該 AI 法案已經送到了州長 Gavin Newsom 的桌上，他可以在 9 月結束之前，主動決定這項備受爭議的法案，是否能夠成為正式法律，若是選擇不簽署但也不否決，那麼該法案將於一段時間後自動生效。
在過去 Gavin Newsom 從未對加州 AI 法案表達過任何看法，但他曾指出人工智慧不應該被過度監管；無論加州州長的最終決定為何，矽谷的爭論肯定還會持續一段時間。
【推薦閱讀】
◆ 一不小心就被歐盟罰 10 億，《人工智慧法案》正式生效如何衝擊科技巨頭？
＊本文開放合作夥伴轉載，資料來源：《The Guardian》、《FT》。首圖來源：Unsplash
