加州議會近日通過一項全面的人工智慧安全法案，成為美國首批重要的 AI 法規之一。根據路透社報導，這項名為《前沿人工智慧模型安全創新法案》（SB 1047）的法案，要求在加州營運的 AI 公司在訓練複雜的基礎模型前，必須實施一系列預防措施。
這項法案一直是矽谷及其他地區爭論的焦點。法案要求公司必須確保能夠快速、完全關閉模型，保護模型免受「不安全的訓練後修改」的影響，並維護測試程序以評估模型或其衍生物可能造成的潛在危害。
法案的主要作者、參議員 Scott Wiener 表示：「SB 1047 是一項非常合理的法案，要求大型 AI 實驗室實現他們自己的承諾：測試大型模型是否存在災難性安全風險。我們與開源倡導者、Anthropic 和其他人一起努力了一整年，來完善和改進該法案。SB 1047 非常適用於我們對可預見 AI 風險的了解，是一套值得頒布的法規。」
然而，包括 OpenAI 和 Anthropic 在內的批評者認為，該法案過於聚焦於災難性危害，可能會對小型開源 AI 開發者造成過度傷害。為回應這些疑慮，法案進行了修改，包括用民事處罰取代潛在的刑事處罰，縮小加州總檢察長的執法權力，並調整加入「邊境模型委員會」的要求。
《紐約時報》報導，在州參議院對修訂後的法案進行投票後（預期將通過），這項人工智慧安全法案將提交給州長 Gavin Newsom，他將在 9 月底前決定法案的去留。
對於這項法案，Anthropic 僅提及其執行長 Dario Amodei 上週致州長的一封信，而 OpenAI 則指出其首席策略長 Jason Kwon 也在上週寫給參議員 Wiener 的一封信，兩家公司都拒絕進一步評論。
＊本文開放合作夥伴轉載，資料來源：《The Verge》，首圖來源：Unsplash。
