加州議會近日通過一項開創性的人工智慧安全法案，目標是減少 AI 可能帶來的潛在風險。該法案要求公司對 AI 模型進行測試，並公開安全協議，以防止模型被操縱造成嚴重後果。
法案內容與目標
法案主要針對訓練成本超過一億美元的大型 AI 系統。目前尚無 AI 模型達到這一門檻。法案作者、民主黨參議員 Scott Wiener 表示，這是一種「輕度干預」的方法，平衡創新與安全。
科技業反應與爭議
然而法案遭到包括 OpenAI、Google 和 Meta 在內的科技公司強烈反對。他們認為安全規定應由聯邦政府制定，而非針對開發者。然而，AI 新創 Anthropic表示支持該法案，認為法案內容對防止 AI 系統的災難性濫用至關重要。
法案前景
法案已通過州議會投票，現待州長 Gavin Newsom 簽署。Newsom 需在 9 月底前決定是否將簽署成法。他之前曾警告不要過度監管 AI。
加州 AI 監管趨勢
全球 50 大 AI 公司中有 35 家位於加州，該州在 AI 技術應用方面一直走在前沿。今年，加州立法者提出了數十項 AI 相關法案，試圖在監管技術風險和支持本土產業發展之間取得平衡。
支持者認為，該法案將為美國大型 AI 模型設立首個必要的安全基本規則。然而，反對者警告法案可能過於理想化，並可能影響加州在 AI 領域的領先地位。
＊本文開放合作夥伴轉載，資料來源：《The Guardian》首圖來源：《Unsplash》
