在美國國會持續推動人工智慧監管之際，拜登政府週三宣布計劃召開一場全球性的人工智慧安全高峰會。商務部長吉娜．雷蒙多與國務卿安東尼．布林肯將於美國時間 11 月 20 日至 21 日在舊金山主持國際人工智慧安全研究所網路的首次會議。這次會議旨在「促進全球合作，確保人工智慧的發展能夠安全、可靠且值得信賴」。參與成員國包括澳洲、加拿大、歐盟、法國、日本、肯亞、韓國、新加坡、英國和美國。
生成式人工智慧技術一方面潛力令人期待，但另一方面也可能會取代某些工作、影響選舉結果，甚至可能壓垮人類長久以來的努力，帶來難以收拾的後果。雷蒙多部長在今年 5 月的首爾人工智慧高峰會上宣布成立國際人工智慧安全研究所網路，各國一致同意將人工智慧的安全、創新和包容性列為優先事項。這次在舊金山舉行的會議，目標是在明年 2 月巴黎人工智慧行動高峰會之前，啟動相關的技術合作。舊金山會議將邀請各成員國人工智慧安全研究所或同等級政府支持的科學機構的技術專家參與，共同討論優先工作領域，並推動人工智慧安全的全球合作與知識共享。
儘管監管力道持續加強，美國國會在人工智慧立法方面的進展卻相對緩慢。上週，美國商務部提出一項提案，要求高階人工智慧開發商和雲端運算供應商提供詳細的報告，以確保技術安全並能夠抵禦網路攻擊。值得一提的是，拜登總統已於 2023 年 10 月簽署了一項行政命令，要求可能對美國國家安全、經濟、公共衛生或安全構成風險的人工智慧系統開發者，在公開發布前必須與美國政府分享安全測試結果。這次的全球高峰會無疑將成為各國討論人工智慧發展與管理的重要平台，其結果可能對未來全球人工智慧的發展方向產生深遠影響。
