人工智慧新創公司 OpenAI 和 Anthropic 最近與美國政府簽署了一項重要的合作協議，專注於人工智慧模型的研究、測試和評估。這一協議由美國人工智慧安全研究所發佈，該研究所隸屬於美國商務部的國家標準與技術研究所（NIST）。這是首次在人工智慧技術的安全性和倫理風險方面進行如此深入的合作，確保這些技術在大規模應用前經過嚴格的測試和評估。
根據協議，美國人工智慧安全研究所將在 OpenAI 和 Anthropic 公佈其最新 AI 模型之前，獲得優先接觸權，並在模型公開後繼續監測其運行情況。這次合作不僅包括技術測試，還涉及對這些 AI 模型在實際應用中的風險進行評估，以確保其安全性和可信度。OpenAI 的首席策略官 Jason Kwon 表示，這次合作將有助於美國在負責任發展人工智慧領域上發揮領導作用，並為其他國家提供參考框架。
此外，該研究所還將與英國人工智慧安全研究所合作，共同提供有關這些技術的安全改進建議。這次合作正值全球對人工智慧技術的監管力度加強之際，尤其是加州立法機構即將對廣泛監管人工智慧的法案進行表決之時。
拜登政府去年通過行政命令成立了美國人工智慧安全研究所，專門應對人工智慧技術可能帶來的已知和新興風險。這次合作協議的簽訂，標誌著美國在人工智慧領域的重大進展，也反映了 OpenAI 和 Anthropic 在推動安全和可信的人工智慧技術發展上的承諾。這一合作將為全球人工智慧技術的未來發展奠定堅實的基礎。
