OpenAI 執行長 Sam Altman 發布了五項營運原則，說明 OpenAI 邁向「通用人工智慧」（AGI）的方向。「公司希望 AI 能廣泛造福人類，而非讓權力集中在少數實驗室或政府手中，」他補充，隨著安全風險增加，未來的系統可能需要更嚴格的限制。
不再承諾協助對手：解析 OpenAI 新版五大營運原則
《implicator.ai》報導，OpenAI 公布的五項原則中，民主化（Democratization）位居首位。OpenAI 承諾讓 AI 的決策受制於「民主程序」，而非僅由 AI 實驗室關起門來決定。賦權（Empowerment）排在第二，強調賦予使用者極大的自主空間，但同時保留一項權利，在傷害風險尚不明確時，將選擇傾向於「審慎保守」。
另外三項包含普遍繁榮（Universal Prosperity），支撐 OpenAI 算力建置、垂直整合及全球資料中心擴張計畫的政策基礎，其核心在於降低基礎設施成本並分享技術收益。還有韌性（Resilience）承諾與企業、政府及各類生態系統合作，共同應對生化武器與網路安全風險，並投入模型資源作為後盾。而適應性（Adaptability）讀起來最為坦率，OpenAI 預期會不斷修正其立場，並表示會透明化地說明調整的原因。
OpenAI 一直致力於 AGI 的研究，AGI 是能以人類水平或更高水平完成各種認知任務的 AI 系統，而不是僅擅長特定功能或針對特定情況使用的模型。《Forbes》提及，OpenAI 2018 年最初發布的章程源於其作為研究實驗室的背景，仍帶有非營利色彩，承諾廣泛利益、長期安全、技術領先與合作，甚至提到若另一個價值理念相符的專案接近率先建成安全的 AGI，OpenAI 將停止競爭並提供協助。
新原則保留了部分用語，但給了公司更多轉圜空間，這份更新的文件減少對 AGI 的強調，移除了協助競爭對手的條款，比起 2018 年章程，直接的承諾更少。隨著外界對 AI 權力與社會角色的憂慮升高，甚至出現針對 AI 執行長與研究人員的直接威脅與攻擊，明確說明 AI 邁向 AGI 的進展變得至關重要。《Forbes》指出，OpenAI 發布的新五大原則不僅在分享它想成為什麼樣的實驗室，也在揭示它已成為什麼樣的機構。
AGI 治理競賽白熱化：頂尖 AI 實驗室的安全框架權衡
《Forbes》補充，OpenAI 加入更廣泛的 AGI 安全競賽並非首例，各大頂尖實驗室都在嘗試在不減速的情況下制定規則。Claude 母公司 Anthropic 採取更偏向研究與自我監督的路線，其《負責任縮放政策》（RSP）是管理先進 AI 災難性風險的自願性框架，明確表示即使在政策未要求的情況下，公司仍可在認為合適時暫停 AI 開發。然而，Anthropic 在競爭壓力下放寬了部分安全承諾，顯見維持目標具挑戰性。
Google DeepMind 採用《前沿安全框架》，圍繞關鍵能力等級建立，在部署前進行評估，重點在於自主性、生物安全、網路安全和機器學習研究。Meta 執行長 Mark Zuckerberg 則主張開源 AI 對開發者和世界都有利，Meta 越來越專注於構建完整的通用智慧並廣泛開放。
然而，這條道路仍依賴龐大的中心化投資。OpenAI 想要普及 AGI，也表示世界需要目前尚不具備的海量基礎設施，《Forbes》提及，這絕不便宜，也不會由小型新創公司建成，它將取決於 GPU、電力、土地、人才、資本和政府許可。OpenAI 知道這一點，所以請求公眾允許其大規模建設，相信公司會分享利益，同時接受在風險增加時可能採取的限制。《Forbes》指出，或許正是這些因素，加上 Sam Altman 個人對安全的擔憂，推動了最新原則的發布。
＊本文開放合作夥伴轉載，資料來源：《Forbes》、《implicator.ai》、OpenAI，圖片來源：Unsplash。
