在 2023 年夏天 OpenAI 內部創立了一個名為 Superalignment 的團隊，其目標是引導和控制未來的人工智慧系統，避免 AI 某天變得過度強大，甚至於對人類的存在造成威脅。
但就在 Superalignment 團隊創立正要滿周年之際，OpenAI 內部竟出現了雜音，管理層與工程師對於公司的未來走向出現了意見分歧，導致團隊領導人 Jan Leike 與 OpenAI 聯合創辦人 Ilya Sutskever 接連離職，為科技界投下了震撼彈。
Jan Leike 先前是 Google DeepMind 的研究員之一，在 OpenAI 期間參與了 ChatGPT、GPT-4 和 InstructGPT 的開發工作，他後來帶領 Superalignment 團隊致力於跟 AI 相關的安全研究，而他與 Ilya Sutskever 的相繼出走，令 OpenAI 的公司內鬥正式浮上了檯面。
掌握 AI 趨勢 & 活動資訊一點都不難！訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
Jan Leike 在個人的 X 上說明他離開 OpenAI 的理由，他指出：「建造比人類更聰明的機器，本質上是一項危險的工作，而 OpenAI 更代表著全人類承擔巨大的責任，可是在過去的幾年時間裡，以往 OpenAI 所注重的安全性文化和流程，已經讓位給了那些散發出耀眼光芒的新產品」。
不再將 AI 安全性置於首位
簡而言之，Jan Leike 離開 OpenAI 的理由，正是這家公司已經不再將 AI 的安全性置於首位，並且降低解決 AI 技術問題的優先度，把開發出更多新產品當成目前最主要的任務。
OpenAI 在宣布成立 Superalignment 團隊時曾經表示，公司會在未來 4 年內投入 20% 的運算能力，解決人類未來如何控制強大 AI 系統的相關問題，但 Jan Leike 卻指出，在過去的幾個月裡 Superalignment 團隊一直都在逆風而行，他們根本無法獲得公司曾經承諾給予的資源。
Jan Leike 補充說，由於對 OpenAI 核心優先事項的分歧意見，他跟公司領導層的關係已經達到了「臨界點」，因此才會於首席科學家 Ilya Sutskever 出走後，選擇跟隨他並離開 OpenAI。
對此 OpenAI 向媒體表示，公司未來的 AI 安全工作將由另一位聯合創始人 John Schulman 領導，同時公司內部還有其他團隊負責不同類型的 AI 安全任務；曾經領導 OpenAI 旗艦人工智慧模型 GPT-4 開發的負責人 Jakub Pachocki，則會接替 Ilya Sutskever 首席科學家的位置。
【延伸閱讀】
◆ AI 做的蔡英文假新聞到處竄！台灣每天遭 500 萬次網攻多來自中國，該如何應對？
＊本文開放合作夥伴轉載，資料來源：《engadget》、《TechCrunch》。首圖來源：Unsplash
