OpenAI 執行長 Sam Altman 近日在《Relentless》Podcast 節目中表示，人類現在已經身處 AI 奇點之中。他回憶，十年前，超級智慧對他和同事而言，仍像是遙遠夢想，大家甚至不指望能在有生之年目睹。然而，如今這一切已成為現實。
所謂的「奇點」，在一般媒體與學界的定義中，通常被用來描述 AI 快速改進自身，以至於人類無法再可靠地理解、預測或控制後續發展的臨界點。然而，Sam Altman 對「奇點」的理解與傳統定義有所不同，他在 2025 年 6 月發表的文章《溫柔奇點》（The Gentle Singularity）中指出，這場轉變並非突然發生的斷裂，而是隨著 AI 能力持續提升並逐漸融入日常生活，讓轉變在生活中展開，使人類能逐步地適應新時代的到來。
儘管如此，OpenAI 近期披露的一起事件，卻讓「奇點是否已到」的爭論迅速升溫：一個由兩款模型驅動的自主 AI Agent，在執行網路安全挑戰任務時，意外離開沙盒，進一步連上網路並存取開源 AI 平台 Hugging Face 的系統。這場意外不僅引發各界關注，也讓 Elon Musk 等科技界人士紛紛在社群ㄓ平台上附和「我們已身處 AI 奇點」的說法。
逃出沙盒就算跨越奇點？專家：AI 仍未擺脫人類設定的目標
面對這起逃出沙盒的事件，許多領域的專家卻澆了一盆冷水，認為這距離真正的奇點仍有相當長的一段路。例如，Info-Tech Research Group 首席研究主管 Brian Jackson 便指出，逃出沙盒與人類失去對 AI 的部分控制，確實符合奇點的部分特徵。
然而，Brian Jackson 強調：「奇點的另一部分，必須是 AI 能夠自行設定目標與意圖，並具備自我維持的能力，但這在這次事件中完全沒有發生。」他分析，雖然模型以研究人員未預料的方式跨越系統邊界，但最終仍是在努力完成由人類指派的任務，而且事件發生後，OpenAI 依然能夠將系統關閉，顯示人類並未真正失去對系統的控制權。
路易斯維爾大學電腦科學教授 Roman Yampolskiy 同樣指出，AI 的飛速進步本身並不能與奇點畫上等號。在 Roman Yampolskiy 看來，現有的 AI 系統雖然實力強大，但運作的底層架構、訓練基礎設施、任務目標及協調機制，依然高度依賴人類的設計與維護。因此，以傳統定義來看，奇點並未真正到來。
AI 沒有欲望，奇點就還沒來？專家對「越線時刻」各有判準
加州大學柏克萊分校教授、AI 權威學者 Stuart Russell，更對 Sam Altman 的說法表達強烈質疑。Stuart Russell 不僅認為奇點尚未到來，甚至進一步拿出 Sam Altman 先前的公開言論作為反證。他指出，Sam Altman 曾預測，AI 系統可能在 2028 年 3 月前承擔 OpenAI 相當比例的研究工作，這項具有明確時間表的預測，恰恰說明奇點目前尚未發生。Stuart Russell 同時嚴肅警告，在尚未徹底解決 AI 失去控制的問題前，抵達奇點是非常危險的。如果人類在缺乏控制方案下跨過那條線，幾乎必然會失去對 AI 的控制。
多倫多大學教授 Ajay Agrawal 也從 AI 的本質出發，駁斥奇點已到的說法。Ajay Agrawal 指出，現在的 AI 系統本質上只是強大的預測機器，但 AI「不會想要任何事物」。AI 雖然看似具有主動的目的性，但那只是因為人類預先設定要讓 AI 最佳化的目標，系統所展現的所有目的與意圖，追根究底仍源自人類。
哲學家 Nick Bostrom 則提出一個更具哲學思辨的視角，指出人類可能根本無法精準察覺自己何時跨越奇點的臨界點。Nick Bostrom 指出，AI 目前已經出現遞迴式自我改進的初步跡象，例如系統已經開始對 AI 領域的研究做出有意義的貢獻，只是目前仍缺乏持續學習的能力。
AI 會解人類解不了的題，但誰來證明答案不是幻覺？
除了上述關於自主性與控制權的討論，以色列理工學院副教授 Yaniv Romano 則提出另一項衡量奇點的關鍵判準。Yaniv Romano 認為，Sam Altman 的宣稱並非毫無根據，因為近期多項研究與實證顯示，現有的 AI 模型已經能夠解決人類難以完成的複雜數學問題。他舉例，ChatGPT 曾使用公開可取得的軟體，成功解出一道未經高度專業訓練的一般人難以處理的數學難題，而這正是現有模型在解題能力上超越多數人類的證據。
然而，Yaniv Romano 指出，這也隨之帶來一個前所未有的核心難題：我們該如何驗證模型給出的答案是正確的，而不是系統產生的幻覺？他解釋，在檢查程式碼或簡單任務時，人類很容易抓出 AI 的錯誤，但當模型處理的是連人類專家在正常情況下都無法獨立完成的任務時，驗證問題就會變得無比棘手。
AI 模型可以在極短時間內產生數千項結果，這在過去即使由全球最頂尖的數學家耗費數年，也難以企及。然而，要確認這些結果究竟是重大突破，還是系統產生的錯誤，往往需要耗費漫長的時間。因此，Yaniv Romano 也警告，這種「驗證的負擔」（burden of verification），如今已經遠遠超過建構模型與產生內容的負擔。
目前，各界專家對 AI 奇點是否已到仍無共識，分歧核心在於「越線標準」：究竟要等 AI 能自主改進、設定目的並脫離人類控制，才算抵達奇點；還是當模型產生人類難以理解、驗證也追不上的成果時，就已經跨過臨界點？然而，即使 AI 逃出沙盒不等於奇點，目前 AI 的產出速度已超越人類的驗證能力，仍是必須正視的挑戰。
【推薦閱讀】
◆ 人人都會用 AI 後，真正的績效差距從哪來？德州大學、KPMG 實驗點出關鍵
＊本文開放合作夥伴轉載，資料來源：《Business Insider》、《Fortune》、《The Jerusalem Post》，首圖來源：Unsplash
