截至美國時間 7 月 28 日下午，已有超過 1,100 名來自 OpenAI、Anthropic、Google、Meta、Microsoft、Mistral、Thinking Machines 等 AI 公司的從業人員，簽署一封名為「Pacing the Frontier」的公開信，呼籲美國政府支持國際合作，建立能刻意調節自動化 AI 發展速度的技術與治理工具。公開信警告，一旦 AI 開始參與下一代 AI 的開發，技術進展可能顯著加速。
就在 AI 從業人員要求預先建立減速工具之際，Meta 執行長祖克柏（Mark Zuckerberg）卻提出相反警告：AI 安全不能只靠將權力交給少數機構。他強調，這個時代的決定性問題已不再是超級智慧是否會出現，而是這項能力將集中於少數機構，還是成為賦能每個人的工具。
逾千名 AI 高層聯署：政府應先建立「減速機制」
這封公開信的簽署陣容涵蓋多家前沿 AI 實驗室，包括 Anthropic 共同創辦人 Jack Clark 與 Jared Kaplan、OpenAI 首席科學家 Jakub Pachocki、Meta 首席科學家 Shengjia Zhao，以及 Google DeepMind 的 AI 安全與對齊主管 Anca Dragan 等高階主管。
公開信發布的時間點，正值 OpenAI 一款尚未發布的模型逃出內部沙盒、取得網路存取權，並駭入開源平台 Hugging Face 系統的網路安全事件之後。這起「前所未有」的事件，進一步加深業界對前沿 AI 能力與相關治理的急迫討論。
簽署者在信中特別警告，全球領先的 AI 公司可能已接近「自動化 AI 研究」階段。一旦 AI 開始具備自行協助開發與改進 AI 的能力，技術進展可能迅速加速，甚至超出人類理解或控制相關系統的能力。
面對這種潛在的失控風險，公開信主張，為了實現 AI 的潛力，產業、政府與社會大眾必須保留「爭取時間」的選項，藉此處理新出現的風險、發展安全措施並強化監督機制。
然而，目前的困境在於，每家企業甚至每個國家都承受極大的競爭壓力，任何一方都難以單方面放慢研發腳步。在全球仍缺乏能調節整個前沿 AI 領域發展速度的技術與治理工具之際，連署者因此敦促政府介入，透過國際合作填補這項治理空白。
祖克柏反駁「安全就要集中權力」，認為超級智慧應交到每個人手中
針對這類擔憂，祖克柏在《華爾街日報》撰文批評，許多 AI 開發者的論述過度充滿末日氛圍，AI 辯論需要納入更多現實考量。
祖克柏不認同「AI 極度危險，因此唯一安全道路是極端集中權力」的想法。他指出，如果只有少數機構掌握超級智慧，這些機構將不可避免地對經濟、科學與政治領域產生控制性影響。即使其出發點良善，這種集中化仍會限制人們選擇自身未來的能力。
祖克柏也質疑打造一個與全人類價值完全一致的「單一超級智慧」是否可行。人類並非具有相同利益與價值觀的單一文化，任何單一系統都必須優先選擇部分價值，不可能同時符合所有人的需求，也難以對所有人維持同樣的善意。
在反對由單一系統或少數專家替全人類決定價值排序之外，祖克柏也提出一套以分散能力為核心的替代路線，希望讓使用者能依照自身需求、目標與價值觀配置 AI。
祖克柏提超級智慧三原則：個人賦權、發明優先、權力制衡
祖克柏將 Meta 發展超級智慧的理念歸納為三項核心原則，分別是以個人賦權作為繁榮的來源、以發明作為超級智慧的主要用途，以及以權力制衡作為安全的基礎。
在「個人賦權」方面，他認為，人類的進步來自把力量交給人們，讓每個人都能追求自己的目標；歷史上許多新穎想法與重大突破，也鮮少單獨來自既有的大型機構。祖克柏主張，隨著每個人取得更強大的工具，人們塑造未來的能力將會增加，而不是減少。
在「發明優先」方面，祖克柏認為，超級智慧最偉大的貢獻不會是自動化，而是協助人類發現新知識。這些發明可能涵蓋找到治療家人疾病的新藥，以及找出改善企業營運的新方法。
在「權力制衡」方面，祖克柏相信，當更多人被賦予能力並取得工具時，自然會對彼此及大型機構形成制衡。
祖克柏並未否認 AI 帶來的風險，但他認為不同風險需要採取不同的應對方法。在網路安全領域，開源軟體的發展歷史顯示，讓更多人完整存取強大系統，長期而言可能是強化安全與防護的最佳途徑。對於生物風險等其他挑戰，他則認為，政府與其他機構需要加強協調，以負責任的方式部署具備相關能力的模型。
中國模型加劇路線之爭，Meta 也走向開放與封閉並行
當前 AI 產業對於發展路線存在明顯分歧，主要分為「嚴格管控」與「開放發展」兩大陣營。一方面，Anthropic 執行長 Dario Amodei 與 OpenAI 執行長 Sam Altman 主張，部分領先 AI 模型具有高度危險性，不能在缺乏嚴格管控的情況下分享與開發。相對地，Microsoft、NVIDIA、Google 與 Meta 等公司則認為，許多 AI 模型必須以更開放的方式發展，才能推動技術進步與創新。
這場矽谷內部的路線之爭，近期更因地緣政治競爭而升溫。隨著中國 AI 模型取得突破，並開始侵蝕 Anthropic 與 OpenAI 等美國公司的領先優勢，雙方的角力也延伸至政策層面。
Anthropic 與 OpenAI 積極向華府監管機構表達對中國開源 AI 模型的疑慮；另一邊，NVIDIA 執行長黃仁勳則發表公開信支持開源軟體發展，並宣布與 SpaceX、IBM 等科技巨頭籌組專注於開源 AI 安全與資安工具的聯盟，以支持開放路線。
然而，祖克柏雖持續主張開放，Meta 在競爭落後與商業化壓力下，也開始採取開放與封閉模型並行的雙軌策略。
Meta 過去多年來一直支持開源 AI，並曾免費釋出旗下 AI 模型，但在這場 AI 競賽中一度落後於 Anthropic 與 OpenAI。為了重整旗鼓，祖克柏斥資 143 億美元投資新創公司 Scale AI，延攬其創辦人 Alexandr Wang 重組 AI 部門，並將其更名為 Meta Superintelligence Labs。
隨後，Meta 開始開發不對外開放的封閉模型，並首度販售最新 AI 模型 Muse Spark 的使用權，同時繼續發展開源模型。儘管採取更務實的商業策略，祖克柏仍強調，科技產業的長期發展軌跡依然是走向開放，最終會將科技力量交到更多人手中，而不是由少數機構把持。
這場爭論表面上在問 AI 該不該減速，實際上爭奪的卻是誰有權決定減速、開放與部署的界線。「Pacing the Frontier」公開信希望保留必要時放慢前沿 AI 進展的能力，祖克柏則警告，集中控制本身也可能構成風險。兩條看似對立的路線，最終都指向同一個問題：誰能取得並決定超級智慧的用途與發展方向。
＊本文開放合作夥伴轉載，參考資料：《Bloomberg》、《The Verge》、《Business Insider》、《The New York Times》、《WSJ》，首圖來源：Unsplash
