AI 要減速,誰來訂規則?Anthropic、微軟與川普政府各有主張

OpenAI、Anthropic 等前沿 AI 公司最近罕見開始討論「跑慢一點」,美國總統川普卻不打算跟著踩煞車。9 月 12 日,Anthropic 執行長 Dario Amodei 發文呼籲放慢前沿模型能力進步速度,OpenAI 執行長 Sam Altman、xAI 創辦人 Elon Musk 等人也表態支持。Amodei 希望先引入常駐第三方評估者,再進一步讓主要 AI 業者建立共同安全標準,甚至協調 AI 能力發展速度。

不過,Anthropic 現階段只承諾先引入常駐第三方評估者;真正涉及多家公司共同協調前沿 AI 能力進展速度,則要到 Amodei 提出的第二階段。這也讓另一個問題浮上檯面:如果一家 AI 公司擔心風險,為什麼不能自己慢下來?

AI 公司想一起管,政府卻問:為何不能自己慢?

答案其實牽涉市場競爭。《Reuters》日前就指出,即使部分研究人員認為 AI 發展太快,身處激烈模型競爭的實驗室仍很難單方面減速。一家公司降低能力進展速度,競爭對手卻持續推出更強模型,就可能犧牲技術與市場領先。

業界也已開始尋找共同規則。《The Information》報導,Anthropic、OpenAI 與 Google 曾私下討論成立 AI 安全標準組織。雖然尚未形成正式的共同減速機制,但顯示部分領先業者已在探索跨公司的安全規範。

不過,對於怎麼慢、誰來訂規則,各方很快出現不同看法。9 月 13 日,川普總統科學技術顧問委員會(PCAST)共同主席 David Sacks 在 X 發文表示,Amodei 與 Altman 如果認為 AI 發展太快,「那就去做」,不必等待政府或其他業者。他也質疑,如果大型 AI 公司一方面沒有自行減速,一方面又要求反壟斷豁免或新的監督制度,可能讓既有業者藉規則提高競爭門檻。

到了 9 月 14 日,微軟董事長暨執行長 Satya Nadella 在 X 發文表示,他支持引入長期的外部評估機制,但這套制度不能只由少數幾家公司主導,應納入不同產業、國家與學界。也就是說,即使業界同意建立共同規則,誰有權制定規則,本身仍有爭議。

同一天,OpenAI 執行長 Sam Altman 也進一步說明自己的看法。他表示,OpenAI 支持美國建立一致的前沿 AI 安全要求,也認同獨立稽核,但業者不必等立法才開始行動,可以先做自己能做的事。

Altman 強調,所謂放慢速度並不是停止 AI 發展,而是接受安全評估與監控需要額外時間與成本,因此能力進步速度可以比原本慢一些。OpenAI 也開始把部分安全檢查提前到模型能力大幅提升之前,而不是只等模型完成後再評估。至於真正需要政府協助的部分,他認為是在跨國協調;即使美國面臨激烈競爭,也不應讓模型能力跑在安全措施前面。

川普不想減速:美國不能把領先位置讓給中國

《Financial Times》報導,川普 9 月 13 日拒絕科技業領袖要求放慢 AI 發展的呼籲。川普並未完全否定 AI 需要安全護欄,但反對因此大幅降低技術發展速度,理由直接指向美中競爭:美國目前在 AI 領域領先中國,他不願因減速而失去既有優勢。

這也突顯前沿 AI 實驗室想一起慢下來時,最難處理的問題。就在同一天,中國國家主席習近平於 BRICS 峰會宣布建立「BRICS AI Open Source Zone」,進一步推動 AI 與開源技術合作。這項布局不代表中國正在同步加速前沿模型能力,卻顯示全球 AI 技術與生態競爭並沒有因安全爭議停下腳步。

Anthropic 執行長 Dario Amodei 自己也承認這項限制。他指出,如果美國與其他民主國家限制前沿 AI 能力發展,中國卻沒有同步跟進,可能反而帶來國家安全風險。因此,他提出的最後一階段才會進一步尋求跨國協調,並建立足以確認各方是否遵守承諾的驗證機制。

值得留意的是,資本市場並沒有把這波減速呼聲理解成 AI 競賽即將停下來。9 月 13 日,《Bloomberg》訪問的投資人認為,相關討論短期可能壓抑 NVIDIA 等 AI 晶片與供應鏈股票,但較可能只是暫時性的開發節奏調整。只要資料中心、晶片與能源需求仍然強勁,市場對 AI 基礎建設長期投資的預期就不會因此消失。

這也讓前沿 AI 的「減速」面臨三股彼此拉扯的力量:安全要求競爭者一起慢,企業競爭擔心率先落後,國家與資本市場則仍期待 AI 能力與投資繼續往前。當 AI 公司開始尋找共同煞車機制,真正棘手的問題也隨之浮現:誰有權決定前沿 AI 應該跑多快,又要怎麼確保其他人真的一起慢下來?

【推薦閱讀】

OpenAI 證實不於 2026 啟動 IPO:優先建構技術安全與對齊,AI 企業醞釀減速協議?

OpenAI Agent 越界範圍再擴大、Anthropic 揭第 4 起事故:AI 安全進入「事故治理」階段

OpenAI 公布 Hugging Face 事件完整調查,1,200 個 AI Agent 如何從解題走向攻擊?

*本文開放合作夥伴轉載,資料來源:《VentureBeat》《Reuters》1《Reuters》2《CNBC》Dario Amodei《The Information》Satya NadellaDavid SacksSam Altman《The Next Web》《Bloomberg》《Financial Times》,首圖來源:Unsplash