Anthropic 終於表態:真正該限制的不是開放權重,而是另外三件事

矽谷這幾天為了中國的開放權重(open-weight)模型吵成一片,Anthropic 一度被外界視為主張封殺開放模型的代表。美國時間週一,其執行長 Dario Amodei 在官方部落格親自出面澄清:Anthropic 從未主張禁止開放權重模型。相對地,他把政府該介入的重點指向另外三件事。

這番表態,也把近期 AI 治理的爭論,從「開放或閉源」推向一個更根本的問題:當模型能力足以構成國安風險,真正該管的到底是什麼?

Anthropic 為何被貼上「想禁開放模型」的標籤?

這場爭論的導火線,是中國新創 Moonshot AI 推出的開放權重模型 Kimi K3。據《Bloomberg》報導,這款模型的能力已可與 Anthropic、OpenAI 的產品媲美,讓川普政府與國會開始思考,是否該限制美國企業使用中國開放模型。

上週五,NVIDIA、微軟、Meta 等數十家科技公司連署一封公開信,呼籲政策制定者不要對開放模型祭出「過早的限制」,由 NVIDIA 執行長黃仁勳帶頭倡議;OpenAI 稍後也加入連署,Anthropic 則沒有簽署。

《Bloomberg》報導,正是這個缺席,讓包括前白宮 AI 主管 David Sacks 在內的部分人士質疑,Anthropic 是想藉打壓中國對手,來保護自家封閉模型的商業模式。而 Amodei 這篇部落格,正是對這類指控的正面回應。

Amodei 真正擔心的,是兩個夢魘場景

Amodei 強調,保護主義式的禁令,並不能解決他最在意的國安風險。他點出兩個長期擔憂的場景。

第一,是威權政府打造出比美國更強的 AI,用於取得永久性的軍事優勢,或對內進行深度監控與壓迫。他表示,中國共產黨(CCP)雖是「最有能力」的威脅,卻不是唯一;並引用美國副總統 Vance 去年在巴黎的警告,以及情報體系《2026 年度威脅評估》的判斷佐證。他認為,這類風險與模型是否開放權重、是否被美國企業使用無關,最危險的,反而可能是一款祕密訓練、只交給軍方與情報單位使用的模型。

第二,是強大模型被濫用於網路攻擊或生物攻擊,並可能出現對齊(alignment)問題。Amodei 認為,開放權重模型在這一點上的風險確實高於封閉模型,因為它們難以套上防護機制、也難以監控使用情形,而且權重一旦釋出就無法收回。但他強調,禁止美國企業使用這些模型並無助於降低風險,因為真正的惡意行為者,本來就不會是合法的美國企業;這麼做只會讓美國 AI 公司少了競爭壓力。

從晶片、蒸餾到安全測試,三道防線各擋什麼

順著這兩個擔憂,Amodei 提出的三項主張,各自對應不同風險。

第一道防線是晶片管制。他主張不應把高階晶片與製造設備賣給中國,並嚴打走私與各種變通取得的手段。他的理由是,中國本土產能有限,在規模法則(scaling laws)下,沒有美國晶片就無法訓練出比美國更強的模型,因此這是阻擋第一個場景最直接的方式。

第二道防線是打擊工業規模的蒸餾。蒸餾是以既有大模型的輸出來訓練另一個較小模型的技術,運算成本遠低於從零訓練,能讓中國以有限的晶片數量做出更好的模型,部分繞過晶片禁令,把中國與美國的前沿差距壓縮到僅數個月。

據《CNBC》報導,Anthropic 上月已致函美國參議院相關委員會,指控阿里巴巴的 Qwen 模型對其發動「已知最大規模的蒸餾攻擊」。《Bloomberg》則指出,白宮科技政策辦公室主任 Kratsios 稱有證據顯示 Moonshot 不當存取美國模型,財政部長 Bessent 也提及可能對涉及此類行為的中國公司祭出制裁。

第三道防線是強制安全測試。Amodei 主張,所有能力夠強的模型,無論開放或封閉,都應在釋出前接受網路、生物與對齊風險的檢測,能力較弱的新創或學術模型則可豁免。他認為這點已接近業界共識,川普政府近月也朝此方向移動。據《Bloomberg》報導,參議員 Warner 上週便呼籲把強制安全測試納入 AI 立法框架。Amodei 補充,測試要有效就必須是全球性的,這意味著連中國也得參與,而他認為在防範 AI 生物武器這件事上,各方合作或許真有可能,因為這同樣符合中國自身利益。

分歧浮現:開放不等於更安全,戰線正在重畫

對於那封公開信,Amodei 並非全盤否定。他甚至形容,不具危險能力的開放權重模型是一種「公共財」;也同意開放權重能擴大 AI 經濟的參與、在某些場景強化競爭,並讓客戶握有更多掌控權,而蒸餾問題應以針對性的法律與商業框架處理。但他不認同信中的核心假設:開放權重會讓防護機制更容易建立,或讓防禦方比攻擊方更有利。

Amodei 以生物領域為例,指出這裡可能存在明顯的「攻守不對稱」:夠強大的模型或許能用容易取得的材料,快速將具大流行潛力的病毒武器化,而建立防禦在最好的情況下仍是耗時數年的工程。他主張,這類問題該由嚴謹的釋出前測試來實證回答,而非事先假定。

除了沒有簽署那封公開信,產業分裂也出現在另一條線上。據《The Verge》報導,就在 Amodei 發文同日,NVIDIA、微軟、SpaceX 等公司另組「開放安全 AI 聯盟」(Open Secure AI Alliance),主張防禦前沿模型的攻擊需要開放工具;OpenAI、Google 與 Anthropic 三家主要美國實驗室同樣缺席。當開放與封閉的界線被反覆劃過,這場爭論的焦點,正從「模型該不該開放」,轉向「具危險能力的前沿模型該如何被治理」。

【推薦閱讀】

矽谷罕見內戰:中國開源 AI 進逼,掀開美國科技陣營各自算盤

Hugging Face 遭 AI Agent 惡意入侵:一個中國模型為何成了最後的調查工具?

人人都會用 AI 後,真正的績效差距從哪來?德州大學、KPMG 實驗點出關鍵

*本文開放合作夥伴轉載,資料來源:Anthropic《Business Insider》《TechCrunch》《Bloomberg》《CNBC》《The Verge》,首圖來源:Anthropic