自研晶片卻不放棄 NVIDIA:Anthropic 為何想用軟硬體協同設計重塑 Claude 成本結構?

為了因應開發與運行先進 AI 系統所面臨的晶片短缺挑戰,Anthropic 於 8 月 5 日首度公開確認,內部正在建立一支「客製矽晶片團隊」(custom silicon team),著手為旗下 Claude AI 模型設計專屬晶片。這項宣告也象徵 Anthropic 的策略轉折:Anthropic 正式從外部合作夥伴晶片的採購者,跨足成為自主研發的晶片設計者。

這項計畫的核心在於招募具備橫跨硬體與軟體堆疊經驗的工程師,並推動「軟硬體協同設計」,讓晶片與 AI 模型同步開發,使 Claude 能在客戶所需的龐大規模下,運作得更快、更有效率。然而,這並不代表 Anthropic 要與既有盟友分道揚鑣。Anthropic 特別強調,自研晶片是其整體「多晶片策略」(multi-chip approach)的最新一步,AWS、Google、NVIDIA 與 AMD 的硬體技術,仍是 Anthropic 持續擴充 AI 算力與推動規模化的關鍵基礎。

不再讓 Claude 遷就通用晶片,Anthropic 想用協同設計重寫軟硬體關係

為了解決傳統通用硬體的效能瓶頸,Anthropic 採取硬體與模型共同設計(co-design)的策略。在常規的晶片採購模式中,企業通常會先購買 NVIDIA 的 GPU、Google 的 TPU 或 Amazon 的 Trainium 等現成硬體,隨後才編寫軟體,以適應並運行於這些既有硬體上,因此軟體往往必須遷就硬體既定的能力上限。然而,協同設計則扭轉了這種主從關係,讓晶片在規劃之初,便按照軟體的具體需求量身打造。也就是說,晶片與 Claude 模型將共同開發,雙方的底層需求也會相互影響彼此的架構。

對 AI 推論加速器而言,這種協同設計能使晶片的記憶體配置、資料流架構及數值精度格式,完全配合 Claude 推論框架中最常執行的核心運算。此外,負責將 Claude 運算圖對應至硬體指令的編譯器,也能與晶片的暫存器架構同步開發,而不是等晶片定型後再進行適配。

當模型的推論工作能直接透過晶片的原生指令執行,不需再經過 NVIDIA CUDA 這類抽象層時,便能帶來可觀的累積效益,包括大幅減少記憶體傳輸、降低產生每個 token 的延遲,並顯著提高每瓦的運算吞吐量。

客製晶片不只拚效能,Anthropic 更想改寫 Claude 的成本結構

在技術突破之外,Anthropic 跨足晶片設計的背後,更承載著直接且龐大的經濟誘因。這類客製化推論晶片是專門為大型語言模型提供推論服務而生,並不負責極度耗能的模型訓練。因此,當模型的工作負載足夠穩定、使用規模足夠龐大時,高昂的晶片設計與研發成本,便能由海量的查詢請求攤提。以 OpenAI 與 Broadcom 合作開發的 Jalapeño 推論晶片為例,早期測試顯示,相較於標準 GPU 推論,Jalapeño 約可節省 50% 的每 token 成本。

對 Anthropic 而言,隨著其年化營收運轉率(annualized revenue run rate)衝上 470 億美元,且服務數十萬家企業客戶與數百萬名個人用戶,任何微小的成本下降都會被大幅放大。若專門為 Claude 服務模式客製的晶片能帶來類似的成本改善,每年將能為公司省下高達數億美元的支出。此外,隨著推論晶片出貨量預計在 2026 年大幅成長 44.6%,遠高於通用 GPU 的 16.1%,整個產業都在加速降低對 NVIDIA 的高度依賴。

目前,除了 OpenAI 已於今年 6 月公布專用晶片外,Meta 也計畫在 9 月將下一代自研晶片投入生產,就連法國 AI 新創 Mistral AI 也在考慮設計自己的晶片。Anthropic 此時跟進,顯然是為了避免自己在這輪「算力性價比」的競爭中落後。

從天價研發到架構過時,Anthropic 自研晶片將是一場高風險豪賭

然而,在樂觀的經濟前景背後,是一連串的硬體開發與商業風險。首先,是天價的資金消耗與研發複雜度。根據《Reuters》,若要採用 2 奈米或 3 奈米等頂尖製程節點,設計出一款先進的 AI 晶片,研發費用大約落在 5 億至 7.5 億美元之間。企業不僅要向頂尖工程師支付高昂薪資,還必須投入巨資,以確保高度複雜的製造流程不會出現任何微小缺陷。

另一個更具戰略威脅的挑戰,在於「架構鎖定」的風險。特殊應用積體電路(ASIC)是專為特定運算高度最佳化的晶片,一旦製造完成,便無法重新編程。因此,為 Claude 打造專屬晶片,代表 Anthropic 必須押下一個極大的賭注:深信 Claude 底層所採用的 Transformer 架構及核心運算模式,在未來數年仍能維持足夠的穩定性。若在晶片回收高昂成本之前,AI 領域出現超越 Transformer 的全新模型架構,這顆耗資數億美元的 ASIC 便可能瞬間過時,淪為無用的矽片。對於追求靈活應變的 AI 新創公司而言,這是一場代價高昂的工程賭注。

最後,相較於競爭對手,Anthropic 選擇了一條更為漫長且艱難的研發路線。OpenAI 的 Jalapeño 之所以能在短短九個月內,從概念走向製造藍圖,是因為高度仰賴設計合作夥伴 Broadcom 的成熟設計基礎與既有晶圓代工關係。相較之下,Anthropic 目前似乎傾向於「完全在內部(in-house)自建晶片設計能力」。這雖然能換來更高的自主性與更徹底的控制權,但也代表開發時程將大幅拉長,短期內難以看到具體產品問世。

Anthropic 的自研晶片計畫還在早期,第一步是搶人才

正因為自研晶片是一項高風險且漫長的工程,Anthropic 的計畫目前仍處於極早期階段,迄今也尚未公布任何具體的時間表與架構設計。雖然先前《The Information》曾指出,Anthropic 已與三星電子洽談,將三星的 2 奈米 SF2P 先進製程與 GAA 奈米片技術,視為潛在的晶片製造方案,但雙方至今尚未簽署任何正式的製造協議。

因此,Anthropic 當前最明確的進展,其實是「建立能做出晶片的團隊」,而非晶片本身。為了組建這支精銳部隊,Anthropic 開出 32 萬至 48.5 萬美元的優渥年薪,並鎖定真正完成並出貨過晶片、對開發時程有實際掌握度,且能在沒有大型組織支援的情況下做出重大決策的資深軟硬體協同設計人才。

目前,這支硬體先鋒隊已由關鍵技術領袖 Clive Chan 領銜。Clive Chan 曾是 Tesla Dojo 超級電腦與 OpenAI 晶片團隊的核心成員,並於 2026 年 6 月跳槽加入 Anthropic。他當時曾感性地形容,自己已經準備好「從山腳開始攀登一座新高山」,這正貼切描繪了 Anthropic 晶片研發從零起步的現狀。

這也是 Anthropic 不斷向外界澄清,自研晶片絕非要取代現有硬體合作夥伴的原因。不論過去或未來,Anthropic 都將持續採取「多晶片策略」,AWS、Google、NVIDIA 與 AMD 依然會是其 AI 規模化進程中不可或缺的核心基礎。例如,AMD 已承諾自 2027 年起,為 Anthropic 提供高達 2 GW 的運算容量與 MI450 加速器;自研晶片則是一項面向未來、用於補充多元運算能力的資產。

對 Anthropic 而言,開發自研晶片的核心意義,在於取得「垂直整合的掌控權」,也就是掌控自身的成本結構、效能演進,以及降低外部供應鏈制約的自主能力。雖然 Anthropic 藉由打造客製矽晶片團隊,正式從晶片採購者跨足成為設計者,但這場硬體長征才剛踏出第一步。在未來數年內,建立能同時理解 AI 模型、軟體編譯器與半導體底層技術的內部研發能力,將是比產出一顆晶片更關鍵且迫切的挑戰。

*本文開放合作夥伴轉載,參考資料:《Reuters》《Business Insider》《Tech Times》,首圖來源:Unsplash