搶手 NVIDIA 晶片這裡有!GPU 雲服務新創崛起,為何被看好撼動 AWS、微軟地位?

生成式 AI 運算不可少的 GPU 會缺貨到什麼時候呢?國際權威金融雜誌《巴倫週刊》消息指出:「至少到 2024 年初才可能緩解。」另外像 NVIDIA 頂級 AI 晶片 H100 這種熱門商品,即便幾個月前就下訂,最快也可能得等到明年第二季之後才能到貨。

正當市場一片喊搶之際,卻有家新創老神在在,早就備好 GPU 存貨,並已經在預備明年第三季之後的 GPU 採購計畫,他們是 CoreWeave 。

據《華爾街日報》報導,這間獲得 NVIDIA 重押的新創,儘管 2017 年才成軍,卻迅速成為矽谷科技巨頭的眼中釘。即便一般科技公司都很難與微軟、亞馬遜或是 Google 這些世界上最大的科技巨頭競爭,但 CoreWeave 卻做到了,這間估值僅 20 億的小新創,憑什麼威脅光是雲端業務收入就是其 40 倍規模大小的 AWS、Azure

瞄準巨頭們打不到的市場,專攻客製化 AI 算力需求!

據《TechCrunch》報導 CoreWeave 提供的服務可以讓客戶在雲端中訪問十多個 NVIDIA GPU 商品,包括 H100、A100、A40 和 RTX A6000 等適用於 AI、機器學習和視覺效果的主流晶片。CoreWeave 在 7 月時還與 NVIDIA 合作組建由 3,500 多個 H100 構成的「AI 超級計算機」,作為其基礎設施。

CoreWeave 聯合創辦人 Brannin McBee 指出:「我們在做的是為 AI 市場打造基礎建設,替強大的運算需求鋪設電網。」CoreWeave 的商模很簡單,向需要的公司兜售它們準備好的GPU算力。然而這與傳統的雲端服務大廠有何不同?

CoreWeave 高層指出,傳統雲端服務商大部分提供標準、通用的伺服器供一般客戶存取使用,但他們能提供更多客製化系統與多種不同效能的晶片,尤其目前在CoreWeave 的數據中心裡,同一位置託管的 GPU 最多達 2 萬個,遠高於傳統雲端大廠的數量

簡單來說,CoreWeave 抓住的客群是那些沒能力自行購買 GPU 組建所需計算機,而一般雲端服務商供應的算力服務又無法滿足其需求的中小型公司,目前包含 Stability AI和 Inflection AI 等新創都是他們的客戶。

掌握 AI 趨勢 & 活動資訊一點都不難!
訂閱電子報,每週四一起《AI TOgether》

感謝訂閱!隨時注意信箱的最新資訊

為何 CoreWeave 有這麼多晶片?

不過據《華爾街日報》揭露, CoreWeave 的成功與其說是他們對 GPU 的遠見,但更像一連串誤打誤撞。CoreWeave 之所以能在這次 GPU 缺貨潮發生前搶得先機,全歸功於三位創辦人在 2017 年加密貨幣一飛沖天之際,囤積了大量 GPU 來挖礦

CoreWeave 聯合創辦人暨執行長 Michael Intrator 受訪時指出,當時他與金融業的朋友不過想賺點外快,便將主意動到 GPU頭上,「在加密貨幣價格飆漲時,我們週一購買的 GPU,週四便能回收成本。」但熱潮過後 Michael Intrator 與夥伴手上已有數百塊不知如何處置的 GPU

當加密貨幣價格在 2018 年和 2019 年暴跌時,CoreWeave 才開始專注於 AI 等運算需求較不易受市場波動的領域。去年第二季,就在 Stable Diffusion 和 Midjourney 等熱門生成式 AI 圖像軟體爆紅前,CoreWeave 早在 NVIDIA 最新的 H100 晶片上投入了大量資金。「我們當時以為花費 1 億美元採購 5000 片會是冒險的決定,如今我們知道當初採購 5 百萬片都不為過。」Michael Intrator 說道。

近期 CoreWeave 獲得新一輪 23 億美元的債務融資,用於組建其新的數據中心。 NVIDIA 執行長黃仁勳也在最近一次公司的財報會議上指出:「未來市場上會看到更多新生的 GPU 專業雲服務提供商,而 CoreWeave 目前是當中的領頭羊。

 

*本文開放夥伴轉載,參考資料:《華爾街日報》《TechCrunch》《巴倫週刊》。首圖來源:取自CoreWeave

(責任編輯:廖紹伶)