由英特爾前員工創立的 AI 基礎架構新創 Delos Data 近日宣布，已完成 1 億美元募資，將投入開發網路晶片與軟體，提升 AI 資料中心內部的資料傳輸效率。《Reuters》報導，隨著 AI 資料中心的運算架構日益複雜，如何讓不同種類的運算晶片高速交換資料，成為影響整體運算效率的重要因素。
此次募資由創投與科技投資機構參與，包括深科技創投公司 Playground、半導體領域創投 Socratic Partners、Matter Venture Partners，以及 Capricorn 旗下 Technology Impact Fund 等。
從模型訓練到 AI 代理：應用轉型帶動資料中心底層架構洗牌
《Reuters》指出，AI 熱潮初期的資料中心主要由 NVIDIA GPU 組成，並搭配 NVIDIA 的專有網路技術連接各項設備。然而，隨著 AI 應用逐漸從訓練模型，轉向讓 AI 代理代替使用者執行各類任務，資料中心的運算需求也開始出現變化。
在此趨勢下，資料中心不再只依賴單一類型的 GPU。包括 Cerebras Systems、AMD 等 NVIDIA 競爭者逐漸取得市場進展，NVIDIA 本身也開始提供多種不同類型的運算晶片。運算架構日益多元，也讓不同晶片之間的資料傳輸與協同運作更加重要。
Delos Data 的核心產品便是針對這項需求設計。公司開發由網路晶片與軟體組成的系統，希望讓資料中心內不同種類的運算設備能夠高速交換資料，同時保留架構彈性，讓業者可以因應現在或未來採用的不同晶片組合。Delos Data 技術長暨共同創辦人 Dan Daly 表示，目前無法確定下一代代理式 AI 將採用什麼樣的基礎架構，但公司希望提供最快速的資料傳輸方式。
別讓傳輸拖垮 AI 投資回報，揭加速器生態系統整合重要性
曾任英特爾執行長、目前擔任創投公司 Playground 合夥人的 Pat Gelsinger 指出，運算晶片因等待資料而閒置，是 AI 資料中心中資金與能源浪費的重要來源。即使資料中心擁有大量運算晶片，若設備之間無法有效溝通，這些昂貴硬體仍可能處於耗電、發熱卻沒有充分運作的狀態。
Delos Data 另外宣布推出 Nonstop AI Reference Architecture，搭配 Delos Nonstop AI Data Interface，主打將延遲降低 10 倍、效率提升 10 倍。該產品與公司今年稍早推出的 Nonstop AI Clusters 及 Nonstop AI Server 組成完整方案，讓客戶可依需求整合不同硬體、AI 模型與拓撲，並在同一資料域中協同運作。
創投機構 Socratic Partners 普通合夥人暨共同創辦人 Christian Gallagher 表示，AI 推理叢集的投資報酬率，如今不僅取決於運算能力，也取決於加速器之間的資料傳輸效率，以及業者為因應設備故障而必須預留的閒置資源。他指出，Delos Data 團隊具備資料中心晶片開發經驗，產品可與既有 GPU 及加速器生態系統整合。
＊本文開放合作夥伴轉載，資料來源：《Reuters》、Delos Data，圖片來源：Delos Data。
