Search
Close this search box.

一台小主機運算 2 千億 AI 參數,NVIDIA 攜手聯發科推出個人超級電腦

一台小主機運算 2 千億 AI 參數,NVIDIA 攜手聯發科推出個人超級電腦

在美國拉斯維加斯所舉辦的 CES 大會上,NVIDIA 攜手聯發科共同推出「個人 AI 超級電腦」Project Digits;雖然主機本身只有手掌大小,但 NVIDIA 表示 Project Digits 可以運算擁有 2000 億參數的 AI 模型,專為 AI 研究人員、資料科學家與學生所打造。

跟 AI 互動將更直覺!Gartner 預測到 2027 年,40% 生成式 AI 解決方案將是多模態

>> 免費下載《2025 趨勢觀察報告》看 AI 趨勢 <<

單 SoC 提供 1 PFLOPS 的 AI 算力

聯發科表示,Project DIGITS 採用了公司與 NVIDIA 合作設計 GB10 Grace Blackwell 超級晶片,該 SoC 可以在 FP4 精度下,提供高達 1 PFLOPS 的 AI 運算效能,並希望借助這項產品跟 NVIDIA 共同開啟超級運算的創新時代,讓 AI 變得無所不在。

NVIDIA 執行長黃仁勳則指出,隨著 AI 時代來臨,聯發科業界領先的 CPU 性能與能效,將可以跟 NVIDIA 的加速運算技術協同組合,並透過新設計的 GB10 超級晶片,讓 Grace Blackwell 平台變得更容易接觸、取得,使開發者、研究者及學生,皆能利用它來解決最迫切 AI 運算問題。

並聯還可運算 4000 億參數模型

根據 NVIDIA 說法,單一 Project Digits 主機支援運算多達 2000 億參數的 AI 模型,同時內建一顆 20 核心 Grace CPU,並透過 NVLink 技術連接到 Blackwell GPU,主機共擁有 128GB 統一記憶體,以及最多 4TB 的 NVMe SSD 儲存空間。

若是在特定情況下消費者有所需求,NVIDIA 表示,他們甚至可以把 2 台 Project Digits 主機連接在一起,藉此運算高達 4050 億參數的 AI 模型;此外,Project Digits 電腦既可以獨立運作,亦能夠連接至 Windows 或 Mac PC 負擔人工智慧運算任務。

要價台幣近 10 萬,黃仁勳認為有市場

Project Digits 被 NVIDIA 稱為「個人 AI 超級電腦」,但相對於之前所推出的微型開發板 Jetson Orin Nano Super,售價方面確實貴上許多,上市即要價 3000 美元,折合約新台幣 10 萬元。

Project Digits 預計會採用由 NVIDIA 所開發,基於 Linux 的 DGX 作業系統,最快今年 5 月就會從 NVIDIA 的頂級合作夥伴通路發售。

黃仁勳認為,雖然不是每個人都有能力負擔起一台屬於自己的 Project Digits 主機,但考慮到它的應用前景及強大算力,這台裝置應該還是有著一定的應用市場。

【推薦閱讀】

◆ 機器人普及化關鍵來了!NVIDIA 推低成本微型電腦,僅 8 千元就能驅動 AI 機器人

◆ 最便宜 AI 超級電腦?外媒評 NVIDIA 宣傳「厚臉皮」專家稱輝達正搶佔先機

◆ AI PC 引發史上最激烈競爭,Intel、蘋果、NVIDIA 各家都有哪些優勢?

*本文開放合作夥伴轉載,資料來源:TechCrunch》、聯發科技。首圖來源:YouTube