宣稱減少 20 倍 AI 耗電量,EnCharge 為何獲得台積電高度關注?

宣稱減少 20 倍 AI 耗電量,EnCharge 為何獲得台積電高度關注?

過去不太為人所知的半導體新創公司 EnCharge AI,近日宣布獲得 Tiger Global 所領投的大額融資,籌得超過 1 億美元資金,刺激公司未來繼續成長。

然而,這筆融資之所以意義重大,一方是因為產業界對於 AI 發展,仍然保持著高度興趣,另一方面則是由於 EnCharge 本身所展現出來的實力;許多公司都希望藉由他們的技術,降低 AI 運算設備的高昂成本。

總部位於加州聖塔克拉拉的 EnCharge 宣稱,他們所研發的 AI 加速器產品,若是跟市面上其他晶片相比,執行 AI 工作運算時所消耗的能源,將可以大幅減少達 20 倍,甚至最快於今年稍晚,第一批自主研發的 AI 加速器就會正式上線。

EnCharge 的驚人技術引發科技產業界高度興趣,甚至包含半導體製造龍頭台積電。EnCharge 執行長兼聯合創始人 Naveen Verma 指出,新創團隊不僅獲得台積電長期關注,甚至還被允許使用台積電提供的先進資源,台積電更將成為生產首批 EnCharge AI 加速器的代工廠。

加速 AI 處理速度,降低運算成本

隨著美國政府逐步將 AI 硬體製造和基礎設施拉回國內,EnCharge 為 AI 產業所研發的技術和產品,將有機會成為美國半導體戰略組成的關鍵部分。

出身自普林斯頓大學的 EnCharge 相信,透過自主研發的「類比記憶體晶片」(analog memory chips)產品,將可以有效加速 AI 運算處理速度,同時降低能源消耗成本。

此外,類比記憶體晶片也可以嵌入筆記型電腦、桌上型主機、手機和穿戴式裝置等設備,為終端消費者帶來更流暢的 AI 體驗。

有別於其他競爭對手,大多都將目光都集中在伺服器端,主要用於訓練和 AI 推理的處理晶片,並且使 NVIDIA、AMD 等 GPU 大廠的業務遽增,EnCharge 更專注在類比晶片的發展。

善用類比晶片的物理特性

根據 IBM 研究團隊所發表,一篇關於類比晶片的論文中所給出的解釋,由於消除了運算單元與記憶體之間的隔閡,類比晶片相較於傳統處理器產品,在能源利用方面擁有更高效率,進一步降低了 AI 運算所必要的支出成本。

無論 IBM 或 EnCharge 都指出,類比晶片所帶有的物理特性,使它們特別適合用於 AI 推理運算,但並不適合用在 AI 訓練上。

因此,EnCharge 自主開發的 AI 加速器,主要是為了讓邊緣設備,如電腦、手機等,高效率執行 AI 任務所打造,IBM 和其他公司則在繼續研究不同演算法,希望擴大類比晶片的使用情境。

抵抗雜訊,設計完整解決方案

EnCharge 並非全球唯一一家專注於類比晶片開發的公司,參與同類產品競賽的新創企業,還包括 Mythic 和 Sagence 等。EnCharge 執行長 Naveen Verma 表示,目前開發團隊所達成的關鍵突破,主要在於為晶片設計導入了抗雜訊的能力。

Naveen Verma 說,一塊晶片上如果擁有 1000 億個電晶體,自然就會產生十分大量的雜訊,為了讓訊號更乾淨,晶片設計者自然會希望訊號之間彼此分離,但分離訊號就會導致晶片運作效率有所損失,EnCharge 所做的事情就是透過類比方式處理,使晶片訊號不再對雜訊過度敏感。

此外,EnCharge 本身所承擔的業務,其實並不限於開發硬體,公司同時也開發出了配套軟體,力求成為一家全方位、擁有完整解決方案的晶片設計公司。

鴻海、中信、清華參與創投

除了執行長 Naveen Verma 之外,EnCharge 還擁有其他領導者,即營運長 Echere Iroaga,以及技術長 Kailash Gopalakrishnan,他們分別曾於半導體公司 Macom 和 IBM 工作,投入開發團隊至今已為 EnCharge 貢獻了許多專業知識。

由左至右分別為 EnCharge 營運長 Echere Iroaga、執行長 Naveen Verma,以及技術長 Kailash Gopalakrishnan。

由 Tiger Global 所領投 1 億美元融資,成員包含來自台灣鴻海集團與中信金控,共同注資的私募基金和順興(HH-CTBC),以及清華大學 Capital TEN、韓國三星創投等數十家企業、創投;先前 EnCharge 甚至就已經接受過來自星座能源、DARPA 等單位的大筆資助。

根據 PitchBook 數據顯示,經過融資後 EnCharge 的公司估值大約落在 4.38 億美元,但 Naveen Verma 表示,該數字其實還有所低估。

產業界希望看見真正的突破

投資公司 Anzu Partners 半導體領域專家 Jimmy Kan 指出,跟 EnCharge 在相似領域發起競爭的新創企業,目前統計起來大約有 50 多家,其中大約每 5 家就有 1 家,就是想透過類比晶片或其他半導體技術,創新 AI 處理器的基礎架構。

Jimmy Kan 說,無論產業界或新創公司,其實都希望看見真正與眾不同的 AI 運算技術問世,而非現有技術循序漸進的長期發展,更不是由 NVIDIA 所主導,未來於某個時間點才準備對外公布的私有科技,因此 EnCharge 目前所取得的進展,確實令外界感到非常振奮。

更加特別值得一提之處,在於 EnCharge 所選擇的公司發展路徑,跟過去幾年許多力求打造「深度科技」的新創企業,形成了十分鮮明的對比。

回顧以往 25 年來,全球科技業所出現的連鎖效應之一,就是由於充足的創投資金,使得許多投資者、風險基金等,全都希望快速找到下一個 Google、微軟、蘋果、Meta 或亞馬遜。

然而在科技業閉著眼睛大撒鈔票的情況下,有一些「聰明」的技術投資者,並非是為了「成果」發起融資或募資,僅僅是為了實驗他們腦中「有趣的構想」;只不過,這些構想距離實踐卻還有著一大段距離,因此被業界納入了「深度科技」領域,量子運算就是個典型案例。

晚一步登場,只為讓技術更成熟

如果 EnCharge 選擇提前離開普林斯頓大學,積極尋找創投資金或其他合作者,那麼該公司的晶片產品就有可能成為「深度科技」的一員,但是 EnCharge 卻沒有這麼做。

EnCharge 在學術單位花費近十年時間,大力對新技術投入研究,直到 2022 年才決定解除隱蔽狀態,開始尋找商業合作夥伴跟創投資金,同時繼續開發旗下技術和相關產品。

對此 EnCharge 聯合創始人 Naveen Verma 表示,相對於某些創新技術,可以在早期就獲得創業投資者的支持,一項準備從源頭改變根本的革新科技,就需要研究團隊更為深入的理解,降低未來產品出現失敗的風險。

Naveen Verma 說,畢竟從接受他人投資的那一刻開始,開發團隊的目標就會改變,不再是為了「技術」而投入研究,而是改以「顧客」為中心,這就是為什麼直到現在公司才願意走上舞台。

【推薦閱讀】

◆ Meta 傳想收購的新創 FuriosaAI 是誰?晶片效能稱比 NVIDIA H100 高 3 倍

◆ 效能媲美 NVIDIA,耗電僅 1/3!新創 Positron 獲融資 2,350 萬美元

◆ Arm 首款自研晶片將在今年推出!親自下場造晶片有何優勢?

*本文開放合作夥伴轉載,資料來源:《TechCrunch》《EnCharge AI》。首圖來源:EnCharge AI