AI 正在引領未來的科技發展，其中生成式 AI 更將使 AI 無所不在。聯發科技先進的運算技術，將從邊緣裝置端到雲端，推動無所不在的混和式 AI 運算。我們的四大支柱包括 ( 1 ) 從邊緣至雲端的各類高性能運算單元、( 2 ) AI 加速器所需的各類領先技術、( 3 ) 實現邊緣至雲端混合式 AI 的先進無線網路技術，以及 ( 4 ) 堅強的全球生態系及供應鏈長期夥伴合作關係。
從邊緣至雲端的各類高性能運算單元( xPU : CPU、GPU、NPU、Cloud AI Accelerator )
- 聯發科技在過去五年間不斷突破，行動晶片 CPU 性能提升 2.6 倍、GPU 性能提升 6 倍、NPU性能更大幅提升 18 倍，且系統功耗在重度遊戲和 AI 攝影的應用場景中減少 60%。這顯示了我們在技術創新和能源效率的領先實力。
- 我們最新發表的旗艦手機晶片天機 9300+ 的 NPU AI 運算能力已達到 68 TOPS，比現今對AI PC NPU 要求的 40 TOPS 還要高。
- 聯發科技將高性能運算延伸至汽車智慧座艙晶片，並與 NVIDIA 合作，結合聯發科的高性能運算及 NVIDIA 在 AI 和繪圖運算的領先優勢，將進一步提升新產品的 CPU 及 AI 性能，針對大語言模型提供更低的延遲和更好的使用者體驗。
- 此外，聯發科技將把在邊緣運算長期耕耘的優勢延伸至雲端。Arm CEO Rene Hass 更親自到場，提到 AI 所帶來技術影響力相當廣泛，聯發科技與 ARM 的合作關係將會是抓住這個市場機會的關鍵。我們也宣布將透過 Arm Neoverse 運算子系統( CSS )，加速在雲端運算晶片的設計與開發。
掌握 AI 趨勢 & 活動資訊一點都不難！訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
AI 加速器所需的各類領先技術
- 因應快速增加的 AI 訓練與推論需求，雲端服務供應商除了積極佈建資料中心，也尋求更客製化的解決方案以優化特定領域性能，並降低總擁有成本( TCO )，我們預估客製化 AI 雲端運算的市場規模將自去年約 76 億美元成長至 2028 年的 450 億美元，其中大多數為 AI 加速器。
- 聯發科技擁有許多內部開發的雲端 AI 客製化晶片解決方案的 IP，在雲端運算領域佔有利基性的市場定位，並且能幫助雲端廠商降低總擁有成本( TCO )。這些技術包括Interconnect SerDes、UCIe、D2D 及 Optical 等高速傳輸介面 IP。此外，我們在 3 奈米及接下來的 2 奈米先進製程、2.5D / 3D Chiplet 先進封裝，以及 HBM 等技術方面都具堅強的開發及整合能力。
- 其中，在雲端運算領域中最為關鍵的SerDes技術是由聯發科技內部開發，在2022年推出112G技術後，我們在2024年已擁有市場最先進的224G IP，未來也將持續開發400G及CPO的能力。我們將致力於提供可持續、可擴展，且具能源效率的解決方案，提供客戶優異的AI加速器解決方案。
實現混合式 AI 的先進無線網路技術
- 未來 AI 運算在邊緣端及雲端都需進行佈署，且為了有效發揮混合式AI的優勢，邊緣端與雲端間需建立高速、可靠的連結，而聯發科技具備所有的關鍵有線及無線連結技術。例如在5G，我們已將技術由手機延伸至 FWA、PC、汽車及物聯網裝置等，另外還有 5G RedCap、5G NTN 衛星寬頻、Wi-Fi 及乙太網路等無線及有線連結技術。
- 在混合式 AI 的架構之下，AI 將會無所不在。例如可進行語音互動並能不斷學習與進化的 AI 個人助理，及在車內直接執行大語言模型的車載語音助理，能夠進行多螢幕互動並偵測駕駛警覺性。這些都是 AI 可能帶來的深刻變革，改善使用者生活效率及品質。
- 現場聯發科技也展示了生成式 AI 應用，例如照片物體移除、背景生成，以及即時的生成式AI動畫與圖片生成等，也透過即時生成式 AI 功能，生成輝達執行長黃仁勳的背影，介紹他上台。
堅強的全球生態系及供應鏈長期夥伴合作關係
- 我們也積極與全球 AI 產業領導者合作，包括 Arm、台積電、輝達、以及Google、Meta、百川智能及阿里雲的大語言模型等，共同推動無所不在的 AI。
- NVIDIA CEO 黃仁勳親自到場，強調與聯發科技的合作關係對於開發汽車市場的重要性，並提到兩家公司未來在大型語言模型的訓練，及邊緣AI裝置等領域會有更多的合作機會。
【延伸閱讀】
◆ COMPUTEX 2024 Arm CEO 主題演講 – 加速從雲到端的創新
＊本文訊息、圖片由 聯發科技 提供。新聞稿 / 產品訊息提供，可寄至：[email protected]，經編輯檯審核並評估合宜性後再行刊登。
