麗臺科技 ( Leadtek )自 6 月 4 日起至 6 月 7 日於 COMPUTEX 2024 展出一系列液冷 AI 工作站和 AI 伺服器，以及 AIDMS（AI開發管理平台）助力產業 AI 落地案例，傾全力助 AI 全民化。
過去，AI 似乎是大企業的專利，需要昂貴的設備和高超的技能，但隨著生成式 AI 和 AIDMS no-code AI 管理平台等工具的親民化，現在任何人都能輕鬆運用 AI 技術，創造出無限的可能性。
掌握 AI 趨勢 & 活動資訊一點都不難！訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
不同規模AI訓練適用的液冷系統
在麗臺科技攤位最顯眼的就是採用 D2C 液冷技術的 AI 伺服器和工作站。麗臺推出的 AI 系統，支援最新的 Intel / AMD 平台、PCIe Gen5，其 NVIDIA GPU 配置從單一到十個 GPU 都有，可用於不同規模的加速運算和多 GPU 協同合作，包括生成式 AI、大型語言訓練、數位孿生以及工業元宇宙等應用領域。
這次曝光的新品 WinFast Mini AI 工作站專為全民 AI 化打造。最高可支援 2 張高階 NVIDIA RTX Ada Lovelace GPU，同時提供更高瓦數電源供應器，為 NVIDIA 下一代 GPU 做好準備。再加上液冷散熱技術，能更有效降低 GPU 溫度並提供安靜的運作環境，適合沒有獨立大型機房的場域使用。集結高效、安靜、高彈性於一機，WinFast Mini AI 工作站將會是全民 AI 化的殺手級 AI 工作站。
WS2050L 則採用 5U 機架式塔式設計，一體式液冷設計無需外接液冷管路，可容納多達4張液冷式NVIDIA RTX GPU，並搭載雙Intel Xeon第5代可擴充處理器，提供高達128個處理器核心。配置上可直立於機房或安裝於伺服器機櫃中，達到節省空間、易於維護和提高管理效率的目的。
有著穩健外型的 8U HGX AI server 是結合 8U 尺寸與 NVIDIA H100 SXM5 8-GPU 組態的伺服器，適用於 LLM 使用。CPU 搭配英特爾第五代 Xeon 可擴充處理器，記憶體升級為 DDR5-5600MHz，容量最大可達 8TB，網路介面則支援 2 個10GbE 埠，另可搭配高速網卡，提供高速連接和優異的網路性能。
同場展出的液冷 AI 伺服器 GS4850T 為 4U 外型，可安裝 10 張雙寬度 GPU，並搭載 Dual Root 系統，並擁有 Peer to Peer 超高效率 GPU 間資料傳輸，並支援 PCIe 5.0，提供每秒 128 GB 的總頻寬。
值得一提的是，麗臺為 AI 系統提供了相容性最高的 Leadtek RTX AI Software Pack 與 GDMS(GPU Docker Management System ) GPU 資源分配與管理系統。讓客戶在取得硬體設備後，無需額外投入時間來選擇與調教相關 NVIDIA Library 與 Framework、驅動程式以及Docker 等環境，即可輕鬆地開始 AI 應用的開發工作與 GPU 資源的分配及管理。
MLOps no-code 平台, AI 落地的最後推手
麗臺科技自主研發的 AIDMS（AI開發管理系統），是一個底層專為團隊協作而生的 MLOps 管理平台。
在養殖漁界享有盛名的光速點苗( LumiGood )開發團隊光速海盜，在麗臺攤位分享水產養殖業的AI 轉型之路。在麗臺 AIDMS 的幫助下，從一開始的毫無頭緒到享受 AI 帶來的便利，只有短短6個月時間。
光速海盜總監朱禹諾分享：台灣養殖漁業世界排名 20，年產值 300 億，但仍依賴人工點苗交易。面對缺工少子化挑戰，我們把這視為轉型契機，推出光速點苗 LumiGood APP，以 AI 技術解決視覺精確性、人力短缺以及交易誠信依據等問題，助力養殖業提升競爭力。
LumiGood 的操作十分方便，只要會用手機拍照，即可快速掌握魚苗數量。而且透過每次的再訓練，AI 自主學習讓準確度再優化，即使是面對體型不同、顏色不同的魚苗或是蝦苗，都能保持準確度在 97% 以上。成功解決養殖漁業的痛點。
在便民的點苗服務背後，是一間熱血的新創公司。光速海盜團隊負責人孫偉強補充：對新創來說，開發時間攸關勝敗，AIDMS 在提升開發速度上超乎我們預期，並有效降低開發成本與難度。在點苗系統的開發中，我們需要訓練大量的魚苗模型，AIDMS 幫助我們將時間縮短至預期的四分之一。另得益於 AIDMS 的 no-code 降低 AI 門檻，剛踏足 AI 開發的團隊可以直接跳過繁瑣和複雜的 AI 環境設定以及程式撰寫時間，成功地訓練出適用的模型，並且根據結果進行修正與優化，使開發過程更順暢。
麗臺科技於 6 / 4~7 在台北國際電腦展（COMPUTEX 2024）展示了覆蓋各種 AI 訓練規模的 AI 硬體和 AIDMS 等 AI 管理軟體，為各種場域 AI 落地提供強大支援。此外，在麗臺的 NVIDIA 認證講師將於現場助參觀者踏出 AI 轉型的第一步。想要了解更多麗臺的產品和合作機會，歡迎至南港展覽館一館四樓 M 區，麗臺科技展位（展位號碼M1001a）與我們深入交流。
【延伸閱讀】
◆ 【外媒盲測 5 款 AI 工具】黃仁勳愛用的 Perplexity 得第一！但其他選手各有強項
＊本文訊息、圖片由 麗臺科技 提供。新聞稿 / 產品訊息提供，可寄至：[email protected]，經編輯檯審核並評估合宜性後再行刊登。
聽台灣 IBM、金屬中心講者解析製造業如何借力 AI 搶佔全球供應鏈！
免費預約收看【AI 智慧大工廠】高雄場演講精華！
