隨著生成式 AI 正在顛覆全球企業的產品開發與服務模式，越來越多企業逐步從實驗階段邁向實際部署，AI 模型推論的應用成為提升競爭力的關鍵，也讓企業需要兼顧創新靈活性與資料安全的管理策略。面對這些挑戰，NVIDIA、Google Cloud、AppWorks 首次針對開發者技術層面，將在 10 月 18 日聯手舉辦 「GenAI Startup Tech Day」，活動集結 NVIDIA、Google Cloud 等 AI 技術大廠專家與卓越新創業者分享生成式 AI 實際案例，以及技術、應用及部署之最佳經驗。TechOrange 科技報橘特別在活動前採訪到 NVIDIA 新創與創投夥伴關係經理李昇達以及 NVIDIA 資深開發者關係經理黃威仁，請兩位博士先透露一些「GenAI Startup Tech Day」的精彩內容。
NVIDIA 新創與創投夥伴關係經理李昇達表示，NVIDIA 在 Inception Program 新創鏈結計畫，就以豐富的技術資源深度協助有加速計算需求或是開發 AI 相關應用的新創企業，「我們希望藉由這場活動，讓與會者了解 NVIDIA 、Google Cloud 在生成式 AI 這個領域提供軟體、雲端的服務，如何協助企業打造新應用，並和大家討論生成式 AI 最終部署在產品階段時面臨的挑戰，以及業界實際的應對方式。」
聊到 NVIDIA 即將在「GenAI Startup Tech Day」分享哪些厲害的 AI 技術與資源，李昇達歸納為三大面向：首先，NVIDIA 今年推出「NVIDIA NIM」推論微服務，與會者將能夠洞悉這個解決方案，以及使用時機、如何展開應用；其次，NVIDIA 將暢談全世界正在發生有趣且具備潛力的 AI 應用案例，能夠助企業以更廣闊的視野規劃產品。另外，李昇達也預計分享 NVIDIA Inception Program 的具體內容，包括「我們對於新創合作的資源、模式，還有各種合作的結果，也期待在活動下半場的兩個 Session，讓與會者了解計畫樣貌。」
「透過 NVIDIA 和 Google Cloud，希望帶入全球性的視野，讓台灣的新創企業敢做一個全球夢，」李昇達觀察，台灣新創對於吸收新技術、轉化為自己技術的能力傑出，只要擁有一個明確目標，衝刺力道就會非常強勁，不過在設定目標或者是策略規劃方面較缺少資源，而 NVIDIA 擁有多個全球大型企業夥伴，可以提供台灣新創躍上國際所需的機會和資源。
李昇達也觀察到，國內外蠻多新創或中小企業看見 NVIDIA 某些實際案例，想要進一步嘗試應用 NVIDIA 工具或軟體，卻時常不知道如何開啟合作，「所以我們在 GenAI Startup Tech Day 集結 NVIDIA、Google Cloud 專注協助新創的夥伴們一起聊合作經歷，並傳遞 NVIDIA 非常願意提供資源幫助新創的理念。」
中小企業及新創，如何以較低成本極大化生成式 AI 部署？
專門協助各領域 AI 開發者、提供技術諮詢與專業支援的 NVIDIA 資深開發者關係經理黃威仁，也將於「GenAI Startup Tech Day」展示如何在生產環境部署生成式 AI。黃威仁表示，NVIDIA 看到業界在開發過程中常見的挑戰，「第一個，企業部署時需要考慮生成式 AI 的執行效率，因為它直接影響 ROI（投資報酬率），每個企業想要部署生成式 AI 的時候，會考慮需要花多少錢、可以為公司帶來什麼樣的效益，這也是在很多企業決定是否落地應用的衡量標準。在生成式 AI 方面，我們的目標就是讓企業用最少資源成就最大效果，執行最多的生成式 AI 推論或應用。」
第二個常見挑戰就是生成式 AI 的安全性、保密性。黃威仁指出，台灣製造業、金融業對於資料與應用的安全性、保密性非常在意，「例如有一個理財機器人要服務客戶關於金融的問題，今天客戶講出比較不相關的問題，生成式 AI 的應用要如何阻擋，同時避免洩漏資料庫裡面不應該讓客戶可以得到的資訊，這些都是開發生成式 AI 的重點考量。」
而在技術層面，NVIDIA 從前端開發到後續部署有哪些技術創新？黃威仁表示語言模型發展快速，從單純的語言模型，到後來的 RAG（檢索增強生成）架構，以及多模態模型，大家已經可以想像 ChatGPT 可以理解圖片，業界現在的開源模型也能夠理解語音、圖像、影片。另外，隨著更多開發者發現單一 AI 模型有時無法解決問題，因此發展多個 AI 模型解決一個問題的框架，即多代理系統（Multi-Agent System），「這些其實都是技術演進，大家開始創造一些新科技與技術。」
黃威仁分享，從開發生成式 AI 到實際部署，運用「NVIDIA NIM」服務將能夠提升效率，目前和碩聯合科技與長庚醫院也有成功導入的經驗。然而相較大型企業，資源有限的新創企業、中小企業如何順暢採用 NVIDIA NIM 服務？黃威仁指出，新創與中小企業使用 NVIDIA NIM，可能還沒有預算購買一台資料中心規格的設備，但是現在可以透過雲端的方式部署，「這也是為什麼我們在 GenAI Startup Tech Day 活動是跟 Google Cloud 一起合作，因為 Google Cloud 提供一個非常好的雲端平台解決方案，讓新創企業在不需要一次投入那麼多資金的前提下，能夠以 NVIDIA NIM 加上 Google Cloud 平台部署生成式 AI 應用。」
即將在 10/18 舉辦的「GenAI Startup Tech Day」也將邀請到台灣新創企業亞太智能機器（APMIC）、鑫蘊林科（Linker Vision）分享部署生成式 AI 的成功經驗。立即免費報名「GenAI Startup Tech Day」，在 Google 板橋研發辦公室一起與會交流！
