近幾年,企業逐步將生成式 AI 從實驗階段轉向部署,並擴展應用到各個層面,而 AI 模型推論的應用更成為提升競爭力的關鍵,企業需要兼顧資料安全與創新靈活性的管理策略。NVIDIA、Google Cloud 與 AppWorks 在 10 月 18 日聯手舉辦 「GenAI Startup Tech Day」,集結 NVIDIA、Google Cloud 等技術大廠與 AI 新創專家,分享如何部署並擴展生成式 AI,以及借力先進工具實現產品效能的提升。

「我們想要透過新創,讓全球看到更多 AI 應用,」NVIDIA 資深開發者關係經理黃威仁表示,NVIDIA 期待見證新創等企業正式導入、部署生成式 AI,並打造更貼近使用者的 AI 解決方案。不過企業在生產環境部署生成式 AI,往往面臨需要確保準確性與可靠性、建置靈活架構、考量投資報酬率、進行複雜模型測試驗證,以及達成企業安全治理等挑戰。而導入 NVIDIA 完整的服務,將能協助企業克服挑戰,例如運用 NeMo Curator 處理資料,透過 NVIDIA NIM、NeMo Customizer、NeMo Evaluator 分別進行語言模型推理、模型訓練、模型測試與驗證,「NVIDIA NIM 更能夠實現提高 AI 模型推論速度至 5 倍。」

Google Cloud 客戶解決方案架構師林宜輝分享 Google Cloud 帶來建構生成式 AI 的解決方案,並指出 Vertex AI 是全代管的統合式 AI 開發平台,其三大核心分別為 Model Garden、Model Builder、Agent Builder,可用於測試 Google 專有的模型、探索不同機器學習服務演算法,以及建構部署企業級生成式 AI 服務,Gemini 則是 Google 的生成式 AI 模型,可以根據使用者輸入的內容來推測需求、給予回應。在實際客戶案例上,Snapchat 就利用 Gemini 打造聊天機器人;PUMA 則是以 Google 的生成式 AI 定製發布於官網的產品照片,在印度實現點擊率提升 10%。
APMIC、鑫蘊林科借力大廠技術資源打造智慧應用
APMIC 亞太智能機器創辦人暨執行長吳柏翰表示,早在七年前 APMIC 就投入資源研究語言模型,獲得 NVIDIA、Google Cloud 支持研發後,就開始嘗試部署更先進的解決方案,「APMIC 現在上面的地端模型,其實背後來自 NVIDIA NIM。我們在 CaiGunn(APMIC 自行打造的在地化大型語言模型)和不同的平台上面有部署 NVIDIA NIM,它非常大的好處是速度夠快,同時也解決佈置底層環境有時不同套件會面臨的衝突問題。」
「我們不只獲得 NVIDIA 的技術支持,也能夠快速達到 Go-To-Market,」聚焦視覺 AI 技術的 Linker Vision 鑫蘊林科共同創辦人暨技術長郭韋廷強調,鑫蘊林科借力 NVIDIA Metropolis 影像分析解決方案訓練模型、開發架構,實現更精準的視覺服務,以滿足客戶需求。郭韋廷說明,在現實生活中取得影像資料並不容易,一般情況下可以透過開車、啟動無人機等方式收集道路影像,但車禍、行道樹倒下等特殊情況資料,就需要藉由 NVIDIA Omniverse 模擬平台取得,「我們做一個 Vision AI Project 一定要先收集資料,目標可能是要探測斑馬線,因此也運用 nv-grounding-dino 開放式模型,這個模型的好處是看過夠多資料,只要輸入篩選條件就會幫你找出目標照片。」
NVIDIA、Google Cloud、AppWorks 助新創企業提升開發能量

NVIDIA 新創與創投夥伴關係經理李昇達表示,NVIDIA Inception Program 是一個 Global Program,對全球超過一百個國家、兩萬三千家新創公司提供技術協助,「新創公司如何加入 NVIDIA Inception Program?其實可以從三個部分判斷。第一,可以聚焦在自家產品情境的建構,並保持對 AI 各項技術的了解,加入計畫後可以勾選感興趣的領域,獲得 NVIDIA 在全球與這個主題相關的訊息與實際案例資訊;第二,如果新創對 AI 感興趣,或認為 AI 在未來有機會幫助到公司發展,同樣適合加入計畫;第三,假如已經完成自己的產品,已經使用某些開源軟體、AI model,但新創可能覺得表現不夠好,想要了解 NVIDIA 工具如何增進效能、解決複雜計算問題,也歡迎聯繫 NVIDIA 新創計畫來討論。」

Google Cloud 新創業務代表王運翔分享,Google for Startups Cloud Program 提供新創企業財務、技術、商業三大面向的支援,「最重要的財務支援,Google Cloud 提供四種方案,如果你是成立五年的企業、正在嘗試建立 MVP,目標是找到產品市場,就適合申請方案一,將能獲得 2,000 美金的 Google Cloud Credit;在計畫中,Google Cloud 也提供技術支援的團隊,我們會跟你討論架構設計與優化、如何將資金用在刀口上;商業支援的部分,我們作為全球企業,可以協助參與者找到更多曝光、異業合作、投資等豐富機會。」

「新創能夠成功,是因為具備前瞻性的創辦者、充足的資金,以及好的團隊與人才,」AppWorks 校友關係經理周俞廷表示,根據這三項關鍵,AppWorks 發展新創生態系、成立加速器,在 AppWorks 的創業者社群,成員已包含超過 600 間的活躍新創,將近三分之一的團隊聚焦 AI 在不同產業的應用,AppWorks 也透過自己的創投基金提供企業必要的啟動經費,「AppWorks 管理四支創投基金總共募集 3.5 億美元,所以只要是新創企業,都有機會爭取、獲得 AppWorks 提供的投資。」
新創企業如何成功募資加速推進市場?

「我們有機會去美國 Google 進行 Demo,讓技術大廠知道你做了哪些事情,」APMIC 亞太智能機器創辦人暨執行長吳柏翰表示,APMIC 將產品推進市場並不容易,自己領悟到將大型語言模型和業界需求對齊是個大挑戰,而非只有技術方面的溝通,因此展開研究並持續修正產品,在獲得 NVIDIA 新創計畫、Google Cloud 的支援後,也極力爭取曝光機會,「我們一路在走,很榮幸與 NVIDIA、Google Cloud 成為合作夥伴,做這個行業你會發現一件事,研究真的不是 20 個人可以做起來的事情,但是 NVIDIA、Google 背後大量研究的團隊是上千人的,我就發現其實很多東西可以跟他們學習,甚至做到產品上再推進市場。」
「我相信所有新創企業都是為了解決一些特定、自己覺得有價值的問題,才開始出來創業,」專注室內空間 AI 運算設計的 HOMEE AI 睿締國際科技技術長張鈞凱也表示,HOMEE AI 爭取投資時,花費很大的力氣定義目標以及期望解決的議題,再進一步思考 HOMEE AI 從發現議題到執行任務需要進行哪些事情,並找到中間共同創造的價值,才與創投、客戶分享自己提供的解決方案,轉譯技術帶來的價值,「創投或高資產的客戶會很在意你的解決方案、技術如何在實際產業中落地,所以我們確實運用很多精力調查產品市場契合度(Product market fit)。」
NVIDIA 新創與創投夥伴關係經理李昇達觀察,台灣新創企業非常愛惜自己的生意,以及親手研發的成果,所以上台發表時會分享自己覺得重要的內容,卻往往讓第一次聽見新想法的投資者感到難以負荷,「所以我們最常做的事情就是成為新創企業的翻譯機,把這間新創企業最重要想要解決問題的情境、產品運作情境,透過第三者的角度向創投或是戰略合作夥伴詮釋,他們想知道這間新型公司解決的問題、帶來的價值和影響範疇,而非新創企業過去的背景,這樣話題才可以延續得很順利。」
Google Cloud 客戶經理林育信則指出,美國投資者真正期待聽見的提案內容,是新創企業是否具備足夠的連結與信任基礎,「例如你想跟 Google、NVIDIA 合作的時候,不是只有想跟我們拿 Credit,下一步還要思考自己的解決方案如何跟隨整個專案軌道、認識有人脈的團隊,這也關乎你們本身的股權分配。當你獲得好的資金後,你要知道對方想得到什麼,例如在短線還是長線投資、怎麼出場、出場機制是什麼,以及最後希望的獲利。」林育信同時建議新創企業提供包含產品規模化、投入市場、目標受眾等關鍵元素在內的商業計畫,「不管是小或大,你要告訴投資者『我可以怎麼賺錢』。」
想了解更多 NVIDIA 與 Google Cloud 提供的資源,立即前往:



