AI 與大數據兩項關鍵技術的結合,為智慧製造帶來前所未有的變革與機會。新立資訊、APMIC、和碩聯合科技分別具備數據資料中台、大語言模型、AI/數位雙生解決方案的堅韌實力,憑藉跨界合作建立生態鏈,助力客戶快速轉型與響應市場需求,並開創嶄新的商務發展。
新立資訊以數據資料中台解決客戶資料孤島、資料熱點、資料清洗的問題
「客戶本身對於數據、AI 整個架構的理解必須特別要去做 Training。」新立資訊總經理連珠芬觀察,近年 AI 的崛起讓科技產業持續將產品推陳出新,但客戶原本具備的 IT 環境往往是傳統架構,為了因應新的資訊技術,就需要訓練更多人力理解架構,並將傳統架構轉型,成為符合目前數據或是 AI 架構的內容。不過傳統產業建置全新 IT 的環境,將會需要更龐大的資金,因此連珠芬建議企業在推動轉型、整合資訊,應具體定義如何往 AI 方面發展,以及期望達到的目標,同時衡量資料保護與安全性,從而制定符合成本效益的策略。

針對客戶在數位轉型與資訊技術整合,所面臨的專業知識、人力、資金等痛點,新立資訊憑藉豐富的實際經驗,助客戶擷取成功模式,更高效地將解決方案延伸應用並驗證。在 2023 年,新立資訊聚焦以數據資料中台解決客戶資料孤島、資料熱點、資料清洗的問題,連珠芬表示:「客戶最常見的問題便是資料孤島,意即企業內部的數據資料無法互通、有效利用。我們可以幫客戶把不同數據孤島的資料全部整合,變成一個數據資料中台,這個中台可以清洗和梳理數據,彙整需要的資料,讓不同部門擁有虛擬入口並擷取不同的資料來源。所以只要是 User 端,無論在後端存取哪一個資料源,在前端就可以即時找到資料。」
企業導入新立資訊的「數據資料中台」,在半導體、製造業等領域已有成功案例。連珠芬指出,其中一個準備數據轉型的客戶尋找顧問夥伴協助,但是對方只看見軟體層面的問題,對於整個硬體平台架構的狀況並不了解,導致轉型效能難以發揮,「後來我們幫他梳理後端 IoT 資料進來的類型與格式,不只幫客戶確認這些資料源是什麼樣的型態,也完成資料清洗、資料整合,還透過高效能的平台提升硬體架構,所以我們是軟體加硬體整合的方案,你在資料進來的時候,就可以完成彙整與分析。」連珠芬說明。此外,在客戶導入解決方案時,新立資訊也會從專業顧問的角度,和客戶各個部門溝通、彙報專案進度,並透過經驗分享,助客戶釐清在哪些地方可以找到內部資料中斷的原因,更藉由教育訓練,讓客戶實現自主管理、維護平台,以及更安全的資料保護。
「AI 一直在走,我們就是跟著它走就對了。客戶在哪裡,我就希望新立可以在哪裡。」連珠芬強調,新立資訊擁有二十多年協助製造業轉型的經驗,起初決定深耕最有力的製造業市場,如今 AI 技術與應用蓬勃發展,新立資訊也期待藉由數據資料中台的經驗,結合 AI、語言模型專家成為生態鏈,在一起打團戰的過程中,提升整體服務範疇與技能,「我覺得 AI 不是打個人戰的遊戲,每家公司都有自己的 Know-How,APMIC 與和碩聯合科技在業界已經非常知名,對新立而言,我們當然會希望可以跟他們成為夥伴,一起打我們最熟悉的市場,我也相信大家都希望把一個案子、一個解決方案建置好,互相汲取經驗,讓我們提供更豐富、完整的解決方案給國內外客戶。」連珠芬表示。
整合數據、硬體、研發支援,APMIC 打造生成式 AI 服務「CaiGunn」
「我們看到新立資訊有做數據資料中台,數據資料中台很重要,因為你的語言模型沒有資料本身,就沒有辦法超出它的價值,所以我們才會很密切的在這塊合作。」APMIC 創辦人兼執行長吳柏翰表示,APMIC 從發展語音助理起家,當時發現很多廠商投入語音助理當中的語意辨識、語音合成技術,但是關於「語意理解」的解決方案較少著墨。在看到新立資訊具備數據資料中台的解決方案,以及和碩聯合科技在機器學習運作的實力後,APMIC 決定開啟進一步的合作,「發展語意理解這塊的機會,就是從解讀非結構化資料文本,到現在的多模態模型都能夠深入應用。」吳柏翰補充。

APMIC 開發的一站式數位大腦方案「CaiGunn」,就是以自然語言理解(NLU)為核心技術所打造的開放性框架。其功能包含資料前處理、微調模型、RAG 技術(檢索增強生成),還能透過獨家 RGAI 技術,建構可信任、抗幻覺、抗毒性的模型,實現負責任 AI。吳柏翰指出,APMIC 在數據、硬體、研發方面擁有豐富的支援度,除了與新立資訊整合獲得數據來源,在硬體資源也和 Dell 合作,另外 APMIC 取得 NVIDIA 的支持,能夠第一優先運用 NVIDIA 套件,「我們特別專注於微調模型那一塊,因為我們是 NVIDIA 的 LLM 獨立軟體供應商,可以就 NVIDIA 的資源,創造比較新的軟硬體整合能力,所以我們把這個框架展開,讓更多夥伴在這個框架上進行應用。」
而談到客戶的具體案例,吳柏翰分享,「CaiGunn」框架目前應用於製造業、金融業、公部門等領域。製造業最常見的應用如制式化管理、Coding 轉換,金融業是導購、客服、顧客分析,在公部門則是審查、分析大量的文本。另外,隨著企業的知識管理擴散至不同場域,以「CaiGunn」框架建立的 AI 工具將能協助企業提升效率,吳柏翰舉例:「營運部門可以提問、確認請假事宜,在 RD 部門也通常可以增加 50% 的生產力,因為我們看 10 頁文獻可能需要一天、半天、幾個小時,但是電腦可能只要 10 秒鐘,所以在快速閱讀上,其實生成式 AI 可以幫助我們非常多。再來就是推理問題,當人類花費 10 到 30 秒左右的時間推理問題,運用生成式 AI 大概 3 秒鐘就完成,這個流程跟速度感其實差距非常多。」
和碩因應 AI 趨勢,布局生成式 AI、數位雙生等應用
同樣觀察到 AI 時代下數據成為關鍵力的和碩聯合科技,分享 AI 發展趨勢的特點。和碩聯合科技核心技術研發中心軟體研發一處資深經理張森皓分析,第一個特點是 AI 的使用越來越平民化,不像過往需要依賴學習高深的知識,工廠的使用者也能透過使用 AI平台 ,發展 AI 相關應用,「其實關鍵就是數據資料中台,現在高度的生產流程裡面,自動化與數位轉型讓我們擁有啟動 AI 的燃料,透過 AI 平台快速進行模型訓練、模型發布,讓 AI 在不同業界的發展越來越指數型成長。」張森皓說。第二個趨勢特點是隨著算力提升,數位雙生技術加速產業效率、開發更多應用,張森皓指出:「所以和碩在這段時間不只發展生成式 AI,更透過數位雙生的技術,以虛實整合與模擬在初期沒有實際硬體就能開發與驗證製造流程,讓整個製造流程還有後面應用發展能夠更快速、更有效率。」在數位雙生面向的應用,張森皓表示:「當過去工廠要建立一條產線必須直接架設產線進行實際演練,但現在透過將數位資產先行架設於虛擬工廠產線,在虛擬工廠模擬效果並優化,最後讓實際產線確認即可,這種應用才可以增加工廠運作的效能,並且是不需要額外花費的。」

張森皓也強調,和碩的 AI 團隊任務是讓企業工廠內部能夠自主維運,並非持續仰賴大量的人才時間,因此協助客戶實現智慧工廠的道路上,和碩借力新立資訊的能力,收集工程資料、圖片、Raw data(原始資料),從而獲得「燃料」,並透過自建 No code / Low code「PEGAAi」平台建立 AI 工廠,讓使用者能夠快速將 AI 智能導入所需要的場域,「我們讓模型訓練從收集資料到標註、產生模型、效能的追蹤都能夠一站式串接,使用者因此可以更快部署至應用場域。建立 AI 工廠之後就是做產線優化跟同步,透過 PEGAVERSE 數位雙生解決方案,也可以加快異地協同的工作,同時讓工廠尚未開始營運,就具備模擬與優化的能力,解決實際上工廠發生的問題。」張森皓說明。和碩聯合科技在 AI 面向的應用除了上述提到的 AI 平台 PEGAAi 外,生成式 AI 的部份也與 APMIC 合作,大幅提升 AI 導入開發效率。
此外,和碩聯合科技作為繁中專家模型開源計畫 Project TAME 發起者之一,也與 NVIDIA、APMIC 等企業合作,以在地化的資料訓練模型。和碩目前已將 Project TAME 應用於公司內部各個領域的需求,透過整合內部產業相關的資料,讓同事廣泛使用工廠日常流程、專業知識的問答,「Project TAME 這樣的模型非常能夠支援在地化,所以台灣的使用者亦可以延伸發展百工百業相關的需求,更快速的達成目標。接下來我們在做的計畫是根據 Project TAME 大語言模型繼續加入在地化,各不同產業類知識,讓我們的模型能夠越用越順,提供給更多企業使用。」張森皓表示。
新立資訊、APMIC、和碩聯合科技透過多年來在數據與 AI 領域的實力,推出一條龍 AI 服務,全程支援企業 AI 轉型之路。展望未來,新立資訊期待與 APMIC、和碩聯合科技合作打連戰,提供客戶更完整的解決方案;APMIC 除了經營台灣製造業市場,也預計在美國金融領域、日本電器業拓展海外商機,以打造普及「人」與「機器」間互動最佳化的願景,全力協助全球企業邁向轉型;因應大環境趨勢發展 AI、數位雙生解決方案的和碩聯合科技,則是期許為客戶加速布局智慧工廠,以更高效能的方式助企業提升解決問題的能力,並創造生產新效益。
>> 立即深入探索新立資訊「數據資料中台」等解決方案:https://osys.com.tw/



