隨著 AI 技術快速發展，越來越多企業開始關注如何將 AI 應用在實際業務場景，以提升決策力並優化營運效率。近期精誠資訊 AI 智能科技服務事業部助理副總經理林宗瀛在 TechOrange 科技報橘舉辦的 AI 智慧大工廠論壇，特別以「讓 AI Agent 看懂數據！打造企業 AI 助理提升關鍵決策力」為講題，深入剖析透過 AI Agent 理解企業數據，從而協助決策者做出更準確商業判斷的具體策略。
「在《鋼鐵人》的電影裡，男主角 Tony Stark 有一個很聰明的 AI 大腦 Jarvis， Jarvis 可以精準回答各式各樣的問題，甚至執行任務，現在這件事情已經不再是科幻，而是可以實際落地的場景，」林宗瀛強調，透過軟硬體的搭配協作，就可以打造出如 Jarvis 一樣聰明的 AI 助理，但是要讓 AI 助理（AI Agent）在企業內部順利落地，有一個先決條件，就是必須看懂企業內部的數據，這些數據不只是一般文件檔案，更包含 CRM、ERP、倉儲管理系統、財務系統等核心數據。
讓 AI Agent 理解企業核心數據的關鍵
如何讓 AI Agent 理解企業關鍵數據？林宗瀛首先從生成式 AI 的概念切入。「生成式 AI 沒有預測能力，它只是一個語言模型而非用來預測，也不是拿來計算，」林宗瀛分析，生成式 AI 因為語言能力突出，所以可以完成很多人機界面的處理與協作。另一方面，現在常見的模型為「通用模型」和「小模型」，小模型是透過微調（fine-tuning）或專門訓練，使其具備「領域專業知識」（domain expertise），讓模型成為特定領域的專家 。
「領域專業知識（domain expertise）與企業專屬知識（proprietary knowledge）是不同的，企業內部每天都在流動更新的商業數據，並不適合也不需要進行模型訓練，而是可以透過特定的方法與大語言模型 LLM 對接後直接使用，」林宗瀛強調，由於企業的商業數據是持續流動更新的，因此即使完成模型訓練，知識也會隨著時間流逝而過時，無法回答最新業務問題 ，所以模型訓練和微調的方法，僅適用於使用場景非常有限、固定且不變的情況，這是目前企業的常見迷思。
VectorRAG 與 GraphRAG：目前企業導入生成式 AI 的主流技術
為了解決 AI 模型無法直接理解企業內部核心數據的問題，「檢索增強生成」（RAG）技術逐漸受到矚目，並成為目前企業導入生成式 AI 的主流技術 。「基本上不管是企業內的文件也好，或是結構化的數據想要跟 LLM 溝通整合，就必須使用 RAG，」林宗瀛進一步分析， RAG 目前主要有 VectorRAG 與 GraphRAG 兩類。 VectorRAG 主要用在處理文件、說明書、公司政策法規等非結構化的文字資料，並將這些文件轉換成向量結構，然後讓 AI 大語言模型利用相似度的方式進行查詢和比對。然而 VectorRAG 提供的答案僅限於資訊層面，不具備計算、統計、分析或比較的能力，所以這類基於文件查詢的 AI 應用，主要用於提供資訊，而非深入分析。
「如果想要把 CRM、ERP 等企業更有價值的數據與 AI 對接，就必須要用 GraphRAG 來做，因為透過 GraphRAG 的處理，AI 可以直接讀懂資料，而不需要經過漫長的訓練與微調，」林宗瀛說明，企業大部分的數據都以表格形式存在，無論資料庫表格還是 Excel、CSV 等試算表檔案， LLM 都無法直接理解，也讓 AI 無法正確回答問題。但是只要將結構化資料轉換成 Graph 結構，AI 就可以直接讀取企業內部數據，並進行關聯性分析，這種方法可以避免 AI 訓練過程中的知識過時問題，並即時提供最新的業務資訊。
企業導入 RAG 技術的挑戰與契機
儘管 GraphRAG 具有許多優勢，但林宗瀛也坦言，企業在應用層面仍然面臨許多挑戰。首先企業內部的數據種類繁多，結構與格式各異，需要先對接這些資料再轉換成Graph 資料結構。另一方面，由於 GraphRAG 是一種新方法，熟悉相關技術的人才相對較少。更進一步，如果企業打算自行開發平台，還需要考慮資安控管、資料儲存、底層算力的搭配、前端介面設計等面向，這些問題往往耗費大量時間與精力，讓企業疲於應對。
即使克服了技術上的挑戰，企業要真正將生成式 AI 導入並應用在關鍵營運環節，還必須滿足準確度、時效性、隱私與安全、透明性等四個條件，才能發揮真正價值。「這四個面向是很多企業考慮要不要深入投資，或是在 AI 使用層面上會考慮到的問題，那應該如何解決呢？」林宗瀛觀察，企業在導入生成式 AI 時，必須滿足各種不同使用者的需求，在這樣的背景下，精誠資訊的企業級 GAI 平台能夠直接對接企業各種不同的資料來源，並透過平台收集數據、創建知識層，進一步將數據轉化為 AI 能夠理解的知識結構。「這個平台有兩個 RAG，也就是 Hybrid RAG，它是一個 Hybrid Agent 在裡面做運作，」林宗瀛說明，精誠資訊的企業級 GAI 平台可以根據不同使用者的提問，從文件資料或結構化資料來源中檢索相關答案回覆 。
為企業打造 AI 數據大腦，提升生產運營與決策效率
「這個企業級 GAI 平台其實就是幫企業建立一個 AI 可以用的數據大腦，」林宗瀛分析，如同人類的左右腦，左腦代表理性、邏輯和結構化的部分，對應的是企業的業務、商務、財務等結構化資料；代表創意、感性的右腦，對應的則是非結構化資料。
只要透過 Hybrid RAG 將企業數據與這個「AI 大腦」對接，並創建 LLM 或 AI Agent 能夠理解的資料層，就可以讓 AI 直接使用企業內部的數據，助力使用者更高效地應用與存取內部資料，無須等待 IT 人員製作報表或撈取數據。「整個流程資料一旦對接進來，不需要寫任何程式，就可以讓 AI 使用這些資料，接著支援各種不同的使用場景，完全沒有任何模型微調的必要，可以在雲端使用，也可以在地端部署，」林宗瀛說。
目前企業級 GAI 平台已經有許多落地應用場景，企業也可以在平台上創建不同 AI Agent 執行各種任務。例如在製造場域，可以將產品的零組件料號分類並建成圖資料結構，讓 AI 直接對接和使用，讓業務人員可以直接詢問 AI 零組件的庫存量，讓 AI 可以立即從後台數據中查詢並回覆，不用再到 ERP 系統中撈取數據。
此外，在能源監控方面，可以將能源數據與企業級 GAI 平台對接，讓 AI 判斷異常情況。在生產進度追蹤的部分，對於設備製造商或大批量生產的企業，可以將生產流程各環節的回報進度資料匯入平台，並與不同的訂單或工單串聯，轉換為 AI 可以理解的結構，讓 AI 可以快速找出相關資訊 ，業務主管也可以即時查詢特定日期的訂單進度安排出貨。
「精誠資訊在幫助企業將內部數據前台化，因為 AI 的關係，我們又把前台 AI 化，」林宗瀛分享，以前數據都在後台，所以必須透過 IT 或是數據分析人員花時間做報表，才能進行決策。相較之下，現在只要把這些數據變成 AI 看得懂的結構後，就可以更開放地讓使用者透過 AI 極大化企業的整體運營效率和決策價值。
透過結合 RAG 技術與 AI 的平台，企業可以在不必重新訓練 AI 模型的情況下，快速導入 AI 並確保決策的準確性、時效性與安全性。未來隨著 AI 技術的加速發展，企業 AI 助理將成為決策過程中的重要夥伴，幫助企業更快、更準確地應對市場變化，持續強化產業競爭力。
