在 AI 浪潮中，許多企業與個人工作者都不斷在尋找可以加速創新、提升效率與競爭力的新工具。作為站在 AI 時代第一線的資訊服務產業，精誠資訊國際業務發展部助理副總經理林宗瀛在 TechOrange 科技報橘與 Yourator 共同舉辦的 AI 人才高峰會中，便從協助眾多企業導入 AI 應用的實戰經驗出發，深入探討在 AI 賦能時代，借力 AI 提升企業競爭力的關鍵策略，以及企業 AI 應用的趨勢與前景。
「很多人對 AI 的認識都還停留在和 ChatGPT 對話、聊天、進行文書處理，但其實企業的 AI 還有許多更深、更高價值的用法，」林宗瀛分析，企業在導入 AI 時通常有「Fine-tuning」與「In-context Learning」兩種選擇。所謂「Fine-tuning」就是企業訓練自身模型，但不僅算力成本高昂，企業內部更必須要有專業資料科學與軟體開發團隊，因此一般企業較無法朝著「Fine-tuning」的方向前進。至於「In-context Learning」則代表企業直接使用大型語言模型（LLM）的模式，也是成本相對合理的選擇，「因此企業軟體在 AI 時代日益受到重視，因為這是企業想要快速導入與應用 AI 的捷徑，」林宗瀛強調，在這樣的趨勢之下，軟體與雲端服務必須不斷推陳出新，才能因應持續增加的市場需求。
RAG 成為 AI 時代新顯學
林宗瀛進一步分析當前 AI 時代業界的新顯學──檢索增強生成（RAG）技術，並引用 Gartner 的研調數據，說明由於 RAG 可以提升大型語言模型導入企業的準確度，因此獲得許多企業與政府機關青睞。林宗瀛分析，RAG 可以分為 VectorRAG 與 GraphRAG 兩類，VectorRAG 屬於向量式，能夠處理非結構化文件，使用者可以透過問 AI 問題的方式，讓 AI 在資料中檢索答案，但對企業而言， VectorRAG 的使用價值並沒有想像中高。
相較之下，GraphRAG 是更有價值的技術應用，近年也相當受到企業重視，因為公司內部有非常多結構化的人事、業務、財務、供應鏈等資料，這些資料每天都在更新，且多以表格形式儲存於企業資料庫中，讓各表與欄位之間很難產生關聯。然而，現在企業可以運用 GraphRAG，將這些表格轉換成「語意知識結構」格式，不需要經過訓練即可與大型語言模型整合及對接，大幅降低導入成本、加快導入速度，因此應用日益普及。
「企業導入生成式 AI，最在意的就是準確度、時效性、隱私與安全、透明度，」林宗瀛說明，如果無法讓 AI 具備企業領域知識、解決最新問題，以及使用者無法落實權限控管與驗證 AI 答案的話，企業就不會持續拓展生成式 AI 的應用場景。現在對於準確度與時效性的要求，可以透過 RAG 優化，至於隱私安全和透明度，則有賴企業的規範。
以大型語言模型結合 RAG 技術，精誠資訊讓企業生成式 AI 應用更強大與準確
在實務上，企業可以透過哪些方式導入生成式 AI 應用以驅動決策？林宗瀛以精誠資訊 GAI 平台為例，分析在企業內部極大化生成式 AI 應用價值的關鍵策略。首先，企業擁有眾多不同類型的文件與數據，因此必須透過數據管道（Data Pipeline）將數據轉化成語意式圖資料結構、向量資料結構等 AI 看得懂的形式，再透過 API 串接大語言模型，最後透過 VectorRAG 與 GraphRAG 創造資料查詢、問答、統計、分析、比較、報告生成等應用場景。「如果企業沒有辦法解決知識結構、資料存取的問題，基本上是無法應用 AI 的，」林宗瀛強調，數據是 AI 的核心，因此必須將數據變成 AI 「可以用」的形式，才有機會極大化 AI 的應用價值。
「企業需要的不只是可以聊天的客服系統，雖然客服系統也具有價值，但對企業領導者來說，需要的是每天可以處理商業問題的 AI 應用，」林宗瀛建議，大型語言模型的強項在於「語言能力」和「創意」，因此如果能結合知識結構的資料處理，大型語言模型就可以變得更強大與準確。
目前精誠資訊的 GAI 平台在百工百業已經有許多應用場景，像是助力日本及新加坡電信公司的資安人員以問答方式進行資安事件調查、完成報告；協助汽車零組件製造上市公司串接 CRM、ERP 系統，讓業務可以快速調閱產品或客戶資料，以快速產生報價單；以及與人壽保險公司合作進行業務詐欺偵測，讓系統串接保單、理賠資料等數據，再以 AI 分析找出異常的銷售或理賠申請。
「大家對生成式 AI 不需要過度想像，生成式 AI 就是語言能力與創意很強，但企業還是必須依靠其他軟體程式設計流程，才能完成『語言處理』以外的工作，」林宗瀛強調，當大型語言模型結合知識結構的資料處理、完善的軟體流程設計，才能真正賦能企業，提升關鍵決策能力。同時，唯有當企業了解數據是 AI 應用的本質後，才更有機會在 AI 時代獲得競爭優勢，進而創造新的效益與價值。
