ChatGPT 帶動全球生成式 AI 浪潮，不只一般民眾試著在工作或學習中結合 ChatGPT 提高效率，許多企業也在思考如何應用生成式 AI 技術優化客戶體驗及提升員工生產力，譬如台灣大哥大導入台智雲推出的「福爾摩沙大模型（Formosa Foundation Model）」升級智能客服系統，不只減輕客服人員在面對客戶進線的時效壓力，改善客服團隊留任率、加強人力穩定性，更提升客戶即時體驗。
如今，台灣大哥大企業服務進一步將此經驗轉化為「AI 2.0 解決方案」，結合既有在雲端與 5G 的資源，期待協助更多企業導入生成式 AI，加速台灣產業智慧轉型的腳步。
探索企業生成式 AI 應用的無限可能
提到企業生成式 AI 應用，很多人第一個念頭就是智能客服，以為只有 B2C 商業模式的企業才有需求，但其實並非如此。生成式 AI 的確可以讓客服機器人變得更人性化，解決現行聊天機器人回答太過制式化的挑戰，然而在智能客服外，企業生成式 AI 其實還有更多應用可能。
台灣大哥大資訊系統架構處副處長陳芳志舉例，企業可以站在內部客服的角度，運用生成式 AI 優化作業流程。像是企業每年都會有新人報到，過往多半由人資一對一引導新人完成入職程序，如今則可以運用生成式 AI 打造 HR 機器人，引導新人自主完成入職流程，還能回答各種問題，幫助新人更瞭解公司。
另一方面，生成式 AI 還可以結合知識管理系統，讓員工透過詢問的方式提取資料，省下自行搜尋與整合時間。舉例來說，製造業的生產機台需要維修的原因有很多種，新進工程師在遇到不常處理的狀況時，可能需要詢問前輩，或至知識管理系統中搜尋資料、找答案；相較之下，有了生成式 AI 後，工程師只要向生成式 AI 提問，就能獲得相關指引。
企業導入生成式 AI 應用的 3 大挑戰
雖然企業生成式 AI 應用發展空間很大，但在實際導入上，卻經常遇到以下三大問題。
第一是專業人才不足，意即缺乏資料科學家，無法自行完成導入工作。第二為 AI 模型不容易整合既有資訊系統，難以創造綜效。第三為大語言模型無法落在地端以及繁中語料偏少的問題。
台灣大哥大業務主任周謙程表示，基於合法合規、客戶隱私保護、避免商業機密外流等諸多考量，許多企業不希望將上線後的內部資料上傳至雲端，這也意味著 AI 大語言模型也必須存在於地端。然而，目前多數大語言模型都只能在雲端，因此不太符合企業希望資料在地端的期待。
此外，很多大語言模型所使用的訓練語料，只有一小部份是繁體中文，這導致 AI 應用在繁中情境時，某些用字遣詞不是那麼道地，但是當企業想要自行強化大語言模型的繁中運用能力時，又會面臨自備繁中語料耗時又費力、購買算力成本高等問題，讓大語言模型的落地應用備受挑戰。
整合服務能量與經驗，全方位滿足企業導入需求
著眼上述三大挑戰，台灣大哥大結合台智雲的福爾摩沙大模型，推出「AI 2.0 解決方案」，「福爾摩沙大模型是第一個可以落地部署且使用 30% 繁中語料進行訓練的大語言模型，再加上台灣大哥大提供的端到端一站式服務，可加速企業導入生成式 AI 應用，」陳芳志分享。
台灣大哥大企業產品暨營運管理處產品經理許捷敏進一步說明，台灣大哥大生成式 AI 服務涵蓋企業導入生成式 AI 應用橫向與縱向的需求。在縱向端，台灣大哥大擁有七座資料中心提供專業主機代管服務，可以協助企業在地端部署 AI 模型，若需要整合工廠端的各項機台數據，台灣大哥大也能提供 5G 專網建置服務，完善智慧工廠應用。
在橫向端，從資料清洗、將數據餵入大語言模型、進行微調（Fine-Tune）、到整合相應的資訊系統，台灣大哥大也都能提供相應協助。
先就資料清洗來看，因為訓練語料可能含有文字、網址連結、問答等不同形式的資料，必須先完成資料清洗，例如：去除 HTML 標籤、去除特殊符號、去掉客戶個資等，才能餵入大語言模型中。「台灣大哥大基於智能客服系統升級的經驗，發展出多個工具，加速企業完成資料清洗工作，」陳芳志說。
接下來進入數據餵入模型與 Fine-Tune 階段，台灣大哥大可以根據企業文化、內部或產業特殊規範與作業流程等去調校模型，確保 AI 回答符合預期。周謙程強調，模型調校其實不容易，需要反覆進行 「Try & Error」的嘗試，以電信起家的台灣大哥大因為服務過很多客戶，累積相當豐富的經驗，所以知道該如何調整才能達到目標，讓企業可以省時又省力的完成 Fine-Tune 作業。
最後在系統整合階段，由於台灣大哥大內部經常進行各個系統的整合作業， IT 人員相當熟悉如何處理異質平台串接的問題，因此無論企業想要整合哪些系統，台灣大哥大都能協助處理。
面對各種產業使用生成式 AI 的相異需求，台灣大哥大將以自身經驗、完整的雲端與 5G 資源，以及服務過許多垂直產業客戶、能迅速掌握客戶需求的優勢，化身企業專屬 AI 顧問，為客戶解決導入生成式 AI 時面臨的問題，並協助企業走向 AI 新時代。
