輝達GTC 國泰金秀AI成果

國泰金控發表開源小型語言模型驗證結果，精準進行客戶意圖判斷，促進AI瞭解在地金融服務語意、專有名詞、模糊提問，可作爲企業未來選用AI語言模型進行訓練的參考。國泰金控／提供

爲提升營運效率與客戶體驗，國泰金控（2882）以「生成式AI技術發展框架GAIA」爲核心，以及AI即服務（AI as a service, AIaaS）策略，持續探索生成式AI於金融場景的應用。繼去年分享金融大型語言模型（LLM）的實證成果後，國泰金控於昨（4）於 NVIDIA GTC Taipei 發表開源小型語言模型（SLM）應用。

國泰金控透過發表前瞻概念性驗證研究成果，運用開源小型語言模型（SLM）精準進行客戶意圖判斷，有望提升未來落地後的金融服務營運效益。

本次實證是以開源模型作爲訓練目標。初步驗證結果顯示，在測試條件下，可降低對複雜Prompt Engineering或向量檢索模組的依賴，有助於簡化系統架構、降低後續維運複雜度。此一結果也顯示，若能結合適當的金融場景資料設計與模型微調，將有機會提升模型穩定度、推論效率與應用可控性。並且，經微調後的SLM在客戶意圖判斷任務上，可達到接近主流閉源LLM的表現，可作爲企業未來選用AI語言模型進行訓練的參考。

在資料治理與隱私保護方面，本次概念性驗證採用「全合成資料」，避免使用真實客戶資料訓練設計，透過相似功能聚類、單意圖與多意圖資料設計、臺灣語境優化及關鍵字擴充等方法，強化模型對本地金融服務語境、專有名詞與模糊提問的理解能力。應用情境涵蓋房貸餘額查詢、信用卡繳費、分行服務導引等常見需求，作爲未來智慧搜尋與服務分流的技術基礎。

國泰金控近年持續推動AI於金融場景的創新應用，從內部流程優化、客戶服務體驗、金融知識理解到模型治理，逐步累積可擴展的技術基礎。面對金融業高度監管、重視資料安全與服務需求快速變動等產業特性，國泰金控將持續以兼顧合規、安全、穩健的方式推動AI在長文本判斷、金融文件深度理解與跨場景應用等的實證研究，探索符合金融業需求的模型訓練與應用模式，推動智慧金融服務創新。