2026年的玉山銀行,並不是第一次發起AI轉型。他們曾用資料探勘發掘大數據裡的細節,也押寶預測型AI、大力發展上百支應用。但這次,他們思考的是——AI能不能不只給答案,還真正完成一段工作?
這是玉山現階段想實現的代理式銀行(Agentic Banking)。玉山金控科技長張智星、玉山銀行智能金融處副總工程師廖子慧日前受訪時揭露,使用者只需告訴自家AI平臺要完成什麼任務,系統就會理解需求,再把任務交給相應的Agent執行;這套架構背後,則以記憶庫、Skill與工具目錄(Tool Registry)和MCP閘道,串起模型、知識庫、工具和內部系統,銜接一段段的工作流程。
只是,AI從「會說」到「會做」,還有一大挑戰要克服。也就是如何將法遵、資安、法務及授信專家的工作方法,轉成Agent能調用的Skill,甚至把那些專家自己也說不清楚、只在實際工作中展現的隱性知識,清楚留下來。玉山如何做到?
玉山AI布局20年:從資料探勘到代理式金融
玉山銀行的AI布局,早在2006年就開始了。當時,玉山用資料探勘協助業務營運和風險控管,開發不少行銷、風險模型。到了2018年,玉山加碼押寶AI、隔年成立智能金融處,專門發展AI技術應用,自建一套MLaaS(Machine Learning as a Service)機器學習服務平臺,來執行銀行使用的上百支預測型AI。
這套平臺可以將資料科學家訓練好的機器學習模型,部署成可重複使用的服務,讓不同業務系統透過API呼叫AI能力,等於把AI從實驗環境,帶進銀行的日常作業中。以信用卡盜刷偵測為例,每當客戶刷卡,交易系統就會把時間、金額及地點等資料送給模型,在0.1秒內算出盜刷機率,再決定是否放行這筆交易。
到了2023年,生成式AI興起,玉山AI發展進入「深度整合」階段。張智星指出,先前的預測型AI,模型通常只給一個數字、分類或Yes/No答案,但生成式AI能讀懂更多內容,從文字、表格到流程圖,可以先理解、擷取資訊,再整理成一份報告。這意味著,AI更容易跨場景應用,比如,同一套文件理解能力,只要換掉資料、範例和規則,就能用來讀匯款單、分析永續報告書,或協助產生法人徵信報告。
於是,玉山銀行一邊維運MLaaS平臺的上百項AI應用,一邊自建內部的企業級生成式AI平臺GENIE,要來提高員工生產力。他們同步進行大量AI基礎工程,比如在技術面,建置AI混合雲、讓使用者更快調用AI模型。在組織面,一方面成立AI管理委員會,建立一套AI監理制度,另一方面也建立AI人才教育訓練體系,來培育內部人才。
不過,到了2026年,玉山開始思考,那些優化內部流程的生成式AI技術,到底能產生多大的ROI效益?又能催生哪些創新模式?
於是,他們制定新發展方向,要將AI從輔助應用,推向人機協作的Agentic Banking。他們甚至喊出,要打造玉山特色的Agent,深度整合到核心業務流程中。
有了大方向,玉山進一步擘畫出AI應用藍圖。廖子慧說明,他們將AI應用分為3大類型,從最底層的AI基礎設施、中層的通用型AI,再到最上層的領域型AI。
玉山揭露年度AI應用藍圖,由AI基礎設施、通用型AI和領域型AI組成。其中,底層基礎設施是玉山AI得以規模化擴展的關鍵。(圖片來源:玉山金控)
其中,AI基礎設施是玉山擴大AI應用規模的關鍵。這個基礎設施涵蓋面向很廣,從專用的模型服務(如預測型AI和生成式AI模型)、開發平臺、知識庫/數據庫,到軟性的資料治理、AI治理措施,連人才發展都包括在內,如AI教育訓練、人才轉型計畫等。
基礎設施之上的通用型AI,則分為控管風險的AI、優化營運效率的AI。前者包括即時詐騙偵測、異常交易監控、信用評等應用,後者則有員工AI助手、RPA機器人、會議摘要生成等應用。
至於領域型AI,依銀行業務,從個金和法金細分。個金部分,有專門用於財富管理的智能投資組合、投資市場預測,或是瞄準客戶經營的AI智能客服、績效分析等;法金則有用於信用決策的智能徵信、AI財務風險診斷,或是交易服務專屬的智能合約審查、供應鏈風控等應用。
自建企業級生成式AI平臺GENIE,成為代理式金融關鍵基礎
這張藍圖的一大關鍵是AI基礎設施中,玉山自建的企業級生成式AI平臺GENIE。他們把GENIE定位為打造跨場景協作代理型AI的統一入口,目標是要讓每位員工,未來都能帶領一位數位員工,實現全員AI化。
2023年,玉山開始建置GENIE,隔年1月正式上線1.0版。首先,為了讓員工放心使用,也避免敏感資料流出,GENIE部署在行內隔離環境,輸入的內容都會先經過個資及敏感資料過濾,同時搭配雲端財務維運(FinOps),來控管各業務部門的Token流量和算力成本、實現最佳資源分配。
玉山自建生成式AI平臺GENIE,第一代主要解決使用者敢不敢用的問題,第二代則是「好不好用」,轉型為模組化平臺並納入多模態模型、RAG等技術,提供更好的使用體驗。(圖片來源:玉山金控)
在這個基礎上,玉山繼續優化GENIE,在2024年9月推出2.0版本,目標從員工「敢不敢用」轉為「好不好用」。玉山將它改造為模組化平臺,加入RAG檢索增強生成、多模態輸入和模型調度能力,系統可處理文字、圖片、PDF、語音與影片等模態資料,能依照任務需求,選用Azure OpenAI、Gemini、Claude等不同模型,再透過RAG查找行內規章、公文與公告,來支援不同業務流程需求。
使用數據反映了GENIE如何深入日常工作,比如2024年上半年,GENIE每月平均有800多人使用,全行使用率超過十分之一,半年累積呼叫超過10萬次;而2026年上半年,月均使用人數已超過3,600人,全行使用率超過三分之一,半年呼叫超過55萬次。每名使用者每月平均Token用量,也從400多個攀升到40萬個以上。
這個轉折不是突然發生。早期,玉山辦工作坊、培訓班,將效果較好的指令放上GENIE,讓還不熟悉下指令的員工直接套用。等到員工找出自己的使用方式,AI就不知不覺深入工作流程了。「以前是叫大家用,大家覺得還好;現在則是反過來,不用不行」廖子慧說。
今年打造GENIE 3.0版本,轉型為Agent統一入口
不過,AI服務越做越多,新麻煩也開始出現。
首先是功能散落在不同系統,使用者必須記得工具放哪裡;再來,各單位分別建立知識助理,資料難以共用。尤其,後端還串接了大量不同規格的API,維護工作愈來愈複雜。更現實的是,員工用過外部快速進化的AI工具,在公司自然會問:「為什麼GENIE沒有?」
玉山將這些問題,歸納為功能孤島、知識分散、API異構與體驗落差4大類。
為克服這4大痛點,他們決定優化GENIE,今年開始打造3.0版本。GENIE 3.0的首要任務,就是轉型為Agent的統一入口,使用者不必先選工具,只要提出需求,GENIE Root Agent就會先理解意圖、判斷處理路徑,再透過REST或MCP,將工作分派給適合的行內Agent、知識庫或其他系統。
玉山自建的生成式AI平臺GENIE今年升級到第三版,成為統一的Agent入口,使用者只需提出需求,系統就能理解意圖、分配Agent去執行工作。(圖片來源:玉山金控)
GENIE 3.0有4項重要能力,首先是模型平臺,可依任務切換不同大型語言模型;再來是包含長短期記憶的記憶庫,讓服務能保留必要的上下文、支援個人化使用;第三是Skill與Tool Registry,先找出任務需要的能力,再選擇實際執行工具;第四是MCP閘道,將原本的API轉為較一致的介面,讓不同服務可以協作。
底層則補上權限管理、資安及個資防護、模型監控、共享護欄、Policy Engine、稽核日誌與FinOps機制。比起前一版提供包山包海的AI功能,GENIE 3.0更像一名總機或領班,先聽使用者要什麼,再把工作交給真正擅長的Agent和工具去執行。
玉山今年也擴大了GENIE平臺使用範圍,不只海外子行開始使用,玉山金控其他子公司都能使用。今年9月底,更即將上線GENIE 3.0。
實現代理式銀行的關鍵:把專家工作方法變成Skills
GENIE 3.0可以理解使用者需求、調度Agent和工具,但Agent能不能完成銀行的專業工作,關鍵仍在於它具備哪些Skill。
以新產品審查為例,一項商品或服務上線前,往往要經過法遵、法務及資安等專家把關,分別確認法規、合約、風險與作業要求。這些判斷有些已經寫進SOP,有些則來自專家多年累積的經驗。
玉山希望先拆解這些工作方法,把其中可標準化、重複使用的部分整理成Skill。例如,「依據法規檢查文件」可以是一項Skill;Agent則像負責完成任務的工作角色,能依照不同場景,組合法遵、法務及資安等Skill與工具,安排執行順序。
如此一來,未來建立新產品審查Agent時,就不必把各項規則重新寫一次,而能直接調用既有的專業能力。不過,廖子慧強調,Agentic Banking並不是把原有流程原封不動交給AI,「如果還是照原本的流程把它自動化,可能沒有辦法改變太多。」
因此,玉山規畫先讓員工學會與AI合作,再重新檢視哪些步驟適合交給Agent、哪些判斷仍須由人負責,進一步重新設計工作流程。長期來看,部分服務或許能由多個Agent共同執行,再由人類主管監督並處理例外;但廖子慧也表示,這仍是待逐步實現的長期願景。
最難教給AI的,是專家自己也沒說出口的規則
把專家的工作方法做成Skill,不是直接交一份SOP就好。
張智星指出,專家工作知識可分為顯性與隱性:前者可以清楚寫成步驟,後者往往要等AI實際執行、專家指出錯誤時,才會浮現。他以檢查學生報告為例,一開始,使用者可能只要求AI檢查英文縮寫是否附上全名、參考文獻是否留白;等到AI開始檢查,才陸續發現其他遺漏,使用者再補上新的規則與例外。
經過多輪輸入、輸出與修正後,專家才能要求AI整理整段工作過程,將新增的規則、判斷方式和處理步驟,彙整成一份完整的Skill。「就在工作過程中,把你的知識,不管顯性還是隱性的知識抽出來,做成一個Skill。」張智星說。日後若有人要處理類似任務,Agent就能直接調用這項Skill。
但有些工作,不只規則難以一次說完,連解決途徑也不只一條。這時,專家得提供不同案例,說明面對哪些條件時,該採取哪一種做法,讓AI逐步掌握例外與判斷邏輯。這個過程也很難只靠領域專家或工程師單獨完成,而需要懂AI的人與熟悉業務的人共同測試、修正。
因此,Skill化不只是把SOP轉成AI看得懂的格式,更像是在實際工作中,把專家沒有寫下來、甚至自己也未必意識到的判斷方式,一點一點整理出來。這些知識不是外部大模型原本就會知道的,卻可能正是銀行最難複製、也最需要留下來的能力。
2大實例:從徵信報告到法遵Agent
玉山將專家知識導入AI服務的做法,可以從法人徵信報告與法遵Agent兩個實例來看。
過去,法金同仁完成實地訪查、蒐集外部資料後,回到辦公室還得打開空白文件,從第一個字開始寫報告。現在,生成式AI會先整理資料、產生初稿,再由專業人員檢查和判斷。
玉山分享將專家知識導入AI服務的實際成果,透過法金徵信專家提供工作經驗,打造智能徵信報告AI工具,能加速專家整理資料、產出報告。(圖片來源:玉山金控)
真正困難的,不是要AI把文章寫通順,而是教它像銀行專家一樣,懂得抓重點。「開發者非常仰賴第一線的人直接告訴我們,現在生成的報告到底準不準,因為我們沒有那個know-how。」廖子慧說。玉山請RM、總行專家及審核人員持續提供案例、指出錯誤,再將他們判斷企業能否放款時在意的條件,放進系統指令、搜尋架構和AI服務中。
另一實例則是近期一名工程師搭配一名法律專家,把法遵工作中可以標準化的內容,整理成Skill,約一周就做出法遵Agent的初步版本。雖然功能還不全面,但據玉山初步觀察,已能處理大部分預定涵蓋的法遵需求。
「一個很懂AI的人,還有一個很了解Domain Know-how的人,要互相合作,才有辦法實踐出來。」張智星說。
這種原本由業務提需求、IT負責開發的傳統模式,現在轉變為,工程師和領域專家坐在一起,一邊使用、一邊修正AI。
玉山接下來要複製這種合作模式,由上而下盤點適合Agent化的場景:不只要有明確的領域專家和可整理成SOP的工作方法,還要能真正改善核心流程,甚至帶來營收價值。為此,玉山在個金、法金等領域組成敏捷團隊,讓少數IT人員與業務專家聚焦同一場景,來快速開發、測試和調整。
AI轉型要成功,人的角色也得跟著改變
在這波AI轉型中,玉山對人才的期待也跟著改變。
「以前,我們想找很會寫程式的人,現在懂領域知識的人才更重要。」張智星說。AI可以協助產生程式碼,最後仍得靠懂金融流程與規範的真人,來判斷系統做得對不對、能否真的上線。
廖子慧則觀察到,工程師與業務人員的工作方式開始改變,彼此需要更密切合作。比如,過去習慣坐在辦公室等需求的工程師,現在會走進業務現場,和領域專家一起釐清問題;反過來,業務人員也得理解AI能做什麼、不能做什麼。雙方不再只是提需求與接需求,而要一起把專業知識教給AI。
也因此,玉山推動人才轉型,依照不同職務設計AI培訓方向,像是新進行員得先認識AI工具與風險、資深行員學習用AI改善工作,中階科技主管則要找出適合的應用場景、帶領團隊改變工作方式,經營團隊則要能制定AI藍圖和目標。玉山透過AI Academy、GAI工作坊等活動,建立全行的AI共同語言,連第一線員工都能參與創造AI應用。
不過,要請專家交出累積多年的經驗,還得先回答一個更現實的問題:如果把AI教會了,自己會不會被取代?
廖子慧說,玉山現階段的做法,是讓原本負責審核的專家轉而學習優化、測試及監督AI,替他們找到新的角色。得先讓員工相信「AI可以幫助他,而不是取代他」,他們才有安全感參與轉型,也才願意把真正重要的經驗教給AI。
玉山布局AI二十年,如今的課題不只是提高模型準確度,還包括如何把專家知識留在組織裡,並重新設計人與AI的分工。尤其,Agent要真正走進銀行核心流程,得靠工程師與領域專家坐到一起,把過去只能靠人慢慢學會的經驗,一點一點教給AI。
Comments (0)
Sign in to comment