生成式人工智慧應用(Generative Artificial Intelligence;GAI)正蓬勃發展,越來越多企業運用GAI改變作業流程、產品、服務與商業模式,一如將2024年定調為GAI元年的永豐銀行,正積極運用GAI提昇內部營運效率及優化外部客戶服務,繼前不久與微軟合作開發員工專用GAI小幫手「永豐雲Chat」,日前又推出專為客戶打造的「Orbit.AI投資水晶球」服務,同樣運用GAI閱讀與整理國內外金融脈動,讓客戶可以快速理解、精準解讀市場資訊與趨勢。
內部GAI應用 以賦能員工為主要目標
全球科技產業研調機構Omdia預估,生成式人工智慧(GAI)應用的市場規模將在2028年來到585億美元,與2023年的62億美元相比,年複合成長率高達56%。由此數字可知,GAI應用正快速落地至各行各業,包括素來將風險管控與合法合規在第一位的金融業也不例外,只是為了在創新與合規間找到最佳平衡,金融業大多將GAI應用在內部,唯獨永豐銀行是少數的例外,不只應用在內部,更積極探索GAI在優化客戶服務上的應用可能性。
「在內部GAI應用上,永豐銀行以為員工賦能為目標。」永豐金控數位科技長張天豪說,永豐銀行將AI視為數位轉型的核心,在ChatGPT剛引爆熱潮時,便啟動內部會議,討論如何在安全合規的情況下,運用GAI技術提高員工工作效率,進而催生出永豐雲Chat。
永豐銀行資訊處處長沈志成進一步指出,永豐雲Chat提供智慧問答與知識庫搜尋二大服務,智慧問答可協助同仁進行文件翻譯、文案生成、會議記錄摘要等工作,知識庫搜尋則透過對話方式協助員工檢索內部資料庫及文件,可以快速且精準的找到需求文件,提高同仁生產力。
不過,在推出永豐雲Chat之前,永豐銀行IT部門其實就已經導入GitHub Copilot,由GAI負責生成程式語言的框架、程式語言轉譯、產生測試資料等作業,不只加快程式開發效率,對提升IT人員技能也有很大的幫助。舉例來說,永豐銀行在2023年推出的智慧收支帳本,便是透過GitHub Copilot快速建立該服務的底層架構,大幅縮短產品從發展到上市的時間。
3大GAI發展策略,強化同仁使用能力與意願
從針對IT部門的GitHub Copilot,到聚焦全行同仁的永豐雲Chat,永豐銀行導入的內部GAI應用皆能展現極佳成效,關鍵就在於以下3大發展策略:提供安全的運用環境和工具、知能普及與業務結合的應用場景。
「知能普及對於發展GAI內部應用有相當重大的影響。」永豐銀行綜合企劃處處長王筱嵐表示,知能普及其實就是要做到GAI全民化,由於GAI會改變同仁已經習慣的作業模式或流程,唯有讓每位同仁都能瞭解GAI的好處與侷限性,才有可能發想出更多GAI應用。
為此,永豐銀行在2024年規劃3大推廣計畫,漸進式強化同仁使用GAI的能力與意願。第一是針對全行近7千名同仁,攜手HR部門規劃GAI必修課。第二是針對商品、數金、資訊、行銷等比較常使用GAI工具的部門,規劃Prompt實戰工作坊,讓同仁學習下指令,並將授課內容編製為教戰手冊,提供給後續新進同仁參考。第三是持續深化數位幕僚計畫,各部門的數位幕僚內部推廣GAI應用、協助部門同仁解決應用問題或討論AI應用可能性。
GAI應用由內而外,催生Orbit.AI投資水晶球服務
透過漸進式的推廣,促使永豐銀行同仁積極思考如何應用GAI提升工作效率,甚至優化客戶服務,投資水晶球的概念也因而成形。王筱嵐說明,投資水晶球其實是公司戰略推動小組在GAI議題內部腦力激盪時由幾位優秀年輕MA發想出的新服務,並結合資訊、財富金融、數位科技等各部門的力量,讓提案能夠落地變成正式服務。
投資水晶球是台灣銀行業首個可以對外服務且不限定客群與通路的GAI應用,其讀取國內外逾500個媒體平台的上千篇新聞資料,再依照台灣、美國與中國等三大市場進行分類與摘要,自動生成當日最新市場報告,為客戶省下自行搜集、消化與整理市場資訊的時間,可以快速掌握市場最新動態,客戶只要實名綁定永豐銀行LINE官方帳號,即可接收投資水晶球的最新推播內容。
乍聽之下,投資水晶球的架構很簡單,只是在做資料整理與摘要,但實際運作上卻非如此,「如何確保GAI產出內容的可讀性與正確性,是最主要的研發挑戰。」永豐銀行財富金融處處長蔡隆裕指出,GAI的強項在摘要與整理,不具推理分析能力,因此在整理與摘要文章時,只能引用文章本身的論述觀點,而市場訊息瞬息萬變,加上資料來源眾多、專家看法不一致,導致GAI產出內容很可能會同時存在不一樣的觀點,失去參考的意義和價值。
為了克服挑戰,永豐銀行除了採用檢索增強生成(Retrieval Augmented Generation)技術提高GAI可靠度,並經過長達半年反覆試錯(Trial and error)的過程後訂定最終資料使用框架,亦即在LLM模型裡加入各種參數決定每日不同市場的新聞權重,確保最終產出結果的可讀性與正確性,避免出現今天看多市場、明天看空市場、或與永豐投顧觀點不一致等令客戶感到困惑的情況。
蔡隆裕強調,提供台灣、美國與中國三大市場的動態趨勢報告,只是投資水晶球的第一步,未來希望將更多在地市場的文章與新聞納入GAI資料庫中,如:日本或印度的財經新聞等,提供更多不同市場的動態趨勢報告,或持續精進GAI模型,使其具備提供特定市場特定產業分析報告的能力,如:美國生技類股的市場摘要。
投資水晶球象徵著永豐銀行GAI應用的角色轉變,從賦能員工的生產力工具,走向服務客戶的業務系統,未來永豐銀行將此為起點,加快導入GAI在各項業務上,為客戶帶來更好的體驗,也為金融業GAI應用做出最佳典範。