生成式人工智慧應用（Generative Artificial Intelligence；GAI）正蓬勃發展，越來越多企業運用GAI改變作業流程、產品、服務與商業模式，一如將2024年定調為GAI元年的永豐銀行，正積極運用GAI提昇內部營運效率及優化外部客戶服務，繼前不久與微軟合作開發員工專用GAI小幫手「永豐雲Chat」，日前又推出專為客戶打造的「Orbit.AI投資水晶球」服務，同樣運用GAI閱讀與整理國內外金融脈動，讓客戶可以快速理解、精準解讀市場資訊與趨勢。
內部GAI應用 以賦能員工為主要目標
全球科技產業研調機構Omdia預估，生成式人工智慧（GAI）應用的市場規模將在2028年來到585億美元，與2023年的62億美元相比，年複合成長率高達56%。由此數字可知，GAI應用正快速落地至各行各業，包括素來將風險管控與合法合規在第一位的金融業也不例外，只是為了在創新與合規間找到最佳平衡，金融業大多將GAI應用在內部，唯獨永豐銀行是少數的例外，不只應用在內部，更積極探索GAI在優化客戶服務上的應用可能性。
「在內部GAI應用上，永豐銀行以為員工賦能為目標。」永豐金控數位科技長張天豪說，永豐銀行將AI視為數位轉型的核心，在ChatGPT剛引爆熱潮時，便啟動內部會議，討論如何在安全合規的情況下，運用GAI技術提高員工工作效率，進而催生出永豐雲Chat。
永豐銀行資訊處處長沈志成進一步指出，永豐雲Chat提供智慧問答與知識庫搜尋二大服務，智慧問答可協助同仁進行文件翻譯、文案生成、會議記錄摘要等工作，知識庫搜尋則透過對話方式協助員工檢索內部資料庫及文件，可以快速且精準的找到需求文件，提高同仁生產力。
不過，在推出永豐雲Chat之前，永豐銀行IT部門其實就已經導入GitHub Copilot，由GAI負責生成程式語言的框架、程式語言轉譯、產生測試資料等作業，不只加快程式開發效率，對提升IT人員技能也有很大的幫助。舉例來說，永豐銀行在2023年推出的智慧收支帳本，便是透過GitHub Copilot快速建立該服務的底層架構，大幅縮短產品從發展到上市的時間。
3大GAI發展策略，強化同仁使用能力與意願
從針對IT部門的GitHub Copilot，到聚焦全行同仁的永豐雲Chat，永豐銀行導入的內部GAI應用皆能展現極佳成效，關鍵就在於以下3大發展策略：提供安全的運用環境和工具、知能普及與業務結合的應用場景。
「知能普及對於發展GAI內部應用有相當重大的影響。」永豐銀行綜合企劃處處長王筱嵐表示，知能普及其實就是要做到GAI全民化，由於GAI會改變同仁已經習慣的作業模式或流程，唯有讓每位同仁都能瞭解GAI的好處與侷限性，才有可能發想出更多GAI應用。
為此，永豐銀行在2024年規劃3大推廣計畫，漸進式強化同仁使用GAI的能力與意願。第一是針對全行近7千名同仁，攜手HR部門規劃GAI必修課。第二是針對商品、數金、資訊、行銷等比較常使用GAI工具的部門，規劃Prompt實戰工作坊，讓同仁學習下指令，並將授課內容編製為教戰手冊，提供給後續新進同仁參考。第三是持續深化數位幕僚計畫，各部門的數位幕僚內部推廣GAI應用、協助部門同仁解決應用問題或討論AI應用可能性。
GAI應用由內而外，催生Orbit.AI投資水晶球服務
透過漸進式的推廣，促使永豐銀行同仁積極思考如何應用GAI提升工作效率，甚至優化客戶服務，投資水晶球的概念也因而成形。王筱嵐說明，投資水晶球其實是公司戰略推動小組在GAI議題內部腦力激盪時由幾位優秀年輕MA發想出的新服務，並結合資訊、財富金融、數位科技等各部門的力量，讓提案能夠落地變成正式服務。
投資水晶球是台灣銀行業首個可以對外服務且不限定客群與通路的GAI應用，其讀取國內外逾500個媒體平台的上千篇新聞資料，再依照台灣、美國與中國等三大市場進行分類與摘要，自動生成當日最新市場報告，為客戶省下自行搜集、消化與整理市場資訊的時間，可以快速掌握市場最新動態，客戶只要實名綁定永豐銀行LINE官方帳號，即可接收投資水晶球的最新推播內容。
乍聽之下，投資水晶球的架構很簡單，只是在做資料整理與摘要，但實際運作上卻非如此，「如何確保GAI產出內容的可讀性與正確性，是最主要的研發挑戰。」永豐銀行財富金融處處長蔡隆裕指出，GAI的強項在摘要與整理，不具推理分析能力，因此在整理與摘要文章時，只能引用文章本身的論述觀點，而市場訊息瞬息萬變，加上資料來源眾多、專家看法不一致，導致GAI產出內容很可能會同時存在不一樣的觀點，失去參考的意義和價值。
為了克服挑戰，永豐銀行除了採用檢索增強生成（Retrieval Augmented Generation）技術提高GAI可靠度，並經過長達半年反覆試錯（Trial and error）的過程後訂定最終資料使用框架，亦即在LLM模型裡加入各種參數決定每日不同市場的新聞權重，確保最終產出結果的可讀性與正確性，避免出現今天看多市場、明天看空市場、或與永豐投顧觀點不一致等令客戶感到困惑的情況。
蔡隆裕強調，提供台灣、美國與中國三大市場的動態趨勢報告，只是投資水晶球的第一步，未來希望將更多在地市場的文章與新聞納入GAI資料庫中，如：日本或印度的財經新聞等，提供更多不同市場的動態趨勢報告，或持續精進GAI模型，使其具備提供特定市場特定產業分析報告的能力，如：美國生技類股的市場摘要。
投資水晶球象徵著永豐銀行GAI應用的角色轉變，從賦能員工的生產力工具，走向服務客戶的業務系統，未來永豐銀行將此為起點，加快導入GAI在各項業務上，為客戶帶來更好的體驗，也為金融業GAI應用做出最佳典範。
