界面新聞記者 | 安震

“當前市場通用的生成式AI模型具備普適、跨行業通用、模糊語言的特性，而這難以滿足銀行業對金融專業能力、精準性方面的高要求。因此，如何讓生成式AI模型‘說專業的話’、‘說真話’就成為銀行業規模化應用生成式AI的兩個關鍵挑戰。此外，銀行等金融機構對數據安全的高要求也意味著模型的精調和應用都很有可能需在本地進行。”BCG（波士頓咨詢）董事總經理、全球合伙人，BCG金融機構專項核心領導譚彥對界面新聞表示。

自2022年底ChatGPT3.5發布以來，生成式AI相關話題熱度持續走高，并以驚人的技術迭代和應用演進速度帶動了各行業企業的競相布局。而作為最早應用傳統AI技術的領域之一，銀行業也正積極試水生成式AI在行業內各領域和場景下的應用。基于此，BCG發布《銀行業生成式AI應用報告（2023）》，從生成式AI技術特點、落地場景及大規模普及面臨的挑戰等方面解析了銀行業在推動生成式AI應用過程中面臨的核心問題。

報告認為，生成式AI在銀行業應用場景豐富。一是可以替代人，完成處理文件、文本要素提取、生成標準化內容等大量重復性較高、簡單基礎的任務。二是可以賦能人，讓AI成為助手，幫助產品經理、財富顧問、信審經理等角色完成更精準的判斷，提升關鍵環節的核心競爭力。

“BCG曾以一家擁有約兩萬名員工的區域性國際銀行為例，初步梳理了該銀行前中后臺相關部門應用生成式AI的潛力和效益，預計在首年即可為該銀行節省約1.5億美元的成本，占整體薪酬總包的7%左右”。BCG合伙人，BCG金融機構專項核心領導孫蔚對界面新聞表示。

波士頓咨詢認為，從0到1訓練大模型的成本和難度高企，因此大模型開發能力未來將集中于少數專業機構。對銀行而言，主要的落地路徑是直接應用市場上已訓練好的大模型。但拿來即用，需應對兩大挑戰，確保答案質量可靠。

一是 “說真話”： 生成式AI的“知識”是基于預訓練時已經封裝好的“知識”，它的知識并不能及時更新，更沒有融入各家銀行自身掌握的專屬數據和信息。二是“說專業的話”： 大模型雖然有很強的“泛化”知識能力，但在某些專業領域的知識并不一定能掌握得好；每家金融機構內部一些特定的表達要求、表達風格在預訓練時也未曾捕捉。

解決上述問題，首先，需要使大模型能基于給定的數據庫來生成答案，例如可以將理財經理與客戶的對話，理財產品買賣記錄輸入數據庫，由大模型整合形成最終的對話式答案；其次，通過有效的提示詞設計，使模型給出契合專業要求的準確答案；最后，直接對開源的大模型進行指令精調，通過修改模型參數，讓模型能在有限提示詞情況下，生成更高質量答案。

在推動生成式AI規模化應用方面，報告認為，銀行可分三個階段，第一階段為少量場景的概念驗證和局部落地，即選擇重點應用場景，快速完成概念驗證；第二階段為開展全場景盤點和體系規劃，即基于局部應用的效果和經驗，形成規模化實施的頂層規劃；第三階段則為規模化應用落地和體系能力的固化。

“從大模型部署上，銀行等金融機構對數據安全要求嚴格，這也意味著模型的精調和應用都需要在本地進行，確保專屬的數據‘不出銀行’。” BCG資深董事經理馮志宇對界面新聞表示。

他認為，在合規性方面，目前為了確保數據安全，可以通過服務器本地化來解決。另外，未來對銀行需要增加相關質量控制人員，設計質量控制的流程，訓練大模型輸出的答案專業化、精準化。同時，生成式AI在銀行未來發展過程中有可能會改變銀行原來的業務流程，甚至是責任認定。這些問題應該怎么去應對？銀行是需要做體系化的思考、規劃，同時和監管機構進行深度溝通。