“目前市场上的生成式AI模型具有普适性、跨行业普适性、语言模糊性等特点，难以满足银行业对金融专业能力和准确性的高要求。因此，如何让生成式AI模型“讲专业”和“讲真话”，成为生成式AI在银行业大规模应用的两大关键挑战。此外，银行等金融机构对数据安全的高需求也意味着模型的微调和应用很可能在本地进行。”BCG(波士顿咨询公司)董事总经理兼全球合伙人、BCG金融机构特别核心领导谭艳告诉我。
自2022年底ChatGPT3.5发布以来，生成式AI相关话题热度持续上升，以惊人的技术迭代和应用进化速度带动了各行业企业的竞争布局。作为传统AI技术最早的应用之一，银行业也在积极测试水生AI在行业各个领域和场景的应用。基于此，BCG发布了《生成式AI在银行业的应用报告(2023)》，从技术特点、落地场景、大规模普及面临的挑战等方面分析了银行业推广生成式AI应用面临的核心问题。
报告认为，生成式AI在银行业有丰富的应用场景。第一，它可以代替人完成大量重复、简单的基础任务，如处理文件、提取文本元素、生成标准化内容等。二是可以赋能于人，让AI成为助手，帮助产品经理、财富顾问、信贷经理等角色完成更精准的判断，提升关键环节的核心竞争力。
“BCG曾以一家拥有约2万名员工的区域性国际银行为例，初步梳理了银行前中后台应用生成性AI的潜力和收益。据估计，它将在第一年为银行节省约1.5亿美元，约占整体薪酬的7%。”BCG合伙人、BCG金融机构特别核心领导孙伟说。
波士顿咨询认为，大模型从0到1的培养成本和难度都很高，因此未来大模型的开发能力将集中在少数专业机构。对于银行来说，主要的落地路径是直接套用市场上训练出来的大模型。然而，要确保答案的质量和可靠性，有两大挑战需要应对。
一种是“讲真”:生成式AI的“知识”是基于前期训练时已经包装好的“知识”，其知识无法及时更新，也没有融入银行自身掌握的专属数据和信息。二是“讲专业”:大模特虽然有很强的“概括”知识的能力，但不一定能很好地掌握一些专业领域的知识；在预培训期间，没有掌握每个金融机构内部的一些具体表达要求和风格。
要解决以上问题，首先需要让大模型基于给定的数据库生成答案。比如可以将理财经理与客户的对话、理财产品的交易记录输入数据库，整合大模型，形成最终的对话答案；其次，通过有效的提示词设计，模型可以给出符合专业要求的准确答案；最后，直接对大型开源模型的指令进行微调，修改模型参数，使模型在有限的提示下生成更高质量的答案。
在推动生成式AI大规模应用方面，报告认为银行可以分为三个阶段。第一阶段是少量场景的概念验证和本地落地，即选择关键应用场景，快速完成概念验证；第二阶段是进行全场景盘点和系统规划，即根据局部应用的效果和经验，形成大规模实施的顶层方案；第三阶段是大规模应用的落地和系统能力的固化。
“从大模型的部署来看，银行等金融机构对数据安全有着严格的要求，这也意味着模型的微调和应用需要在本地进行，以确保专属数据‘不出银行’。”BCG高级董事总经理冯志宇告诉我。
他认为，在合规性方面，为了保证数据安全，可以通过服务器本地化来解决。此外，未来银行还需要增加相关的品控人员，设计品控流程，将大模型输出的答案训练得专业准确。同时，在银行未来的发展中，生成性AI可能会改变银行原有的业务流程，甚至是责任认定。如何处理这些问题？银行需要做系统的思考和规划，同时与监管机构进行深入的沟通。"