大模型在金融业：从战略高度思考应用

ChatGPT问世以来，金融业立即产生了强烈的焦虑感。这个对技术充满信心的行业生怕被时代的浪潮甩在后面。这种紧张氛围甚至蔓延到了一些意想不到的地方。一位业内人士透露，今年5月她在大理出差时，竟然在寺庙里遇到有人讨论大模型的话题。

不过，这种焦虑正逐渐回归理性，人们的思路也变得更加清晰。某公司银行业务CTO描述了今年金融业对大模型态度的几个阶段：二三月份时普遍焦虑;四五月份纷纷组建团队开始行动;之后几个月在寻找方向和落地过程中遇到困难,态度趋于理性;现在则是观察标杆企业,尝试验证过的应用场景。

一个新的趋势是,许多金融机构已经开始从战略高度重视大模型。据不完全统计,A股上市公司中至少有11家银行在最新半年报中明确提出正在探索大模型的应用。从近期动作来看,它们正在从战略和顶层设计层面进行更清晰的思考和路径规划。

从热情高涨到理性回归

"比起几个月前,现在能明显感觉金融客户对大模型的理解好了很多。"一位资深人士表示,年初ChatGPT刚出来时,大家虽然热情很高,但对大模型究竟是什么、该怎么用,其实了解得非常有限。

这一阶段,一方面一些大型银行率先行动,开始做各种"蹭热度"的宣传。另一方面,随着多家厂商陆续发布大模型,一些头部金融机构的科技部门开始积极与大厂讨论大模型建设事宜。他们普遍希望自建大模型,询问数据集如何准备、需要多少服务器、如何训练等问题。

5月份以后,情况逐渐发生变化。受制于算力资源紧缺、成本高昂等因素,很多金融机构开始从单纯希望自建模型,转变为更关注应用的价值。"现在每家金融机构都在关注其他人用大模型做了什么,实现了怎样的效果。"

具体到不同规模的企业,也分出了两条路径。拥有海量金融数据和应用场景的大型金融机构,可引入领先的基础大模型,自建企业大模型,同时采用微调形式,形成专业领域的任务大模型,快速赋能业务。中小金融机构则可综合考虑投资回报,按需引入各类大模型的云API或私有化部署服务,直接满足业务需求。

不过,由于金融行业对数据合规性、安全性、可信性等有很高要求,部分人士认为,这一行业的大模型落地进展实际略滞后于年初预期。有专家表示,他们最初预测金融行业可能会最先大规模使用大模型,但从最终对接客户的情况来看,金融行业反而不如法律、招聘等行业应用得快。

一些金融机构已经开始想办法,解决大模型落地过程中的各种限制。

比如在算力方面,业内人士观察到金融业目前涌现出了几种解决思路:

其一,直接自建算力,成本相对高昂,但安全性足够高。适用于实力雄厚、希望自建行业或企业大模型的金融机构,典型如一些大型国有银行。

其二,算力混合部署,即在敏感数据不出域的情况下,接受从公有云上调用大模型服务接口,同时通过私有化部署的方式处理本地的数据服务。这种方式成本相对较低,只需投入几十万元买上几张卡即可满足需求,适用于资金相对薄弱,只按需进行应用的中小型金融机构。

不过,即便如此,很多中小机构仍然面临买不到也买不起大模型所需的GPU卡的难题。针对这个问题,有关部门正在进行一些课题研究,探索是否能够以一种折中的方式,牵头搭建一个面向证券行业的大模型基础设施,集中算力、通用大模型等资源,让行业里的中小金融机构也能用上大模型的服务,以防止它们"技术掉队"。

不仅是算力上,随着最近半年多大家对大模型的落地探索,不少金融机构也逐渐加强了对数据的治理。

某公司高管介绍,目前除了在数据治理领域有成熟实践的头部大行,越来越多的中型金融机构也在开始陆续构建数据中台和数据治理的体系,如今年上半年的一些区域性银行。他认为,构建一个完善的数据治理体系和数据湖技术平台,将会是未来金融机构IT建设非常重要的主旋律。

也有银行正通过大模型+MLOps的方式解决数据问题。比如某大型银行,通过采用MLOps模式建立大模型数据闭环体系,实现了整个流程的自动化,以及多源异构数据的统一管理和高效处理,据悉目前已构建和沉淀2.6TB高质量训练数据集。

从外围场景切入

过去半年多,无论是大模型的服务商,还是各大金融机构,大家都在积极寻找应用场景,智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等都被一一探索。

正如某公司高管所说,"金融业务链条上每一个关键职能,都值得用大模型技术重做一次。"一些公司已经发布了金融大模型,并正与合作机构内测共建面向金融产业的大模型产品,目标是为理财顾问、保险代理、投研、金融营销、保险理赔等金融从业专家打造全链条的AI业务助手。

每家金融机构,也都对大模型有着丰富的畅想和构思。有公司称内部已有20多个场景投放应用,有的说他们在30多个场景中进行了试点,还有的表示正在探索将大模型和此前推出的虚拟数字人平台打通......

但当要真正将大模型落地进行业里,大家的一个共识是,先内部后外部。毕竟,当前阶段而言,大模型技术并不成熟,比如幻觉问题,而金融行业却是一个强监管、高安全、高可信的行业。

"短期内不建议直接对客使用。"某银行高管认为,金融机构应优先将大模型面向金融文本和金融图像分析理解创作的智力密集型场景,以助手形式,人机协同来提升业务人员工作质效。

另一位专家也表示,很多金融客户都认为代码助手和客服助手是前期能直接出一些成果的场景。而像投研、投顾等场景,价值很大,但很难快速出来效果,对数据的要求也高。

目前,代码助手已在不少金融机构落地。比如某大型银行构建了基于大模型的智能研发体系,编码助手生成代码量占总代码量的比值达到40%。又比如在保险领域,某公司研发了基于大模型的辅助编程插件,直接嵌入内部开发工具。

基于此,一部分厂商也在围绕大模型代码生成的能力,直接为金融客户提供开箱即用的产品。有公司开发的一款产品,就是在大模型本身的代码补全能力上,补充任务分解、精准回答、突破上下文限制等一系列工作,实现用户的开箱即用。目前,该产品在某银行已为3000多人所使用,代码自动补全率为50%~90%。

智慧办公领域,也有不少落地案例。某公司负责人介绍,他们基于金融大模型推出的网点问答,7月在某银行上线后,已经陆续推广了几百个网点,答案采纳率超过85%。目前,文档问答孵化成的标准解决方案,又快速复制到其他银行以及交易所等。

不过,业内人士判断,这些已经广泛落地的场景,实际都还不是金融机构的核心应用,大模型距离深入金融行业的业务层面还有一定距离。

"我们自己判断,在业务应用场景这块儿做的难度还是挺大的。"有专家表示,营销、风控、合规等场景都是大模型可能带来变革,同时也是金融客户需求点所在的部分,但就目前的情况而言,这些工作,还要取决于底层大模型厂商们的能力提升情况,再去把业务场景做起来。

另一位专家则预测,到今年底之前,会有一批真正在金融机构核心业务场景里,用上大模型的项目建设或招标信息出来。

而在此之前,一些顶层设计层面的改变正在进行。

某专家做出这样一个判断:未来的整个智能化、数字化系统,都将重新建立在大模型的基础之上。这就要求金融行业在推动大模型落地过程中,要重新架构系统。同时,也不能忽视传统小模型的价值,而应该让大模型、小模型协同起来。

这一趋势已在金融行业得到广泛体现。"现在金融机构试点做大模型,基本上会采取分层的模式。"有专家介绍,不同于过去一个场景需要搭建一个平台的烟囱化模式,大模型其实给了金融机构们一个从零开始,更加科学地去做整体的系统规划的机会。

可以看到,目前已经有多家头部金融机构,都已经基于大模型,搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架,如某些银行、证券公司、保险公司等。

这些框架体系,普遍有两大突出特点:其一,大模型发挥中枢能力,将传统模型作为技能进行调用;其二,大模型层采用多模型策略,内部赛马,选出最优效果。

实际上,不止金融机构,在当前格局未定的情况下,一些大模型应用提供商,也在采用多模型策略,优选服务效果。有专家透露,他们公司的底层模型层也融合了大量大语言模型,他们会根据每个大模型返回的回答,组装优选后给到用户。

人才缺口依然庞大

大模型的应用,已经开始对金融行业的人员结构带来一些挑战和变革。

此前,上海一家金融科技公司的人士曾透露,随着ChatGPT的出现,从今年初到5月底,他所在的公司已经裁掉了300多位大数据分析师。而在几年前,这还是一个炙手可热的职业。这一度引发他的焦虑,甚至开始提前考虑起自己女儿将来的择业问题。

来自某大型银行的金融领域资深人士,也分享了大模型对人的替代效应。该银行原来每天早上都会有实习生将各方面的信息归纳汇总,再给到投研部门的人,但现在实习生的这些工作通过大模型即可完成。

不过,一些银行其实并不希望大模型带来减员。比如拥有大量网点员工的某大型银行,就明确表示他们不希望员工被大模型取代,而应该是大模型带来新的机会,提升员工的服务质量和工作效率,同时也释放出部分员工,做更多高价值的事情。

这其中不乏人员和结构稳定的考量。但另一方面,也是因为行内很多岗位还有人才缺口。

有专家表示,大型银行有很多工作要做,部分IT需求的工期甚至排到了明年年底,他们希望大模型能助力员工完成更多工作,提高效率和速度,而不是带来人员的缩减。

更重要的是,大模型的火来得又急又烈,短时间内,稀缺的人才供给难以匹配上激增的需求。这就好比当初智能手机刚出来时,大家想做应用,满世界找程序员,又贵又难。

在最近的一场金融科技大会上,某银行高管总结了金融行业目前在将大模型能力用到核心业务流程中会遇到的6大挑战,其中之一正是人才。他表示,他们最近招了一些新员工,同时也在做校招,询问是否学习过AI相关领域,占比非常高,但再问大模