Les grands modèles dans le secteur financier : penser à l'application d'un point de vue stratégique

Depuis la sortie de ChatGPT, le secteur financier a immédiatement ressenti une forte anxiété. Cette industrie, confiante en la technologie, craint d'être laissée pour compte par le courant du temps. Cette atmosphère tendue s'est même répandue dans des endroits inattendus. Un professionnel du secteur a révélé que, lors d'un voyage d'affaires à Dali en mai de cette année, elle a même rencontré des gens discutant du sujet des grands modèles dans un temple.

Cependant, cette anxiété revient progressivement à la rationalité et les pensées des gens deviennent plus claires. Le CTO des services bancaires d'une entreprise a décrit les différentes phases de l'attitude de l'industrie financière envers les grands modèles cette année : en février et mars, une anxiété généralisée ; en avril et mai, des équipes se sont formées pour commencer à agir ; les mois suivants, des difficultés ont été rencontrées dans la recherche de direction et de mise en œuvre, l'attitude devenant plus rationnelle ; maintenant, il s'agit d'observer les entreprises de référence et d'essayer de valider les scénarios d'application éprouvés.

Une nouvelle tendance est que de nombreuses institutions financières commencent à accorder une importance stratégique aux grands modèles. Selon des statistiques incomplètes, au moins 11 banques parmi les sociétés cotées en A-shares ont clairement indiqué dans leur dernier rapport semestriel qu'elles exploraient l'application des grands modèles. À en juger par leurs actions récentes, elles effectuent une réflexion et une planification de chemin plus claires au niveau stratégique et de la conception de haut niveau.

D'un enthousiasme débordant à un retour à la raison

"Par rapport à il y a quelques mois, on peut clairement sentir que les clients financiers ont beaucoup mieux compris les grands modèles maintenant." a déclaré un expert, ajoutant qu'au début de l'année, lorsque ChatGPT venait juste de sortir, bien que l'enthousiasme soit élevé, la compréhension de ce qu'étaient réellement les grands modèles et de comment les utiliser était en réalité très limitée.

À ce stade, d'une part, certaines grandes banques prennent les devants et commencent à faire diverses promotions pour "profiter de l'engouement". D'autre part, avec plusieurs fabricants publiant successivement de grands modèles, les départements technologiques de certaines grandes institutions financières commencent à discuter activement de la construction de grands modèles avec les grandes entreprises. Ils espèrent généralement construire leurs propres grands modèles et posent des questions sur la préparation des ensembles de données, le nombre de serveurs nécessaires, la manière de les entraîner, etc.

Après mai, la situation a progressivement changé. En raison de la pénurie de ressources de calcul et des coûts élevés, de nombreuses institutions financières ont commencé à passer d'un simple espoir de construire leurs propres modèles à une plus grande attention portée à la valeur de l'application. "Maintenant, chaque institution financière s'intéresse à ce que d'autres ont fait avec de grands modèles et aux résultats obtenus."

En ce qui concerne les entreprises de différentes tailles, deux voies sont également définies. Les grandes institutions financières possédant d'énormes quantités de données financières et de scénarios d'application peuvent introduire des modèles de base avancés, créer leur propre modèle d'entreprise tout en adoptant une approche de réglage fin pour former des modèles de tâches spécialisés dans des domaines spécifiques, permettant ainsi de dynamiser rapidement les activités. Les petites et moyennes institutions financières peuvent quant à elles considérer le retour sur investissement et introduire selon leurs besoins divers modèles via des API cloud ou des services de déploiement privé, satisfaisant ainsi directement leurs besoins opérationnels.

Cependant, en raison des exigences élevées du secteur financier en matière de conformité des données, de sécurité et de fiabilité, certaines personnes estiment que les progrès de l'implémentation des grands modèles dans ce secteur ont en réalité un peu de retard par rapport aux prévisions du début de l'année. Des experts ont déclaré qu'ils avaient initialement prévu que le secteur financier pourrait être le premier à utiliser massivement les grands modèles, mais d'après la situation finale concernant l'intégration des clients, le secteur financier n'applique en fait pas aussi rapidement que les secteurs juridique et de recrutement.

Certaines institutions financières ont déjà commencé à chercher des moyens de résoudre les diverses limitations du processus de mise en œuvre des grands modèles.

Par exemple, en ce qui concerne la puissance de calcul, les professionnels du secteur ont observé que plusieurs solutions émergent actuellement dans le secteur financier :

D'une part, construire directement sa propre puissance de calcul est relativement coûteux, mais la sécurité est suffisamment élevée. Cela convient aux institutions financières puissantes qui souhaitent construire de grands modèles pour leur secteur ou leur entreprise, typiquement comme certaines grandes banques d'État.

Deuxièmement, le déploiement hybride des capacités de calcul, c'est-à-dire accepter l'appel des interfaces de services de grands modèles depuis le cloud public sans que les données sensibles ne sortent du domaine, tout en traitant les services de données locaux par le biais d'un déploiement privatif. Cette méthode est relativement peu coûteuse, nécessitant seulement un investissement de quelques centaines de milliers de yuans pour acheter quelques cartes afin de satisfaire la demande, ce qui la rend adaptée aux institutions financières de petite et moyenne taille ayant des ressources financières relativement limitées et n'appliquant que selon les besoins.

Cependant, malgré cela, de nombreuses petites et moyennes institutions continuent de faire face à la difficulté d'acheter des cartes GPU nécessaires pour les grands modèles, qu'elles ne peuvent ni se procurer ni se permettre. Pour répondre à ce problème, les autorités compétentes mènent des recherches sur certains sujets, explorant la possibilité de créer une infrastructure de grands modèles destinée au secteur des valeurs mobilières, centralisant les ressources de puissance de calcul et de grands modèles généraux, afin que les petites et moyennes institutions financières du secteur puissent également bénéficier des services des grands modèles, afin d'éviter qu'elles ne "prennent du retard en matière de technologie".

Non seulement en termes de puissance de calcul, mais avec l'exploration de la mise en œuvre des grands modèles au cours des six derniers mois, de nombreuses institutions financières ont également progressivement renforcé leur gouvernance des données.

Un cadre d'une entreprise a déclaré qu'actuellement, en plus des grandes banques qui ont des pratiques matures dans le domaine de la gouvernance des données, de plus en plus d'institutions financières de taille moyenne commencent également à construire progressivement des plateformes de données et des systèmes de gouvernance des données, comme certaines banques régionales au cours de la première moitié de cette année. Il estime que la construction d'un système de gouvernance des données complet et d'une plateforme technologique de lac de données sera le thème très important de la construction informatique des institutions financières à l'avenir.

Certaines banques résolvent également des problèmes de données en utilisant des modèles de grande taille et MLOps. Par exemple, une grande banque a établi un système de boucle fermée de données avec des modèles de grande taille en adoptant le modèle MLOps, ce qui a permis d'automatiser l'ensemble du processus, ainsi que la gestion unifiée et le traitement efficace de données hétérogènes provenant de plusieurs sources. On rapporte qu'elle a déjà construit et consolidé un ensemble de données d'entraînement de haute qualité de 2,6 To.

Aborder la scène périphérique

Au cours des six derniers mois, que ce soit les fournisseurs de grands modèles ou les grandes institutions financières, tout le monde a activement recherché des cas d'application, tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligents, le contrôle des risques intelligents, et l'analyse des besoins, qui ont tous été explorés un par un.

Comme l'a dit un cadre d'une certaine entreprise, "Chaque fonction clé de la chaîne des affaires financières mérite d'être refaite avec la technologie des grands modèles." Certaines entreprises ont déjà publié de grands modèles financiers et collaborent avec des institutions partenaires pour co-développer des produits de grands modèles destinés à l'industrie financière, avec pour objectif de créer un assistant commercial AI complet pour les experts du secteur financier tels que les conseillers en gestion de patrimoine, les agents d'assurance, la recherche et l'analyse financière, le marketing financier, et les règlements d'assurance.

Chaque institution financière a également de riches visions et idées concernant les grands modèles. Certaines entreprises affirment avoir déjà déployé des applications dans plus de 20 scénarios internes, d'autres disent avoir effectué des pilotes dans plus de 30 scénarios, et d'autres encore indiquent qu'elles explorent la possibilité de connecter les grands modèles avec la plateforme de personnes numériques virtuelles lancée précédemment...

Mais lorsqu'il s'agit de réellement déployer de grands modèles dans l'industrie, il y a un consensus général : d'abord en interne, ensuite en externe. Après tout, à ce stade, la technologie des grands modèles n'est pas encore mature, par exemple le problème des hallucinations, tandis que le secteur financier est un secteur fortement réglementé, à haute sécurité et de haute confiance.

"Il n'est pas recommandé d'utiliser directement pour les clients à court terme." Un cadre d'une banque estime que les institutions financières devraient prioriser les scénarios intensifs en intellect où les grands modèles sont orientés vers l'analyse et la compréhension des textes financiers et des images financières, sous forme d'assistants, pour améliorer l'efficacité et la qualité du travail des employés.

Un autre expert a également déclaré que de nombreux clients financiers considèrent que les assistants de code et les assistants de service client sont des scénarios qui peuvent produire des résultats immédiats. En revanche, des scénarios tels que la recherche et le conseil en investissement ont une grande valeur, mais il est difficile d'obtenir rapidement des résultats, et les exigences en matière de données sont également élevées.

Actuellement, l'assistant de code a été mis en œuvre dans de nombreuses institutions financières. Par exemple, une grande banque a construit un système de développement intelligent basé sur un grand modèle, où la quantité de code générée par l'assistant de codage représente 40 % du volume total de code. De même, dans le domaine de l'assurance, une entreprise a développé un plugin d'assistance à la programmation basé sur un grand modèle, intégré directement dans ses outils de développement internes.

Sur cette base, certains fabricants proposent également des produits prêts à l'emploi directement pour les clients financiers, en se concentrant sur la capacité de génération de code des grands modèles. Un produit développé par une entreprise complète la capacité d'auto-complétion de code du grand modèle par une série de tâches telles que la décomposition des tâches, des réponses précises et le dépassement des limites contextuelles, permettant ainsi une utilisation immédiate par les utilisateurs. Actuellement, ce produit est utilisé par plus de 3000 personnes dans une certaine banque, avec un taux d'auto-complétion de code de 50 % à 90 %.

Dans le domaine du travail intelligent, il existe également de nombreux cas concrets. Le responsable d'une certaine entreprise a expliqué qu'ils avaient lancé un système de questions-réponses pour les agences basé sur un grand modèle financier, qui a été mis en ligne dans une certaine banque en juillet et a déjà été progressivement déployé dans plusieurs centaines d'agences, avec un taux d'adoption des réponses supérieur à 85 %. Actuellement, la solution standard issue de l'incubation des questions-réponses documentaires a également été rapidement reproduite dans d'autres banques ainsi que dans des bourses, etc.

Cependant, les professionnels du secteur estiment que ces scénarios déjà largement déployés ne constituent en réalité pas encore des applications centrales des institutions financières, et que les grands modèles sont encore loin d'atteindre les niveaux opérationnels du secteur financier.

"Nous jugeons nous-mêmes que la difficulté dans le domaine des applications commerciales est encore assez grande." Des experts ont indiqué que des scénarios tels que le marketing, la gestion des risques et la conformité sont des domaines où de grands modèles pourraient entraîner des réformes, tout en étant également des points de besoin pour les clients financiers. Cependant, dans la situation actuelle, ces travaux dépendront encore de l'amélioration des capacités des fournisseurs de grands modèles sous-jacents avant de pouvoir développer les scénarios commerciaux.

Un autre expert prévoit qu'avant la fin de cette année, un certain nombre de projets utilisant des modèles de grande taille dans les scénarios d'activités centrales des institutions financières seront construits ou que des informations d'appel d'offres seront publiées.

Et avant cela, certains changements au niveau de la conception de haut niveau sont en cours.

Un expert a formulé ce jugement : l'ensemble du système intelligent et numérisé à l'avenir sera reconstruit sur la base de grands modèles. Cela exige que le secteur financier, dans le processus de mise en œuvre des grands modèles, restructure ses systèmes. En même temps, il ne faut pas négliger la valeur des petits modèles traditionnels, mais plutôt permettre une synergie entre grands et petits modèles.

Cette tendance s'est largement manifestée dans le secteur financier. "Maintenant, les institutions financières testent de grands modèles, et elles adopteront essentiellement un modèle hiérarchique." Un expert a expliqué que, contrairement à la mode de construction de plateformes en silos pour un seul scénario dans le passé, les grands modèles offrent aux institutions financières une opportunité de repartir de zéro et de planifier l'ensemble du système de manière plus scientifique.

On peut voir qu'actuellement plusieurs grandes institutions financières ont déjà construit un cadre de système en couches basé sur de grands modèles, comprenant plusieurs niveaux tels que la couche d'infrastructure, la couche de modèle, la couche de services de grands modèles et la couche d'application, comme certaines banques, sociétés de valeurs mobilières et compagnies d'assurance.

Ces cadres ont généralement deux caractéristiques marquantes : premièrement, les grands modèles exercent des capacités centrales, utilisant des modèles traditionnels comme compétences ; deuxièmement, le niveau des grands modèles adopte une stratégie de plusieurs modèles, avec des compétitions internes pour sélectionner le meilleur résultat.

En réalité, au-delà des institutions financières, dans un contexte d'incertitude actuelle, certains fournisseurs d'applications de grands modèles adoptent également une stratégie multi-modèles pour optimiser l'efficacité des services. Des experts ont révélé que le niveau de base de leur modèle intégrait également un grand nombre de grands modèles de langage, et qu'ils assemblent les réponses optimisées à partir de chaque grand modèle pour les fournir aux utilisateurs.

Le besoin de talents reste énorme

L'application des grands modèles commence à poser certains défis et transformations à la structure du personnel dans le secteur financier.

Précédemment, un représentant d'une entreprise de technologie financière à Shanghai avait révélé qu'avec l'apparition de ChatGPT, depuis le début de cette année jusqu'à fin mai, son entreprise avait déjà licencié plus de 300 analystes de données. Il y a quelques années, c'était encore une profession très convoitée. Cela a suscité une certaine anxiété chez lui, allant même jusqu'à envisager à l'avance les choix de carrière futurs de sa fille.

Un expert du secteur financier d'une grande banque a également partagé l'effet de substitution des grands modèles sur les humains. Auparavant, cette banque avait des stagiaires qui résumaient et compilaient des informations de divers domaines chaque matin, puis les transmettaient aux personnes du département de recherche et d'investissement, mais maintenant, ces tâches des stagiaires peuvent être effectuées par de grands modèles.

Cependant, certaines banques ne souhaitent en réalité pas que les grands modèles entraînent des réductions d'effectifs. Par exemple, une grande banque disposant de nombreux employés dans ses agences a clairement exprimé qu'elle ne souhaitait pas que ses employés soient remplacés par de grands modèles, mais plutôt que ces modèles offrent de nouvelles opportunités, améliorent la qualité du service et l'efficacité au travail des employés, tout en libérant certains d'entre eux pour qu'ils puissent se consacrer à des tâches à plus forte valeur ajoutée.

Cela inclut des considérations de stabilité des personnes et des structures. D'autre part, cela est également dû au fait qu'il y a encore un manque de talents pour de nombreux postes dans l'industrie.

Des experts affirment que les grandes banques ont beaucoup de travail à faire, que certains délais de demande informatique ont même été reportés à la fin de l'année prochaine. Ils espèrent que les grands modèles pourront aider les employés à accomplir plus de tâches, à améliorer l'efficacité et la rapidité, plutôt qu'à entraîner une réduction des effectifs.

Plus important encore, l'essor des grands modèles est à la fois rapide et intense. Dans un court laps de temps, l'offre de talents rares a du mal à répondre à la demande en forte augmentation. C'est un peu comme lorsque les smartphones sont apparus pour la première fois; tout le monde voulait créer des applications et cherchait des programmeurs partout, ce qui était coûteux et difficile.

Lors d'une récente conférence sur la technologie financière, un cadre d'une banque a résumé les 6 principaux défis auxquels le secteur financier est actuellement confronté pour intégrer les capacités des grands modèles dans les processus métiers essentiels, l'un d'eux étant le talent. Il a déclaré qu'ils avaient récemment recruté de nouveaux employés et qu'ils faisaient également des recrutements sur campus, en demandant s'ils avaient étudié des domaines liés à l'IA, et le pourcentage était très élevé, mais en demandant à nouveau sur les grands modèles.