Exploration des applications des grands modèles dans le secteur financier

L'émergence de ChatGPT a suscité une forte anxiété dans le secteur financier. Cette industrie, pleine de foi en la technologie, craint d'être laissée pour compte par les vagues du temps. Des professionnels du secteur ont déclaré que, lors d'un voyage d'affaires à Dali en mai de cette année, ils avaient même entendu des acteurs du secteur financier discuter des grands modèles dans un temple.

Cependant, cette anxiété est en train de se calmer progressivement, et les réflexions des gens deviennent également plus claires et rationnelles. Sun Hongjun, CTO des services bancaires chez Softcom, a décrit les différentes phases de l'attitude du secteur financier face aux grands modèles cette année : de février à mars, il y avait une anxiété générale ; d'avril à mai, les équipes ont commencé à se former pour travailler ; au cours des mois suivants, des difficultés ont été rencontrées lors de la mise en œuvre, et ils ont commencé à devenir rationnels ; maintenant, ils se concentrent sur des cas de référence et essaient de valider des scénarios éprouvés.

Il est à noter que de nombreuses institutions financières commencent à accorder une importance stratégique aux grands modèles. Selon des statistiques incomplètes, parmi les entreprises cotées en A-shares, au moins 11 banques ont clairement indiqué dans leurs derniers rapports semestriels qu'elles explorent l'application des grands modèles. D'après les actions récentes, elles réfléchissent et planifient également de manière plus approfondie du point de vue stratégique et de la conception globale.

De l'enthousiasme à un retour à la raison

Un vétéran de l'industrie financière d'une grande entreprise a déclaré qu'en comparaison avec il y a quelques mois, la compréhension des clients financiers des grands modèles a nettement augmenté. Au début de l'année, lorsque ChatGPT est apparu pour la première fois, bien que l'enthousiasme était élevé, la compréhension de la nature et des modalités d'application des grands modèles était en réalité limitée.

À ce stade, certaines grandes banques ont pris les devants et ont commencé à faire diverses promotions de "buzz". Par exemple, en mars de cette année, une banque a lancé une application de grand modèle similaire à ChatGPT. Cependant, les avis dans l'industrie sont partagés, certains estimant que le nom de cette application met trop l'accent sur la partie "Chat" de ChatGPT, qui est moins importante, tout en négligeant la partie "GPT", qui est plus essentielle.

Dans le même temps, alors que plusieurs fabricants nationaux lancent successivement de grands modèles, certains départements technologiques d'institutions financières de premier plan commencent à discuter activement de la construction de grands modèles avec de grandes entreprises. Selon des sources expérimentées, ces institutions financières espèrent généralement construire leurs propres grands modèles et recherchent des conseils de la part des fabricants en matière de création de jeux de données, d'achat de serveurs et d'entraînement de modèles. Une société de technologie financière d'une grande banque a même proposé de pouvoir partager ses résultats avec ses pairs après la réalisation.

Après mai, la situation a commencé à changer. En raison de la pénurie de ressources de calcul, des coûts élevés et d'autres facteurs, de nombreuses institutions financières ne cherchent plus simplement à construire leurs propres capacités de calcul et modèles, mais se concentrent davantage sur la valeur d'application. Maintenant, chaque institution financière s'intéresse à la façon dont d'autres institutions appliquent de grands modèles et aux résultats obtenus.

Pour les entreprises de différentes tailles, deux trajectoires se sont également formées. Les grandes institutions financières disposant d'une vaste quantité de données financières et de scénarios d'application peuvent introduire des modèles fondamentaux de pointe du secteur, construire leur propre modèle d'entreprise et adopter des méthodes de réglage fin pour former des modèles de tâches dans des domaines spécialisés, permettant ainsi d'habiliter rapidement les activités et de compenser les inconvénients d'un cycle de construction de modèle trop long. En revanche, les petites et moyennes institutions financières peuvent prendre en compte le retour sur investissement, introduire selon les besoins des APIs de cloud public ou des services de déploiement privatif de divers grands modèles, répondant directement aux besoins d'habilitation.

Cependant, en raison des exigences élevées de l'industrie financière en matière de conformité des données, de sécurité et de fiabilité, certaines personnes estiment que le déploiement des grands modèles dans ce secteur avance en réalité un peu plus lentement que prévu au début de l'année. Sun Hongjun de Softcom Power a déclaré qu'ils s'attendaient initialement à ce que l'industrie financière soit la première à adopter massivement les grands modèles, mais d'après la situation finale des clients intégrés, les progrès de l'industrie financière ne sont pas aussi rapides que ceux des secteurs juridique, du recrutement, etc.

Certaines institutions financières ont commencé à chercher des solutions aux divers "goulots d'étranglement" rencontrés lors de la mise en œuvre de grands modèles.

Par exemple, en ce qui concerne la puissance de calcul, les professionnels du secteur ont observé plusieurs approches émergentes dans le secteur financier :

Premièrement, construire directement sa propre puissance de calcul, le coût est élevé mais la sécurité est optimale. Cela convient aux institutions financières solides qui souhaitent créer des modèles industriels ou d'entreprise, comme certaines grandes banques d'État.

Deuxièmement, en adoptant un mode de déploiement hybride, il est possible d'appeler les interfaces de services de grands modèles depuis le cloud public sans que les données sensibles ne sortent du domaine, tout en traitant les services de données locales par le biais d'un déploiement privatif. Cette approche est relativement peu coûteuse, nécessitant seulement un investissement de quelques centaines de milliers de yuans pour acheter quelques cartes GPU, ce qui convient aux institutions financières de taille moyenne et petite avec des ressources financières limitées et une application à la demande.

Cependant, même dans ce cas, de nombreuses petites et moyennes institutions continuent de faire face à la difficulté de ne pas pouvoir acheter ou se permettre des cartes GPU nécessaires pour les grands modèles. À ce sujet, des experts ont révélé que les autorités de régulation mènent récemment des recherches sur certains sujets, explorant la possibilité de construire une infrastructure de grands modèles destinée à l'industrie, centralisant les ressources de calcul et les grands modèles généraux, permettant ainsi aux petites et moyennes institutions financières du secteur d'accéder aux services de grands modèles, afin d'éviter qu'elles ne prennent du retard sur le plan technologique.

Au-delà des questions de puissance de calcul, avec l'exploration de la mise en œuvre de grands modèles au cours des six derniers mois, de nombreuses institutions financières ont également progressivement renforcé leur travail de gouvernance des données.

Un cadre supérieur d'un fournisseur de services cloud de renom a déclaré que, en plus des grandes banques qui ont déjà des pratiques matures dans le domaine de la gouvernance des données, de plus en plus d'institutions financières de taille moyenne commencent également à construire des plateformes de données et des systèmes de gouvernance des données, comme certaines banques régionales au cours du premier semestre de cette année. Il pense que la construction d'un système de gouvernance des données complet et d'une plateforme technique de lac de données deviendra un thème important pour la construction informatique des institutions financières à l'avenir.

Certaines banques résolvent également des problèmes de données en utilisant un modèle large + MLOps. Par exemple, une grande banque a établi un système de boucle de données de modèle large en adoptant le modèle MLOps, réalisant l'automatisation de l'ensemble du processus, ainsi que la gestion unifiée et le traitement efficace des données hétérogènes provenant de sources multiples. Il a été rapporté qu'elle a actuellement construit et consolidé un ensemble de données d'entraînement de haute qualité de 2,6 To.

Entrée par le biais de la scène périphérique

Au cours des six derniers mois, que ce soit pour les fournisseurs de grands modèles ou pour les grandes institutions financières, tous ont activement recherché des cas d'application. Des domaines tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligents, la gestion des risques intelligents et l'analyse des besoins ont tous été explorés un par un.

Comme l'a dit un responsable d'une entreprise de technologie financière renommée, "Chaque fonction clé de la chaîne de valeur financière mérite d'être reconstruite avec la technologie des grands modèles." Cette entreprise a récemment lancé un grand modèle financier et collabore avec des institutions partenaires pour tester en interne et construire des produits de grands modèles destinés à l'industrie financière. L'objectif est de créer un assistant commercial AI sur l'ensemble de la chaîne pour les experts en finance tels que les conseillers en investissement, les agents d'assurance, la recherche et développement, le marketing financier et les indemnisations d'assurance.

Chaque institution financière a des idées riches sur l'application des grands modèles. Une grande banque a déclaré qu'elle avait déjà déployé des applications dans plus de 20 scénarios, une autre banque a indiqué qu'elle avait réalisé des pilotes dans plus de 30 scénarios, tandis qu'une société de valeurs mobilières a déclaré qu'elle explorait la possibilité de connecter les grands modèles avec sa plateforme de personnes numériques virtuelles précédemment lancée...

Mais lorsqu'il s'agit de réellement intégrer des grands modèles dans les affaires, le consensus général est de commencer par l'interne avant de promouvoir à l'extérieur. Après tout, à ce stade, la technologie des grands modèles n'est pas encore mature et présente des problèmes tels que les hallucinations, tandis que le secteur financier est un domaine très réglementé, avec une forte sécurité et une grande fiabilité.

"Il n'est pas recommandé d'utiliser directement pour les clients à court terme." Selon le responsable technique d'une grande banque, les institutions financières devraient prioriser l'application de grands modèles aux scénarios intellectuellement intensifs d'analyse et de compréhension de textes et d'images financières, afin de réaliser une collaboration homme-machine sous forme d'assistant, et d'améliorer l'efficacité des employés.

Les cadres des fournisseurs de services cloud mentionnés ci-dessus ont également déclaré que de nombreux clients financiers considèrent que les assistants de code et les assistants de service client sont des scénarios qui peuvent produire des résultats immédiats. En revanche, des scénarios tels que la recherche d'investissement et le conseil en investissement, bien que très précieux, sont difficiles à réaliser rapidement et nécessitent des données de haute qualité.

Actuellement, l'assistant de code a été déployé dans de nombreuses institutions financières. Par exemple, une grande banque a construit un système de développement intelligent basé sur un grand modèle, et la quantité de code générée par l'assistant de codage représente 40% du code total. De même, dans le domaine de l'assurance, une compagnie d'assurance a développé un plugin d'assistance à la programmation basé sur un grand modèle, intégré directement dans les outils de développement internes.

Sur cette base, certains fournisseurs proposent également des produits prêts à l'emploi pour les clients financiers, en s'appuyant sur la capacité de génération de code des grands modèles. Un cadre d'une société de services informatiques a expliqué qu'un de leurs produits, en plus de la capacité de complétion de code du grand modèle lui-même, a ajouté une série de fonctionnalités telles que la décomposition des tâches, des réponses précises et la levée des limites contextuelles, permettant un usage immédiat par les utilisateurs. Actuellement, ce produit est utilisé par plus de 3000 personnes dans une banque internationale, avec un taux de complétion automatique du code de 50 % à 90 %.

Il existe également de nombreux cas d'application dans le domaine du bureau intelligent. Un expert d'une grande entreprise technologique, responsable des produits de grands modèles pour le secteur financier, a déclaré que la fonction de questions-réponses des agences qu'ils ont lancée sur la base d'un grand modèle financier a été mise en ligne en juillet dans une grande banque et a été progressivement déployée dans plusieurs centaines d'agences, avec un taux d'adoption des réponses dépassant 85 %. Actuellement, la solution standard issue de la question-réponse documentaire est rapidement reproduite dans d'autres banques et institutions financières.

Cependant, les professionnels de l'industrie estiment que ces scénarios déjà largement déployés ne constituent pas encore les applications centrales des institutions financières, et que les grands modèles sont encore loin d'atteindre les niveaux opérationnels du secteur financier.

"Nous jugeons nous-mêmes que la difficulté à mettre en œuvre cela dans des scénarios d'application commerciale est encore assez grande." a déclaré un cadre supérieur d'une entreprise de services informatiques, ajoutant que des domaines tels que le marketing, la gestion des risques et la conformité sont ceux où les grands modèles pourraient apporter des transformations, tout en étant également des points de demande pour les clients financiers. Cependant, compte tenu de la situation actuelle, ces travaux dépendent encore de l'amélioration des capacités des fournisseurs de grands modèles sous-jacents avant de pouvoir développer les scénarios commerciaux.

Les experts des grands modèles des grandes entreprises prédisent qu'avant la fin de cette année, un certain nombre de projets de construction ou d'appels d'offres concernant l'application de grands modèles dans les scénarios d'affaires clés des institutions financières apparaîtront.

Avant cela, certains changements au niveau de la conception de haut niveau étaient en cours.

Lors d'une conférence sectorielle au début du mois de septembre, un professeur d'une université renommée a fait ce jugement : l'ensemble des systèmes intelligents et numérisés à l'avenir sera reconstruit sur la base de grands modèles. Cela exige que le secteur financier, dans le processus de mise en œuvre des grands modèles, restructure ses systèmes. En même temps, il ne faut pas négliger la valeur des petits modèles traditionnels, mais il faut permettre aux grands modèles et aux petits modèles de collaborer.

Cette tendance s'est déjà largement manifestée dans le secteur financier. "Maintenant, les institutions financières testent les grands modèles, elles adoptent essentiellement un modèle hiérarchique." Un cadre supérieur d'un fournisseur de services cloud a expliqué que, contrairement à l'ancienne approche où un scénario nécessitait la construction d'une plateforme en silos, les grands modèles offrent en réalité aux institutions financières une opportunité de planification systémique globale de manière plus scientifique, en partant de zéro.

On peut voir qu'actuellement, plusieurs grandes institutions financières ont construit un cadre système en couches basé sur de grands modèles, comprenant plusieurs niveaux tels que la couche d'infrastructure, la couche de modèle, la couche de service de grand modèle et la couche d'application, comme plusieurs grandes banques, sociétés de valeurs mobilières et compagnies d'assurance.

Ces cadres ont généralement deux caractéristiques marquantes : d'une part, le grand modèle joue un rôle central, utilisant les modèles traditionnels comme des compétences ; d'autre part, le niveau du grand modèle adopte une stratégie multi-modèles, avec des compétitions internes pour sélectionner l'effet optimal.

En fait, pas seulement les institutions financières, dans le contexte actuel incertain, certains fournisseurs d'applications de grands modèles adoptent également une stratégie multi-modèles pour optimiser l'efficacité des services. Un cadre d'une entreprise de services informatiques a révélé que leur couche de modèle sous-jacente intègre également un grand nombre de grands modèles linguistiques, et elle assemble les réponses optimales pour les fournir aux utilisateurs en fonction des réponses retournées par chaque grand modèle.

Le manque de talents reste énorme

L'application des grands modèles a déjà commencé à apporter certains défis et changements à la structure du personnel dans le secteur financier.

Précédemment, un représentant d'une entreprise de technologie financière à Shanghai avait déclaré qu'avec l'apparition de ChatGPT, depuis le début de cette année jusqu'à la fin mai, son entreprise avait déjà licencié plus de 300 analystes de données. Il y a quelques années, c'était encore une profession très recherchée. Cela a suscité son anxiété, au point qu'il a commencé à envisager à l'avance le choix de carrière de sa fille.

Un professionnel senior du secteur financier provenant d'une grande banque a également partagé l'effet de substitution des grands modèles sur les humains. Auparavant, cette banque avait l'habitude de faire en sorte qu'un stagiaire résume et compile diverses informations chaque matin, puis les transmette aux personnes du département de recherche et d'investissement, mais maintenant, ces tâches de stagiaire peuvent être effectuées par de grands modèles.

Cependant, certaines banques ne souhaitent en fait pas que les grands modèles entraînent des suppressions d'emplois. Par exemple, une grande banque avec 200 000 employés dans ses agences a clairement indiqué aux fournisseurs de technologie qu'elle ne souhaitait pas que ses employés soient remplacés par de grands modèles, mais plutôt que ces modèles offrent de nouvelles opportunités, améliorent la qualité du service et l'efficacité du travail des employés, tout en libérant également certains employés pour qu'ils puissent se consacrer à des tâches à plus forte valeur ajoutée.

Cela inclut des considérations sur la stabilité des personnes et des structures. D'un autre côté, c'est aussi parce qu'il y a encore des pénuries de talents pour de nombreux postes dans l'industrie.

Un cadre d'une entreprise de services informatiques a déclaré que les grandes banques avaient une quantité importante de travail inachevé, et que certains délais pour des besoins informatiques étaient même prévus jusqu'à la fin de l'année prochaine. Ils espèrent que les grands modèles pourront aider les employés à accomplir plus de tâches, à améliorer l'efficacité et la rapidité, plutôt que de conduire à une réduction des effectifs.

plus