La banque E.SUN s'associe à IBM pour mettre en place un cadre de gouvernance de l'IA dans le secteur bancaire

La banque E.SUN collabore avec IBM afin d'établir des règles de gouvernance plus claires en matière d'IA pour ses applications bancaires internes. Cette initiative s'inscrit dans une tendance plus générale du secteur financier. Si de nombreuses institutions ont déjà recours à l'IA pour la détection des fraudes et l'évaluation de la solvabilité, et certaines pour le service client, la priorité émergente consiste désormais à gérer ces systèmes dans le respect des exigences légales et des critères de gestion des risques.

Les banques sont confrontées à un ensemble croissant de défis lors du déploiement de l'IA. Comment un modèle doit-il être validé avant son lancement ? Qui est responsable d'une décision erronée ? Et comment les entreprises peuvent-elles démontrer l'équité et la sécurité de leurs systèmes aux autorités de régulation ?

Pour répondre à ces questions, E.SUN Bank et IBM Consulting ont développé un cadre de gouvernance de l'IA dédié au secteur bancaire. Ce projet comprend un livre blanc décrivant comment les institutions financières peuvent mettre en œuvre des contrôles internes pour l'IA, en adaptant des normes mondiales telles que la loi européenne sur l'IA et la norme ISO/IEC 42001 au contexte des services financiers.

Le cadre détaille les procédures d'examen des modèles d'IA avant leur déploiement et de surveillance continue une fois qu'ils sont opérationnels. Il établit également des lignes directrices pour l'utilisation des données et la réalisation d'évaluations des risques.

E.SUN Bank a déclaré que ce cadre est conçu pour aider les entreprises financières à intégrer des systèmes d'IA tout en respectant la gouvernance et la conformité réglementaire. La prochaine étape consistera à étendre l'IA, passant d'outils limités à des opérations de base telles que les prêts et les paiements, le tout dans le respect des limites réglementaires établies.

Les banques relèvent le défi de la gestion des risques liés à l'IA

Les institutions financières ont de bonnes raisons de mettre en place des garde-fous pour l'IA. Le secteur bancaire repose sur la confiance, et les régulateurs exigent une prise de décision traçable. La nature de « boîte noire » de nombreux modèles d'IA, où la logique derrière un résultat n'est pas claire, pose des risques dans des domaines tels que l'approbation de crédits ou l'analyse des fraudes, ce qui entraîne un renforcement de la surveillance réglementaire à l'échelle mondiale.

La loi sur l'IA de 2024 de l'Union européenne impose des réglementations strictes sur l'IA à haut risque dans des secteurs tels que la finance, exigeant des évaluations des risques, la documentation des données d'entraînement et une surveillance post-déploiement.

Des normes mondiales voient également le jour. La norme ISO/IEC 42001, publiée en 2023, fournit des lignes directrices pour la mise en place de systèmes de gestion de l'IA au sein des organisations, en mettant l'accent sur la supervision, la surveillance des modèles et la gestion des données afin de permettre une gouvernance cohérente de l'IA à l'échelle de l'entreprise.

Le projet de la banque E.SUN avec IBM synthétise des éléments des deux cadres, démontrant comment ces principes peuvent être appliqués aux activités bancaires quotidiennes.

Faire passer l'IA des projets pilotes à des systèmes à l'échelle de l'entreprise

Alors que les banques utilisent depuis longtemps l'apprentissage automatique pour l'analyse des risques et de la fraude, les nouveaux modèles d'IA s'étendent au service client, à l'examen des documents et à la gestion interne des connaissances.

Cette expansion engendre de nouvelles exigences en matière de gouvernance. Un chatbot de service client peut présenter un faible risque, mais un modèle d'IA influençant l'approbation de prêts ou la détection de fraudes a des implications financières importantes.

Le cadre mis en place par E.SUN Bank et IBM établit un processus de gestion de ces risques, couvrant l'examen des modèles avant leur lancement, la surveillance des résultats après leur déploiement et une répartition claire des responsabilités entre les équipes de développement et de conformité. Le livre blanc qui l'accompagne détaille les étapes permettant de classer les systèmes d'IA par niveau de risque et d'appliquer une surveillance appropriée.

La gouvernance de l'IA prend de l'ampleur dans les services financiers

Le travail de la banque E.SUN reflète une tendance mondiale du secteur où une gouvernance solide est considérée comme une condition préalable au déploiement à grande échelle de l'IA.

Les données du secteur indiquent une adoption généralisée de l'IA dans la finance. Un rapport NVIDIA de 2024 a révélé qu'environ 91 % des entreprises de services financiers évaluent ou utilisent déjà l'IA, principalement pour la détection des fraudes et la modélisation des risques. Une étude de Deloitte montre que plus de 70 % des institutions financières prévoient d'augmenter leurs investissements dans l'IA, souvent en ciblant la surveillance de la conformité et l'analyse des risques.

Parallèlement, les régulateurs intensifient leur attention, exhortant les banques à suivre l'influence des systèmes automatisés sur les décisions critiques. Cela a stimulé des investissements accrus dans la surveillance interne, le centre d'intérêt passant de la simple précision des modèles à la traçabilité des données, la logique décisionnelle et le comportement à long terme des modèles.

Comment la gouvernance influencera le rythme d'adoption de l'IA

L'accent mis sur la gouvernance est susceptible de déterminer la vitesse d'intégration de l'IA dans le secteur bancaire. En l'absence de règles claires, de nombreuses entreprises hésitent encore à aller au-delà de projets pilotes à petite échelle. Un cadre structuré peut permettre l'expansion des projets d'IA tout en répondant aux attentes réglementaires.

C'est l'objectif principal de l'initiative de la banque E.SUN. En alignant les normes mondiales sur les flux de travail bancaires, ce cadre fournit un plan directeur pour le déploiement de l'IA sous une supervision claire. IBM a souligné que ce cadre a été développé pour aider les institutions financières à gérer les risques liés à l'IA à mesure que son adoption se généralise.

Cette initiative met en évidence l'évolution du rôle de la gouvernance dans l'IA d'entreprise. L'accent se déplace du développement initial des modèles vers la gestion continue de ces systèmes. À mesure que l'IA s'intègre aux opérations bancaires de base, une gouvernance efficace pourrait s'avérer tout aussi cruciale que la technologie sous-jacente.

Voir aussi : Manulife intègre des agents IA dans ses flux de travail financiers de base

Vous souhaitez en savoir plus sur l'IA et le big data auprès d'experts du secteur ? Découvrez l'AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet est organisé en parallèle d'autres événements technologiques de premier plan sous l'égide de TechEx. Cliquez ici pour plus d'informations.

AI News est proposé par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.