Les banques font face aux erreurs de l'IA, aux défis réglementaires et de sécurité.

Introduction

L'intelligence artificielle transforme le secteur des services financiers : les banques utilisent l'IA pour accélérer les transactions, affiner l'évaluation des risques et améliorer l'efficacité du service client. Cependant, cette rapidité et ces capacités d'analyse s'accompagnent de préoccupations concernant les erreurs de l'IA, le manque de responsabilité, les failles de cybersécurité et le retard réglementaire. Selon Forbes, lors de la conférence « Imagination in Action » à Boston, des experts du secteur ont examiné en profondeur comment les banques relèvent ces défis, en soulignant l'importance de la responsabilité, de la transparence réglementaire et des contrôles techniques.

Contexte sectoriel

Le secteur bancaire mondial accélère le déploiement de l'IA dans des domaines tels que la lutte contre la fraude, le scoring de crédit, la surveillance des transactions et les robots de service client. L'introduction des grands modèles de langage (LLM) et des systèmes neuronaux a apporté des gains d'efficacité sans précédent, mais aussi de nouveaux risques : les modèles peuvent produire des hallucinations, subir une dérive des données (data drift) et se montrer fragiles dans des scénarios hors distribution. Les pratiques industrielles s'appuient généralement sur plusieurs niveaux de contrôle — validation des entrées, jeux de données de validation, circuits de relecture humaine et tests en équipe rouge (red teaming) — pour réduire les erreurs opérationnelles. Cependant, à mesure que l'autonomie de l'IA augmente, la chaîne de responsabilité devient plus complexe.

Les régulateurs commencent également à s'intéresser à la gouvernance de l'IA financière. Le règlement européen sur l'intelligence artificielle (AI Act) classe les applications d'IA à haut risque comme prioritaires, exigeant transparence et documentation. La Financial Conduct Authority (FCA) britannique et les régulateurs américains élaborent également des lignes directrices. Les banques sont confrontées à des pressions non seulement techniques, mais aussi liées à la conformité et à la réputation.

Évolutions actuelles

Le journaliste de Forbes John Werner a rendu compte d'une table ronde lors de la conférence « Imagination in Action » qui s'est tenue à Boston en avril dernier. Parmi les intervenants figuraient Celestino Amore d'IlliquidX.AI, Miquel Noguer de l'Artificial Intelligence Finance Institute, et Brian Peltonen de Parcosm AI. Les discussions ont porté sur trois questions clés :

• Chaîne de responsabilité : lorsqu'un modèle d'IA cause un préjudice, comment la responsabilité se transmet-elle entre développeurs, entreprises, direction et déployeurs finaux ? Les participants ont souligné qu'avec l'autonomie croissante de l'IA, la responsabilité se répartit entre assureurs, dirigeants et concepteurs de systèmes.
• Cadre réglementaire : les gouvernements édictent des règles pour les utilisations d'IA à haut risque, exigeant transparence et documentation. La réglementation couvrira l'ensemble du cycle de vie, du développement au déploiement.
• Contrôles techniques : Amore a souligné l'importance des « contrôles de confinement » — définir des limites et des points d'intervention clairs dans les systèmes d'IA pour éviter les comportements incontrôlés.

Ces discussions reflètent l'anxiété générale du secteur face à la gestion des risques liés à l'IA. Bien que l'IA offre rapidité et perspicacité, l'absence d'un cadre de gouvernance mature pourrait entraîner des conséquences graves, telles que des biais dans les décisions de crédit, des erreurs de transaction ou des fuites de données clients.## Impact sur le système financier

Le déploiement de l'IA transforme le système financier sous quatre dimensions :

• Efficacité des paiements : Les systèmes de paiement en temps réel basés sur l'IA réduisent les délais et les erreurs grâce à la détection des comportements anormaux et au rapprochement automatisé, mais des erreurs de modèle peuvent également entraîner des blocages de paiement ou des faux négatifs en matière de fraude.
• Inclusion financière : Les scores de crédit basés sur l'IA permettent aux personnes non bancarisées d'accéder aux prêts, mais les biais algorithmiques peuvent exacerber les inégalités. Les exigences réglementaires de traçabilité documentée contribuent à réduire les biais.
• Concurrence bancaire : Les grandes banques disposent de ressources pour construire leur propre IA, tandis que les petites et moyennes banques dépendent de fournisseurs tiers, ce qui soulève des risques de dépendance vis-à-vis du fournisseur et de risques liés à la chaîne d'approvisionnement des modèles. Dans la chaîne de responsabilité, la banque en tant que déployeur final supporte souvent la plus grande part de responsabilité.
• Coûts de conformité : Pour répondre aux exigences de transparence et de documentation, les banques doivent mettre en place des cadres de gouvernance des modèles, incluant la traçabilité des modèles (model lineage), les tests de validation et les audits tiers, ce qui augmente les coûts opérationnels.
• Gestion des risques : L'IA permet aux banques de surveiller les risques en temps réel, mais la nature "boîte noire" du modèle rend l'évaluation des risques difficile. Les régulateurs commencent à exiger des pipelines d'évaluation reproductibles et des preuves auditées.

Défis rencontrés

• Confidentialité des données : L'entraînement de l'IA repose sur des données clients volumineuses, et les banques doivent trouver un équilibre entre conformité (ex. RGPD) et performance du modèle. Des technologies comme la confidentialité différentielle et l'apprentissage fédéré ne sont pas encore déployées à grande échelle.
• Cybersécurité : Les systèmes d'IA deviennent de nouvelles cibles pour les cyberattaques, par exemple les attaques adversariales peuvent induire le modèle en erreur. Les banques doivent renforcer les tests de pénétration (red team) et les mécanismes de détection des anomalies.
• Intégration technologique : L'intégration de l'IA dans l'infrastructure bancaire existante (ex. systèmes bancaires centraux) nécessite des transformations importantes. De nombreuses banques sont confrontées à des problèmes de compatibilité avec les systèmes vieillissants.
• Incertitude réglementaire : La fragmentation réglementaire mondiale rend difficile l'uniformisation des normes pour les banques multinationales. Par exemple, la classification des risques élevés de l'UE diffère de l'approche ascendante des États-Unis.

Perspectives futures

Au cours des trois à cinq prochaines années, on s'attend à ce que les régulateurs définissent clairement les cas d'utilisation de l'IA financière "à haut risque" et publient des normes documentaires plus spécifiques. Les banques pourraient volontairement publier des benchmarks standardisés ou les résultats d'audits tiers pour établir la confiance dans le secteur. Sur le plan technique, l'IA explicable (XAI) et les interfaces homme-machine collaboratives seront davantage valorisées. Les contrôles de confinement (guardrails) et les produits d'assurance des modèles pourraient devenir la norme.

Dans l'ensemble, le succès de l'IA dans le secteur bancaire ne dépend pas seulement de la précision des algorithmes, mais aussi de la capacité du secteur à établir des cadres systémiques de responsabilité et de sécurité. Comme l'a souligné Celestino Amore dans sa discussion : les mécanismes de contrôle doivent évoluer en même temps que les capacités de l'IA.