Banken stehen vor KI-Fehlern, Regulierungs- und Sicherheitsherausforderungen.

Einleitung

Künstliche Intelligenz verändert die Finanzdienstleistungsbranche grundlegend: Banken nutzen KI für schnellere Transaktionsabwicklung, präzisere Risikobewertung und effizientere Kundenbetreuung. Mit der gesteigerten Geschwindigkeit und den verbesserten Erkenntnissen gehen jedoch Bedenken hinsichtlich KI-Fehlern, fehlender Verantwortlichkeit, Cybersicherheitsrisiken und regulatorischer Rückstände einher. Laut Forbes diskutierten Branchenexperten auf der Konferenz "Imagination in Action" in Boston eingehend, wie Banken diese Herausforderungen bewältigen können, wobei sie die Bedeutung von Rechenschaftsmechanismen, regulatorischer Transparenz und technischer Kontrollen betonten.

Branchenhintergrund

Die globale Bankenbranche beschleunigt den KI-Einsatz in Bereichen wie Betrugsbekämpfung, Kreditwürdigkeitsprüfung, Transaktionsüberwachung und Kundenservice-Robotern. Große Sprachmodelle (LLMs) und neuronale Netzwerke bringen beispiellose Effizienzsteigerungen, aber auch neue Risiken: Modelle können Halluzinationen erzeugen, Datenverschiebungen (Data Drift) aufweisen und in Out-of-Distribution-Szenarien anfällig sein. Die Branchenpraxis stützt sich in der Regel auf mehrstufige Kontrollen – Eingabevalidierung, Validierungsdatensätze, menschliche Überprüfungsschleifen und Red-Team-Tests – um operative Fehler zu reduzieren. Mit zunehmender Autonomie der KI wird die Verantwortungskette jedoch komplexer.

Auch die Regulierungsbehörden beginnen, sich mit der Governance von Finanz-KI zu befassen. Das EU-Gesetz über künstliche Intelligenz stuft risikoreiche KI-Anwendungen als regulatorischen Schwerpunkt ein und verlangt Transparenz und Dokumentation. Die britische Financial Conduct Authority (FCA) und US-amerikanische Aufsichtsbehörden erarbeiten ebenfalls entsprechende Richtlinien. Der Druck auf die Banken ist nicht nur technischer Natur, sondern betrifft auch Compliance und Reputationsrisiken.

Aktuelle Entwicklungen

Der Forbes-Journalist John Werner berichtete über eine Podiumsdiskussion auf der Konferenz "Imagination in Action" im April dieses Jahres in Boston. Zu den Diskussionsteilnehmern gehörten Celestino Amore von IlliquidX.AI, Miquel Noguer vom Institute for AI in Finance und Brian Peltonen von Parcosm AI. Die Diskussion konzentrierte sich auf drei Kernfragen:

• Verantwortungskette: Wie wird die Verantwortung bei KI-bedingten Schäden entlang der Entwickler, Unternehmen, Führungskräfte und letztendlichen Anwender übertragen? Die Teilnehmer wiesen darauf hin, dass mit zunehmender Autonomie der KI die Verantwortung auf Versicherungen, Führungskräfte und Systementwickler verteilt wird.
• Regulierungsrahmen: Regierungen erlassen Regeln für risikoreiche KI-Nutzung, die Transparenz und Dokumentation erfordern. Die Regulierung wird den gesamten Lebenszyklus von der Modellentwicklung bis zur Bereitstellung abdecken.
• Technische Kontrollen: Amore betonte die Bedeutung von "Containment-Kontrollen" – die Festlegung klarer Grenzen und Eingriffspunkte in KI-Systemen, um unkontrolliertes Verhalten zu verhindern.

Diese Diskussionen spiegeln die allgemeine Besorgnis der Branche über das Risikomanagement von KI wider. Obwohl KI Geschwindigkeit und Erkenntnisse bietet, könnte ein Mangel an ausgereiften Governance-Rahmenwerken schwerwiegende Folgen haben, wie etwa Verzerrungen bei Kreditentscheidungen, Transaktionsfehler oder Datenlecks von Kunden.## Auswirkungen auf das Finanzsystem

Die Einführung von KI verändert das Finanzsystem in vier Dimensionen:

• Zahlungseffizienz: KI-gesteuerte Echtzeitzahlungssysteme reduzieren Verzögerungen und Fehler durch Anomalieerkennung und automatisierte Abstimmung, jedoch können Modellfehlentscheidungen auch zu Zahlungssperren oder unentdecktem Betrug führen.
• Finanzielle Inklusion: KI-basierte Bonitätsbewertungen ermöglichen Kredite für Personen ohne Bankkonto, aber algorithmische Verzerrungen können Ungleichheiten verschärfen. Die regulatorische Anforderung einer dokumentierten Nachvollziehbarkeit hilft, Verzerrungen zu reduzieren.
• Wettbewerb im Bankwesen: Große Banken verfügen über Ressourcen, um eigene KI-Systeme zu entwickeln, während kleinere Banken auf Drittanbieter angewiesen sind. Dies birgt Risiken der Anbieterabhängigkeit und Modell-Supply-Chain-Risiken. In der Verantwortungskette tragen Banken als letztendliche Bereitsteller oft die größte Haftung.
• Compliance-Kosten: Um Transparenz- und Dokumentationsanforderungen zu erfüllen, müssen Banken Modell-Governance-Rahmenwerke etablieren, einschließlich Modellherkunft (Model Lineage), Validierungstests und Audits durch Dritte, was die Betriebskosten erhöht.
• Risikomanagement: KI ermöglicht Banken eine Echtzeitüberwachung von Risiken, aber die „Blackbox“-Natur der Modelle erschwert die Risikobewertung. Aufsichtsbehörden fordern zunehmend reproduzierbare Evaluierungspipelines und prüfbare Evidenzen.

Herausforderungen

• Datenschutz: KI-Training ist auf große Mengen an Kundendaten angewiesen. Banken müssen einen Ausgleich zwischen Compliance (z. B. DSGVO) und Modellleistung finden. Technologien wie differentielle Privatsphäre und föderiertes Lernen sind noch nicht in großem Umfang etabliert.
• Cybersicherheit: KI-Systeme werden zu neuen Zielen für Cyberangriffe, z. B. adversariale Angriffe, die Modelle zu Fehlentscheidungen verleiten. Banken müssen Red-Team-Tests und Anomalieerkennungsmechanismen verstärken.
• Technologische Integration: Die Einbettung von KI in bestehende Bankeninfrastrukturen (z. B. Kernbanksysteme) erfordert umfangreiche Anpassungen. Viele Banken stehen vor Kompatibilitätsproblemen mit Altsystemen.
• Regulatorische Unsicherheit: Die Fragmentierung globaler Regulierungen erschwert es international tätigen Banken, einheitliche Standards anzuwenden. Beispielsweise unterscheiden sich die Hochrisikoeinstufung der EU und der Bottom-up-Ansatz der USA.

Zukunftsausblick

In den nächsten drei bis fünf Jahren wird erwartet, dass Aufsichtsbehörden die Einstufung „hochriskant“ für KI-Anwendungsfälle im Finanzwesen klar definieren und spezifischere Dokumentationsstandards veröffentlichen. Banken könnten freiwillig standardisierte Evaluierungsbenchmarks oder Auditresultate Dritter veröffentlichen, um das Vertrauen der Branche zu stärken. Technisch werden erklärbare KI (XAI) und Mensch-Maschine-Kollaborationsschnittstellen an Bedeutung gewinnen. Eindämmungsmaßnahmen (Containment Controls) und KI-Versicherungsprodukte könnten zum Standard werden.

Insgesamt hängt der Erfolg von KI im Bankwesen nicht nur von der Algorithmenpräzision ab, sondern auch davon, ob die Branche systemische Verantwortungs- und Sicherheitsrahmenwerke etablieren kann. Wie Celestino Amore in der Diskussion anmerkte: Kontrollmechanismen müssen sich parallel zu den KI-Fähigkeiten weiterentwickeln.