Am Montag, dem 19. Oktober 2026, hat die britische Financial Conduct Authority (FCA) eine Sammlung guter und schlechter Praxis zum Einsatz von KI in Finanzunternehmen veröffentlicht. Unter dem Titel „AI in financial services: good practice and areas for improvement“ beschreibt sie 20 Fallbeispiele, gekennzeichnet von A bis T: sieben zur Consumer Duty, der britischen Pflicht zu guten Ergebnissen für Verbraucher, neun zu Governance und Verantwortung, vier zur operativen Resilienz. Neue Pflichten schafft die Sammlung nach eigenem Wortlaut nicht, die Beispiele „do not create new requirements“. Am selben Tag skizzierte Jessica Rusu, bei der FCA für Daten, Information und Intelligence zuständig, laut Redetext die Antwort auf das Mills Review zur KI im Privatkundengeschäft: Tests, Assurance und Überwachung direkt bei den Firmen statt einer weiteren Konsultation. Sechs der sieben Empfehlungen des Mills Review gehen nach ihren Worten sofort in die laufende Arbeit.

In Deutschland liegt eine bequeme Lesart nahe. London arbeitet mit Beispielen, die EU mit Gesetzen, also sei hier längst verbindlich geregelt, was die FCA nur beschreibt. Für einen großen Teil der Fälle stimmt das, im Verbraucherkredit haben Kunden in Deutschland sogar durchsetzbare Rechte, wo die FCA nur Praxis beschreibt. Ordnet man die 20 Fälle allerdings danach, was sie prüfen, entsteht ein schiefes Bild. Eingangsdaten, Prüfverfahren und das Inventar der Systeme der Informations- und Kommunikationstechnik (IKT) sind verbindlich geregelt, zum Teil seit Jahren. Für das Ergebnis beim Kunden, an dem die FCA fast jeden Fall misst, findet sich in den hier geprüften Rechtstexten kaum eine Norm. Das Folgende ist eine Ableitung aus den Rechtstexten und eine eigene Zuordnung der Fälle, keine Aussage einer Aufsicht. Drei der Fehlerbilder standen bereits im LinkedIn-Carousel vom 20. Oktober. Hier geht es um alle 20 und um die Frage, wo sie in Deutschland auf eine Norm treffen.

In Kürze

Was: Sammlung guter und schlechter KI-Praxis der FCA vom 19. Oktober 2026, 20 Fallbeispiele, ohne neue Pflichten

Wer: Kontrollfunktionen deutscher Institute, die KI im Kreditgeschäft, in der Kundenkommunikation oder mit Modellen externer Anbieter einsetzen

Wo es greift: Eingangsdaten, Prüfverfahren und IKT-Inventar sind verbindlich geregelt, das Ergebnis beim Kunden kaum

Rechtsgrundlage: Art. 22 Datenschutz-Grundverordnung (DSGVO), §§ 30 und 37a Bundesdatenschutzgesetz (BDSG) ab 20. November 2026, Mindestanforderungen an das Risikomanagement (MaRisk) AT 4.3.4 und AT 8.2, Digital Operational Resilience Act (DORA) Art. 8 und 28, EU AI Act ab 2. Dezember 2027

Haken: Die MaRisk gelten nur für weniger bedeutende Institute, die Hochrisiko-Pflichten des EU AI Act nur für die Kreditwürdigkeitsprüfung natürlicher Personen

Die FCA legt ihren Prüfmaßstab offen

Die Fälle stammen nach Angabe der FCA aus Gesprächen mit Firmen, Verbänden, Verbraucherorganisationen und Technologieanbietern, aus der Arbeit am Mills Review sowie aus ihren Testprogrammen AI Live Testing und Supercharged Sandbox. Sie sind kurz, anonym und ohne Zahlen. Vier der 20 Fälle beschreiben ein Scheitern, die übrigen eine Praxis, die die Aufsicht für gelungen hält. Als Rechtsrahmen nennt die FCA ausschließlich bestehende Regeln, von den Principles for Businesses über das Senior Managers and Certification Regime (SM&CR) bis zum Beschwerderecht. Zwar ließe sich die Sammlung deshalb als britische Anekdotensammlung abtun. Doch sie zeigt, mit welchem Maßstab eine Aufsicht künftig in eine KI-Anwendung hineinschaut, und dieser Maßstab ist erkennbar ein anderer als der eines Prüfkatalogs.

Die FCA fragt in fast jedem Fall, was beim Kunden ankommt. Eine Firma testete vor dem Einsatz, ob Merkmale möglicher Schutzbedürftigkeit, etwa ein Bedarf an Barrierefreiheit, den Betrugsverdacht oder die Annahme von Schadensmeldungen beeinflussten (Fall B). Eine andere ließ KI-formulierte Antworten auf Beschwerden von einer kleinen Gruppe unterschiedlicher Kunden lesen, bevor sie das Werkzeug einführte, und maß das Ergebnis an Kennzahlen wie der Erledigung von Beschwerden (Fall E). Ein Schutzmechanismus gegen Modelldrift lieferte dagegen so allgemeine Antworten, dass Kunden zu unpassenden Optionen gelenkt wurden (Fall C). Die Sammlung fasst den Maßstab als Fehlerbild zusammen: Wer technische Kennzahlen statt Ergebnisse überwache, habe eine geringere Chance auf wirksame Aufsicht. Das Muster dahinter ist die Consumer Duty, die nach den Worten von Jessica Rusu „an outcomes-based regulatory framework“ ist.

Where firms monitored technical metrics rather than outcomes, they had less chance of meaningful oversight. Financial Conduct Authority, AI in financial services: good practice and areas for improvement, 19. Oktober 2026

Sortiert man die 20 Fälle nach diesem Maßstab, ergeben sich vier Ebenen. Ein Fall prüft die Eingangsdaten, acht prüfen Verfahren und menschliche Prüfung, fünf das Inventar der Systeme und den Ausstieg aus einer Anbieterbeziehung, sechs das Ergebnis beim Kunden. Für jede Ebene lässt sich fragen, welche deutsche Norm denselben Sachverhalt verbindlich regelt und mit welcher Einschränkung. Die Grafik zeigt das Ergebnis dieser Übertragung. Drei Ebenen tragen eine verbindliche Norm, jede mit einem eigenen Anwendungsbereich, der deutlich enger ist als der britische Prinzipienrahmen. Die vierte bleibt nach den durchsuchten Quellen offen. Die Zuordnung der Fälle ist eine eigene Einordnung, an manchen Stellen ließe sich ein Fall auch einer Nachbarebene zuschlagen. Die Ebene der Eingangsdaten hängt an einem einzigen Fall, einem Test auf Verzerrungen.

3 von 4EBENEN MIT VERBINDLICHER DEUTSCHER NORMDie 20 Fallbeispiele der FCA, sortiert nach dem, was sie prüfenEINGANGSDATENFCA-FÄLLE BMaRisk AT 4.3.4 Tz. 3 · § 37a BDSG ab 20.11.2026nur Modelle weniger bedeutender Institute · § 37a nur bei vollautomatisierter EntscheidungGEREGELTVERFAHREN UND PRÜFUNGFCA-FÄLLE H J K L M N O PArt. 22 DSGVO · MaRisk AT 8.2 · § 30 (6) BDSG ab 20.11.2026Art. 22 bei ausschließlich automatisierter Entscheidung · § 30 (6) nur Allgemein-VerbraucherdarlehenGEREGELTINVENTAR UND AUSSTIEGFCA-FÄLLE I Q R S TDORA Art. 8 Inventar · Art. 28 (8) Exit-StrategieInventar für alle IKT-Assets · Exit-Strategie nur für kritische oder wichtige FunktionenGEREGELTERGEBNIS BEIM KUNDENFCA-FÄLLE A C D E F GKein Gegenstück zur Consumer Duty gefunden§ 4 (1a) FinDAG schützt kollektive Verbraucherinteressen, keinen EinzelfallOFFENZuordnung der Fälle: eigene Einordnung · Quellen: FCA, 19.10.2026 · MaRisk 30.06.2026 · BGBl. 2026 I Nr. 139 · DORA
Drei von vier Ebenen tragen eine verbindliche deutsche Norm, jede mit ihrer Einschränkung. Für das Ergebnis beim Kunden fand sich kein Gegenstück zur britischen Consumer Duty. Die Zuordnung der 20 Fälle zu den Ebenen ist eine eigene Einordnung, keine Aussage der FCA oder der BaFin. Quellen: FCA, AI in financial services: good practice and areas for improvement, 19.10.2026 · BaFin, MaRisk, Fassung vom 30.06.2026 · BGBl. 2026 I Nr. 139 · DORA, VO (EU) 2022/2554, Art. 8 und 28.

Eine Häkchen-Prüfung im Kredit zählt schon heute als automatisierte Entscheidung nach Art. 22 DSGVO

Fall O ist der härteste der Sammlung. In einer Firma wurde die Rolle des menschlichen Prüfers mit der Zeit zum Häkchen, Prüfer übernahmen KI-Empfehlungen ohne ausreichende Prüfung, und unklare Eskalationskriterien ließen auch Ergebnisse mit geringer Konfidenz durch. Einen Anwendungsfall nennt die FCA nicht. Spielt der Fall in einer Kreditentscheidung, greift in Deutschland nicht erst der EU AI Act, sondern heute schon Art. 22 DSGVO, das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden. Die Artikel-29-Datenschutzgruppe hat in ihren nicht bindenden Leitlinien zu automatisierten Entscheidungen von 2017 (Working Paper 251, WP251) festgehalten, dass ein Verantwortlicher Art. 22 nicht umgehen kann, „by fabricating human involvement“. Wer automatisch erzeugte Profile routinemäßig übernimmt, ohne tatsächlichen Einfluss auf das Ergebnis, trifft danach weiterhin eine ausschließlich automatisierte Entscheidung. Die Prüfung muss „meaningful, rather than just a token gesture“ sein und von jemandem stammen, der die Befugnis und Kompetenz hat, die Entscheidung zu ändern.

Das präzisiert die Zuordnung aus dem Carousel vom 20. Oktober, die den Fall erst dem EU AI Act ab Dezember 2027 zugewiesen hatte. Ab dem 20. November 2026 kommt eine zweite Norm hinzu. Das Gesetz zur Umsetzung der Verbraucherkreditrichtlinie (EU) 2023/2225 vom 12. Mai 2026 fügt mit § 30 (6) BDSG ein Recht ein, das enger am Fall liegt: Beinhaltet die Kreditwürdigkeitsprüfung bei einem Allgemein-Verbraucherdarlehen „eine automatisierte Verarbeitung personenbezogener Daten“, kann der Darlehensnehmer „das Eingreifen einer Person verlangen“. Dazu gehören laut Gesetzestext klare Erläuterungen zur Logik der Prüfung, die Darlegung des eigenen Standpunkts und die Überprüfung der Entscheidung. Auslöser ist bereits eine automatisierte Verarbeitung, nicht erst eine ausschließlich automatisierte Entscheidung. Für Immobiliar-Verbraucherdarlehen gilt die Vorschrift nicht. Bis zu ihrem Inkrafttreten bleiben vom Publikationstag dieses Artikels an 24 Tage.

Daneben steht der neue § 37a BDSG zum Scoring, der erst im Rechtsausschuss des Bundestags in das Gesetz kam. Seine Liste ausgeschlossener Daten gilt nur unter einer Bedingung. Nach der Begründung des Ausschusses (Bundestag-Drucksache 21/5381) überführt er den bisherigen § 31 BDSG „in eine Ausnahmeregelung vom Verbot des Artikels 22 Absatz 1“ DSGVO. Wer eine vollautomatisierte Kreditentscheidung auf diese Ausnahme stützt, darf dafür ab dem 20. November keine Informationen über Zahlungseingänge und -ausgänge auf Bankkonten verwenden, kein Alter, kein Geschlecht und keine Anschriftendaten. Pflichten zur Einbeziehung von Einkommensverhältnissen in die Risikobewertung bleiben laut derselben Begründung unberührt. Fall G zeigt beispielhaft, wo die Grenze verlaufen kann: Dort fand eine KI Ausgabemuster, die auf Schutzbedürftigkeit hindeuten, und ein Ethikkomitee entschied, ob die Firma weiter Kredit gewährt. Eine Entscheidung, die ein Gremium trifft, ist keine vollautomatisierte, und § 37a (2) greift dann nicht.

Der EU AI Act verweist die Bank bei der Überwachung zurück ins eigene Haus

Ab dem 2. Dezember 2027 gelten die Hochrisiko-Pflichten des EU AI Act für KI-Systeme, die die Kreditwürdigkeit natürlicher Personen prüfen oder ihren Score ermitteln, mit Ausnahme der Betrugserkennung. Die Ausnahme in Art. 6 (3) für Systeme, die nur vorbereiten, steht dafür nicht offen, denn ein System gilt nach dem letzten Unterabsatz „always“ als hochriskant, wenn es Profiling natürlicher Personen betreibt. Der Betreiber muss die menschliche Aufsicht nach Art. 26 (2) Personen zuweisen, die über „the necessary competence, training and authority“ verfügen, und vor der Inbetriebnahme eine Grundrechte-Folgenabschätzung nach Art. 27 erstellen, deren Ergebnis an die Marktüberwachungsbehörde geht. Das ist in Deutschland für Finanzinstitute die BaFin. Art. 14 (4) b verlangt, dass Aufsichtspersonen sich der Neigung zum übermäßigen Vertrauen in die Ausgabe des Systems bewusst bleiben können, der Verordnungstext nennt das „Automatisierungsbias“. Fall O beschreibt genau diese Neigung, Fall N eine Methode dagegen.

Freilich schränkt die Verordnung ihre Reichweite für Banken an zwei Stellen ein, die in der Debatte selten zusammen gelesen werden. Die erste ist ein Verweis: Für Finanzinstitute gilt die Überwachungspflicht des Betreibers nach Art. 26 (5) als erfüllt, wenn sie die Regeln zur internen Governance nach dem Finanzdienstleistungsrecht einhalten, ähnliche Erleichterungen gelten für das Qualitätsmanagement und die Dokumentation. Die Zuweisung der menschlichen Aufsicht in Art. 26 (2) ist davon ausgenommen. Die zweite ist ein Bestandsschutz. Nach Art. 111 (2) in der Fassung des Digital-Omnibus gilt die Verordnung für Hochrisiko-Systeme, die vor dem Stichtag in Betrieb waren, nur dann, wenn sie danach „significant changes in their designs“ erfahren. Ein Kreditscore, der vor Dezember 2027 läuft, bleibt draußen, bis er wesentlich umgebaut wird. Fall T, in dem das zugrunde liegende Modell eingestellt wurde und die Firma ihr Produkt neu entwerfen musste, beschreibt genau so einen Moment.

Hinzu kommt eine Abgrenzung, die noch offen ist. Nach den Leitlinien der Kommission zur Definition eines KI-Systems fallen Systeme, die etablierte Verfahren wie die lineare oder logistische Regression lediglich verbessern, nicht unter den Begriff. Die Leitlinien sind nicht bindend, und die Abgrenzung ist umstritten. Für einen klassischen Scorecard-Score kann das bedeuten, dass er weder ein Hochrisiko-System nach dem EU AI Act noch, als Modell im Anwendungsbereich der Capital Requirements Regulation (CRR), ein Modell im Sinne der MaRisk ist, deren Modellmodul solche Modelle ausdrücklich ausnimmt. Für bedeutende Institute unter direkter Aufsicht der Europäischen Zentralbank gelten die MaRisk seit der Fassung vom 30. Juni 2026 ohnehin nicht mehr. Das deutsche Netz im Verbraucherkredit ist also dicht, aber an Bedingungen geknüpft: an den Institutstyp, an die Modellart, an den Zeitpunkt der Inbetriebnahme und an den Grad der Automatisierung.

Für Briefe und Chatbots regelt das deutsche Recht die Form der Antwort

Anders liegt es bei den Fällen, in denen ein Sprachmodell Text erzeugt. Fall E beschreibt ein Werkzeug, das Antwortbriefe auf Beschwerden formuliert, Fall F einen Chatbot im Kundenservice, der Hinweise auf Schutzbedürftigkeit an Mitarbeitende meldet. Die MaRisk definieren ein Modell in den Erläuterungen zu AT 4.3.4 als Methode, die Eingabedaten „zu quantitativen Schätzungen“ verarbeitet, und erfassen Modelle, die „für die in diesem Rundschreiben geregelten Prozesse eingesetzt werden“. Ob ein Briefgenerator darunter fällt, hat die BaFin nicht entschieden, der Wortlaut spricht an beiden Stellen eher dagegen. Zwar ist das Werkzeug damit nicht ungeregelt. Das Rundschreiben 06/2018 der BaFin zum Beschwerdemanagement verlangt in Textziffer 21: „Die Kommunikation mit dem Beschwerdeführer hat in klarer, eindeutig verständlicher Sprache zu erfolgen.“ AT 8.2 der MaRisk schreibt vor, vor wesentlichen Veränderungen in den IKT-Systemen die Auswirkungen auf die Kontrollverfahren zu analysieren und dabei Risikocontrolling, Compliance und Interne Revision zu beteiligen. Das ist der deutsche Anker gegen Fall J, in dem eine Firma KI einführte, bevor jemand für ihre Aufsicht zuständig war.

Doch beide Normen regeln, wie eine Antwort beschaffen sein muss und wie eine Einführung abläuft. Ob die Kunden die Antwort verstanden haben, fragt keine von ihnen. Die Firma aus Fall E hat genau das getestet, mit einer Stichprobe unterschiedlicher Kunden und mit Kennzahlen zur Beschwerdeerledigung. Der EU AI Act hilft hier wenig: Die Transparenzpflichten in Art. 50 treffen bei Chatbots und KI-generierten Inhalten vor allem den Anbieter des Systems, für die Bank als Betreiberin bleibt bei Antwortbriefen in der Regel die Pflicht aus Art. 4, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen. Der Digital-Omnibus hat sie abgeschwächt: Sie verlangt nicht mehr, für irgendeine Person ein bestimmtes Kompetenzniveau zu garantieren. Bei schutzbedürftigen Kunden ist der Abstand am größten. Die FCA kritisiert Firmen, die Kunden mit Vulnerabilitätsmerkmalen pauschal aus KI-Strecken ausschließen, ohne ihnen einen anderen Weg anzubieten. Ein Gegenstück zur britischen Leitlinie FG21/1 über die faire Behandlung schutzbedürftiger Kunden hat sich in den durchsuchten Quellen der BaFin nicht gefunden. Der Auftrag aus § 4 (1a) Finanzdienstleistungsaufsichtsgesetz (FinDAG) gilt den kollektiven Verbraucherinteressen und setzt einen erheblichen, dauerhaften oder wiederholten Gesetzesverstoß voraus, nicht ein schlechtes Ergebnis im Einzelfall.

Im DORA-Inventar fehlen die Kontrollen, die für einen Agenten gelten

Für agentische Anwendungen beschreibt die FCA als gute Praxis ein zentrales Inventar, in dem Firmen ihre Agenten registrieren, mit Angaben dazu, welche live sind, wem sie gehören, auf welche Systeme und Daten sie zugreifen können und welche Kontrollen gelten. Im IT Finanzmagazin hieß dieses Instrument im Mai „Agent Registry“. Ein eigenes KI- oder Agentenregister verlangt in Deutschland keine Norm. Der DORA verlangt aber in Art. 8 ein Inventar aller IKT-Assets, und die technischen Regulierungsstandards in der Delegierten Verordnung (EU) 2024/1774 schreiben in Art. 4 die Pflichtfelder vor: eine eindeutige Kennung, den Eigentümer des IKT-Assets, die unterstützten Geschäftsfunktionen, die Abhängigkeiten zwischen den Assets und die Enddaten des Supports durch den Dienstleister. Die BaFin zählt Modelle in ihrer Orientierungshilfe zu IKT-Risiken beim Einsatz von KI vom 18. Dezember 2025 ausdrücklich dazu, das Modell werde „als IKT-Asset (Software) verstanden“. Die Orientierungshilfe ist nach eigener Aussage eine nicht verpflichtende Hilfestellung, das Inventar selbst ist DORA-Pflicht. Was gegenüber dem britischen Beispiel fehlt, sind die Felder für die Zugriffsrechte eines Agenten und die Kontrollen, die für ihn gelten.

Beim Ausstieg aus einer Anbieterbeziehung ist die Lage ähnlich. DORA verlangt in Art. 28 (8) Exit-Strategien und Übergangspläne, allerdings nur für IKT-Dienstleistungen, die kritische oder wichtige Funktionen unterstützen. Eine Pflicht des Anbieters, Modellwechsel oder die Abkündigung eines Modells vorher anzukündigen, steht im Wortlaut nicht, die Mitteilungspflichten in Art. 30 (3) beziehen sich auf die Fähigkeit des Anbieters, die Leistung zu erbringen. Die Delegierte Verordnung (EU) 2025/532 verlangt eine Vorabmitteilung nur für Änderungen der Unterauftragsvergabe. Die FCA nennt als gute Praxis Firmen, die sich vertraglich zusichern ließen, über wesentliche Modelländerungen vorab informiert zu werden. Die BaFin beschreibt dasselbe Problem in ihrer Orientierungshilfe als Testhindernis, als „unangekündigte Modelländerungen bei der Nutzung eines KI-Modells, das von Dritten bezogen wurde“. Das Support-Enddatum im DORA-Inventar ist der Ort, an dem sich Fall T rechtzeitig ankündigen könnte, vorausgesetzt, jemand trägt dort das Abkündigungsdatum des Modells ein und nicht nur das der Plattform.

Bei der Meldung von Vorfällen geht die FCA über den europäischen Rahmen hinaus, allerdings bisher nur als Ziel. Die Pflicht zur Meldung schwerwiegender Vorfälle müsse sich auch auf erhebliche KI-Fehler und Beinahe-Vorfälle erstrecken, heißt es im Redetext von Jessica Rusu: „that must extend to significant AI failures and near-misses“. DORA kennt keinen Beinahe-Vorfall, in der Verordnung und ihren Durchführungsrechtsakten zur Vorfallmeldung kommt der Begriff nicht vor. Ein IKT-Vorfall setzt nach Art. 3 Nr. 8 voraus, dass die Sicherheit der Systeme beeinträchtigt ist und Verfügbarkeit, Authentizität, Integrität oder Vertraulichkeit von Daten oder die erbrachten Dienste leiden. Ein Chatbot, der falsche Auskünfte gibt, ohne dass ein System kompromittiert ist, dürfte danach oft gar kein IKT-Vorfall sein. Intern verlangt Art. 17 (2) immerhin, alle IKT-bezogenen Vorfälle zu erfassen. Dort, wo eine KI-Fehlleistung die Sicherheit berührt, ist das der naheliegende Ort, sie zu kennzeichnen, wie es die BaFin-Orientierungshilfe empfiehlt.

Die Ampel-Schwellen der FCA beschrieb die BaFin 2021 als Stufenmodell

Zwei Fälle der FCA wirken auf deutsche Leser vertraut, weil die BaFin ein ähnliches Muster bereits beschrieben hat. In Fall M musste die zuständige Führungskraft vor der Freigabe ein Playbook für Vorfälle genehmigen, mit Schwellen in Rot, Amber und Grün und vorab festgelegten Schritten bis zur vorübergehenden Abschaltung. In Fall P übersetzte eine Firma ihren Risikoappetit in solche Schwellen, vereinbart zwischen Fachbereich und Modellrisiko. Nach eigener Einordnung entspricht das strukturell einem Muster, das die BaFin am 15. Juni 2021 in ihrem Papier „Big Data und künstliche Intelligenz: Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen“ beschrieben: ein Stufenmodell, in dem ab der ersten Stufe ein Mensch freigibt und in der letzten Stufe eine Freigabe zunächst unterbleibt, eine „Stopping-Rule“, die stattdessen ein Signal zur Überprüfung des Modells setzt, beschrieben hat. Für die Geschäftsleitung hielt das Papier fest: „Für materielle unternehmerische Entscheidungen ist der Vorstand stets selbst verantwortlich, auch dann, wenn sie auf Algorithmen fußen.“

Verbindlich wurde das Papier nie. Die BaFin nannte es selbst „vorläufige Überlegungen“ und eine „Diskussionsgrundlage“, die zugleich als Orientierungshilfe dienen solle. In die MaRisk gelangte 2024 ein anderer Teil der Überlegungen, die Erstreckung des Modellmoduls auf künstliche Intelligenz samt hinreichender Erklärbarkeit, damals in AT 4.3.5, seit der Fassung vom 30. Juni 2026 in AT 4.3.4. Das Stufenmodell mit seiner Stopping-Rule blieb Orientierung. Die FCA geht den umgekehrten Weg: Sie formuliert gar keine Regel und zeigt stattdessen Firmen, die so arbeiten. Auch bei der Verantwortung unterscheiden sich die Systeme. Im SM&CR lässt sich KI-Risiko einer namentlich benannten Senior Management Function (SMF) zuordnen, und Fall L beschreibt eine Firma, die je Anwendungsfall die SMF des betroffenen Geschäftsbereichs verantwortlich machte und daneben einen Model Owner für den technischen Bau bestimmte. Das Kreditwesengesetz (KWG) kennt nach § 25a (1) die Verantwortung der Geschäftsleiter für die ordnungsgemäße Geschäftsorganisation und nach AT 3.1 der MaRisk eine Gesamtverantwortung „unabhängig von der internen Zuständigkeitsregelung“. Eine Pflicht, KI-Risiken namentlich zuzuordnen, fand sich in den geprüften Quellen nicht. Dass das Problem dasselbe ist, hat Pedro Machado, Vertreter der Europäischen Zentralbank im Aufsichtsgremium, im Februar beschrieben: „fragmented ownership, with responsibility split across IT, data science teams, business lines and control functions, without a clear accountability framework“.

Eine Überschreibungsquote nahe null ist ein Befund

Zwischen dem britischen Ergebnismaßstab und dem deutschen Verfahrensrecht gibt es eine Kennzahl, die beide bedient. Die MaRisk verlangen in AT 4.3.4 Textziffer 4 Regelungen zur Verwendung der Modellergebnisse, soweit relevant auch zu Überschreibungen, und in Textziffer 5 eine Validierung, bei der „die sachgerechte Handhabung der Modellergebnisse“ zu überprüfen ist. Wer Handelsbücher geführt hat, kennt das Limit, das nie zieht. Entweder ist es zu großzügig gesetzt, oder niemand prüft, ob es greifen würde. Eine Überschreibungsquote nahe null ist dasselbe Signal. Sie kann bedeuten, dass das Modell gut ist, oder dass die Prüfer ihm folgen, wie es Fall O beschreibt. Welches von beiden zutrifft, zeigt nur ein Vergleich, wie ihn Fall N angelegt hat: Während der Einführung entschieden dort Mitarbeitende bei Tragfähigkeitsprüfungen (affordability), ohne den Vorschlag des Systems zu sehen, sodass sich das unabhängige menschliche Urteil mit dem der KI vergleichen ließ.

Zwar ist das deutsche Netz an drei Stellen verbindlicher als die britischen Beispiele: Art. 22 DSGVO bei einer Häkchen-Prüfung im Kredit, das Beschwerderundschreiben bei KI-Antwortbriefen, AT 8.2 der MaRisk bei einer Einführung ohne Governance. Doch alle drei regeln Eingangsdaten oder Verfahren, keine fragt nach dem Ergebnis beim Kunden. Die FCA kündigt an, ihre Sammlung fortzuschreiben, und Jessica Rusu bezeichnet sie im Redetext als „not intended to be static guidance“. Für deutsche Institute wird die Frage, ob eine KI-Anwendung beim Kunden das Richtige bewirkt, damit nicht zur Rechtspflicht. Sie bleibt aber die Frage, die eine Prüfung der Überschreibungen am ehesten beantworten kann, und sie lässt sich stellen, bevor eine Aufsicht danach fragt.

Handlungsempfehlungen für Modellrisiko, Compliance und IKT-Risikomanagement

1. Die Überschreibungsquote je KI-Anwendung messen

Laufend: Für jede KI-Anwendung mit menschlicher Prüfung festhalten, wie oft Prüfer den Vorschlag des Systems ändern oder ablehnen, und die Quote im Validierungsbericht nach AT 4.3.4 Textziffer 5 ausweisen. Eine Quote nahe null ist ein Anlass, eine Stichprobe blind prüfen zu lassen, wie in Fall N.

2. Das Verfahren nach § 30 (6) BDSG bis zum 20. November aufsetzen

Bis 20. November 2026: Für Allgemein-Verbraucherdarlehen mit automatisierter Kreditwürdigkeitsprüfung festlegen, wer auf Verlangen eingreift, wie die Logik der Prüfung erläutert wird und wie die Überprüfung dokumentiert ist. Die prüfende Person braucht die Befugnis, die Entscheidung zu ändern, sonst bleibt sie im Sinne von Art. 22 DSGVO ausschließlich automatisiert.

3. Kreditscores vor Dezember 2027 inventarisieren

Bis Ende 2027: Für jeden Score, der die Kreditwürdigkeit natürlicher Personen bewertet, festhalten, ob er ein KI-System im Sinne des EU AI Act ist, wann er in Betrieb ging und welche Änderung als wesentliche Designänderung nach Art. 111 (2) gelten würde. Ein Modellwechsel beim Anbieter kann diesen Punkt auslösen.

4. Das IKT-Asset-Inventar um KI-Felder ergänzen

Nächste Inventurrunde: Zu jedem Modell und jedem Agenten neben den Pflichtfeldern der Delegierten Verordnung (EU) 2024/1774 die Modellversion, das Abkündigungsdatum des Anbieters, die Zugriffsrechte und die geltenden Kontrollen erfassen. Damit wird das DORA-Inventar zur Agent Registry, ohne ein zweites Register zu führen.

5. Ankündigungsfristen für Modelländerungen vertraglich sichern

Bei Vertragsverlängerung: DORA regelt die Ankündigung neuer Modellversionen nicht ausdrücklich. Mit Anbietern von Sprachmodellen Fristen für die Mitteilung wesentlicher Modelländerungen und Abkündigungen vereinbaren, auch für Anwendungen außerhalb kritischer oder wichtiger Funktionen.

6. Für Kundenbriefe und Chatbots eine Ergebnisprüfung einführen

Vor dem nächsten Rollout: KI-formulierte Antworten mit unterschiedlichen Kundengruppen auf Verständlichkeit testen und nach der Einführung Beschwerdequote, Rückfragen und Erledigungsdauer gegen den Stand davor messen. In den geprüften deutschen Rechtstexten verlangt das keine Norm, die FCA beschreibt es als gute Praxis.

Timeline: KI-Regeln für Banken in Deutschland und London
Vom BaFin-Prinzipienpapier 2021 bis zu den Hochrisiko-Pflichten des EU AI Act 2027
15. Juni 2021
BaFin-Prinzipienpapier zu Algorithmen
Stufenmodell mit menschlicher Freigabe und Stopping-Rule, nicht verbindlich.
7. Dezember 2023
Europäischer Gerichtshof (EuGH) zum Scoring
Der Score einer Wirtschaftsauskunftei, von dem die Entscheidung eines Dritten maßgeblich abhängt, ist eine automatisierte Entscheidung nach Art. 22 DSGVO.
29. Mai 2024
MaRisk erfassen künstliche Intelligenz
Modellmodul mit Pflicht zur hinreichenden Erklärbarkeit, damals AT 4.3.5.
17. Januar 2025
DORA anwendbar
IKT-Inventar, Exit-Strategien, Vorfallmeldung.
18. Dezember 2025
BaFin-Orientierungshilfe zu IKT-Risiken bei KI
Modell als IKT-Asset, Exit und Vendor-Lock-in, nicht verbindlich.
30. Juni 2026
MaRisk-Fassung ohne bedeutende Institute
KI-Klausel jetzt in AT 4.3.4.
19. Oktober 2026
FCA: 20 Fallbeispiele guter und schlechter Praxis
Am selben Tag Rede von Jessica Rusu zur Antwort auf das Mills Review.
20. November 2026
§ 30 (6) und § 37a BDSG in Kraft
Eingreifen einer Person bei automatisierter Kreditwürdigkeitsprüfung, neue Scoring-Regeln.
2. Dezember 2027
EU AI Act: Hochrisiko-Pflichten
Unter anderem für die Kreditwürdigkeitsprüfung natürlicher Personen.

Begriffserklärung

Automatisierungsbias: Die Neigung, einer automatisch erzeugten Ausgabe oder Empfehlung zu viel zu vertrauen, auch wenn sie falsch oder unvollständig sein kann. Art. 14 (4) b EU AI Act verlangt, dass Aufsichtspersonen sich ihrer bewusst bleiben können.

Consumer Duty: Britische Pflicht für Finanzunternehmen, gute Ergebnisse für Verbraucher zu erzielen und nachzuweisen. Sie misst am Ergebnis, nicht am Verfahren.

Überschreibung: Nach den Erläuterungen zu AT 4.3.4 MaRisk der direkte Eingriff in den Modell-Input oder in ein Zwischen- oder Endergebnis, mit dem vom Modell abweichende Werte angesetzt werden.

IKT-Asset: Software- oder Hardware-Bestandteil der Informations- und Kommunikationstechnik, den DORA zu inventarisieren verlangt. Die BaFin zählt KI-Modelle dazu.

Grundrechte-Folgenabschätzung: Pflicht nach Art. 27 EU AI Act für Betreiber bestimmter Hochrisiko-Systeme, darunter die Kreditwürdigkeitsprüfung natürlicher Personen, vor der ersten Inbetriebnahme.

Christian Schablitzki

Christian Schablitzki – the agentic banker

Strategy & Management Consultant · Agentic-AI-Experte für Finanzinstitute

Über 20 Jahre in Investmentbanking und Derivatehandel, anschließend mehr als 10 Jahre als Berater für Finanzinstitute. Aktuell Partner bei Infosys Consulting in Deutschland. Zertifiziert als Claude Partner – Claude Code (Anthropic), außerdem in Google AI, Generative AI Leader (Google Cloud) und IBM RAG and Agentic AI.

LinkedIn-Profil → · agenticbanker.ai →
newsletter
the agentic banker

Lesen Sie weiter – alle 14 Tage in Ihrem Postfach.

Kapitalmarkt-Insights, Regulierungs-Updates und AI-Trends. Kompakt, fundiert, kostenlos.

DSGVO-konform. Jederzeit abbestellbar.

← Zurück zur Übersicht