Wenn Aufsicht nicht mitwächst: Das FSB sortiert die Kontrolle über KI-Agenten neu

Am 10. Juni 2026 hat das Financial Stability Board (FSB) einen Konsultationsbericht mit zwölf Sound Practices für den verantwortlichen Einsatz Künstlicher Intelligenz in Finanzinstituten vorgelegt. Die Kommentierungsfrist endete am 22. Juli, der Finalbericht soll im Oktober an die Finanzminister der G20 gehen. Wer den Bericht liest, findet darin weniger einen Katalog neuer Pflichten als eine unbequeme Beobachtung: Die Art der Aufsicht, die Institute über ihre Modelle führen, hält mit der Zahl und der Autonomie dieser Modelle nicht Schritt.

Das FSB behandelt dieses Problem als Konstruktionsaufgabe. Der Bericht sortiert sechs unterschiedliche Formen menschlicher Aufsicht und ordnet sie unterschiedlichen Autonomiegraden zu. Für Governance-Verantwortliche ist das die eigentliche Substanz des Papiers. Sie steht in Sound Practice 10.

Zwölf Praktiken in drei Blöcken

Die zwölf Sound Practices gliedern sich in drei Blöcke, die unterschiedliche Ebenen eines Instituts adressieren. Der Bericht beschreibt den ersten Block so: „Sound practices 1 to 4 emphasise the importance of organisation-wide AI governance, in informing the financial institution in its decision on whether and how to adopt an AI technology and at what scale." Hier geht es um strategische Steuerung, um Verantwortlichkeiten, um die Einbettung von KI-Risiken in das bestehende Risikomanagement und um die Anpassungsfähigkeit der Organisation selbst.

Der zweite Block adressiert den einzelnen Anwendungsfall: „Sound practices 5 to 10 focus on managing specific AI use cases at or throughout different stages of an AI lifecycle so that use case deployments are supported by proportionate guardrails." Dazu zählen Wesentlichkeits- und Risikobewertung, Auswahl des Verfahrens, Data Governance, Erklärbarkeit und Transparenz, Leistungsüberwachung und eben die menschliche Aufsicht.

Der dritte Block umfasst zwei Praktiken, die in der öffentlichen Wahrnehmung des Berichts fast untergegangen sind: das Management KI-bezogener Cyber- und Informations- und Kommunikationstechnologie-Risiken (IKT) sowie das Management von Risiken aus dem Einsatz von KI bei Drittanbietern. Wer den Bericht als reines Governance-Papier liest, übersieht damit ausgerechnet die beiden Praktiken, die am unmittelbarsten an bestehende aufsichtliche Rahmen wie den Digital Operational Resilience Act (DORA) anschließen.

Sechs Formen der Aufsicht statt einer

Sound Practice 10 trägt den Titel Human oversight. Das FSB unterscheidet dort sechs Ausprägungen menschlicher Aufsicht: Human-in-the-loop, AI-in-the-loop, Human-on-the-loop, Human-in-command, Kill switch und Contestability. Die Reihenfolge folgt der Stelle, an der der Mensch eingreift, und bewertet nicht.

Zwei dieser Formen verdienen besondere Aufmerksamkeit. Die erste ist AI-in-the-loop. Der Bericht definiert sie so: „‚AI-in-the-loop': integrates AI into human oversight to augment performance monitoring rather than merely using humans to oversee AI. It uses AI as a supportive layer for decision-making and task automation while keeping humans in control (e.g. humans monitor and respond to AI-enabled automated alerts). AI-in-the-loop may become warranted as financial institutions scale the number of AI use cases." Sobald die Zahl der Anwendungsfälle wächst, bleibt diese Form irgendwann die einzige praktikable. Aus diesem Grund greift der Bericht sie auf.

Die zweite ist Human-in-command, und sie ist ausdrücklich für autonome Systeme gedacht: „‚Human-in-command': high-level human oversight, including deciding the extent of autonomy, setting guardrails, and managing its overall impact. This form of human oversight is aimed at AI with high levels of autonomy, such as agentic AI." Der Mensch entscheidet hier über den Rahmen: wie viel Autonomie das System bekommt, welche Leitplanken gelten, welche Gesamtwirkung akzeptabel ist. Einzelne Ausgaben prüft er nicht mehr.

Eine Zuspitzung, die nicht im Bericht steht

In der Berichterstattung über das Papier kursiert die Formulierung, das FSB weise Banken den Weg zu einer KI, die KI überwacht, weil menschliche Aufsicht an ihre Grenzen stoße. Diese Zuspitzung stammt aus der Überschrift eines Fachdienstes, nicht aus dem Bericht. Die Wendung „AI monitoring AI" kommt im gesamten Dokument nicht vor; der einzige entfernt ähnliche Treffer ist ein Literaturverzeichnis-Eintrag zu einer früheren FSB-Publikation über die Beobachtung der KI-Verbreitung.

Der Unterschied reicht über die Semantik hinaus. AI-in-the-loop verstärkt die Überwachungsleistung des Menschen, der die Kontrolle behält. Eine KI übernimmt die Aufsicht dabei nicht. Wer die verkürzte Fassung in die eigene Governance-Diskussion trägt, argumentiert gegen eine Position, die das FSB nicht vertritt, und riskiert am Ende eine Delegation, die der Bericht so nicht deckt.

Was die Fallstudien tatsächlich zeigen

Der Bericht enthält Fallstudien aus der Praxis, und sie sind aufschlussreicher als die Prinzipien. Eine große international tätige Bank setzt einen agentenbasierten KI-Ansatz ein, um Betrugs- und Betrugsversuchsmuster in Echtzeit zu erkennen. Das bestehende System überwachte bereits mehr als 80 Millionen Signale pro Tag. Der Agent hat nach Angaben des Berichts drei Viertel der Kartenbetrugsregeln der Bank mitentwickelt oder aktualisiert und dazu beigetragen, die Betrugsverluste im ersten Halbjahr des Geschäftsjahres 2026 gegenüber dem Vorjahreszeitraum um mehr als 20 Prozent zu senken.

Dazu liefert der Bericht eine Randbedingung. Die Bank „embeds human-in-the-loop oversight to review and approve all new rules by the bank's fraud analytics team before implementation". Ausgerechnet der Fall mit den stärksten Zahlen behält also die strengste Aufsichtsform bei: Jede neue Regel geht vor der Aktivierung über den Tisch eines menschlichen Analysten. Das FSB dokumentiert damit beide Modelle nebeneinander.

Eine zweite Fallstudie stammt von einem Versicherer, der die Bearbeitungszeit im Underwriting von zwei bis drei Tagen auf rund 45 Sekunden gesenkt hat. Derselbe Versicherer berichtet von sechs Millionen Zeilen Code im Jahr 2025 bei einer Nutzungsquote von etwa 80 Prozent unter den Entwicklern. Solche Zahlen sind eindrucksvoll und zugleich schwer einzuordnen, weil der Bericht sie ohne Angabe der Vergleichsbasis übernimmt.

Kein Standard, sondern Proportionalität

Der Rechtscharakter des Papiers ist eindeutig, und der Bericht stellt ihn an zwei Stellen ausdrücklich klar: „The sound practices are not intended to establish an international standard, to impose a prescriptive approach for responsible AI adoption by financial institutions, nor to influence business decisions in adopting a certain AI technology." An anderer Stelle ergänzt er, die Praktiken seien nicht abschließend und könnten mit der Entwicklung der Technologie fortgeschrieben werden.

Damit verbunden ist ein Proportionalitätsgedanke, der für kleinere Institute erheblich ist: „More robust practices may be appropriate for financial institutions that are large, complex, and highly connected within their ecosystem and where the AI is used or deployed in the financial institutions' critical (or material) functions." Kleinere, weniger komplexe oder weniger vernetzte Häuser können nach dem Bericht auch nur die jeweils einschlägigen Praktiken anwenden oder sie angemessen anpassen. Wer die zwölf Praktiken als Checkliste abarbeitet, hat das Papier missverstanden.

Einzuordnen ist der Bericht auch im Verhältnis zu anderen Gremien. Die International Organization of Securities Commissions (IOSCO) hat am 25. Mai 2026 ihr Supervisory Toolkit for AI Use in Capital Markets als Finalbericht vorgelegt. Das FSB-Papier beschreibt sich selbst als weitgehend kompatibel mit bestehenden und laufenden Arbeiten anderer Standardsetzer und führt das IOSCO-Dokument als Hintergrundliteratur. Von einer gemeinsamen Initiative der beiden Gremien ist im Bericht nicht die Rede, und wer sie behauptet, überzeichnet den Befund.

Was das für die Praxis heißt

Für Governance-, Risiko- und Revisionsverantwortliche ergeben sich aus dem Bericht vier Ansatzpunkte. Sie setzen nicht voraus, dass der Finalbericht abgewartet wird, denn die Struktur der zwölf Praktiken wird sich bis Oktober kaum grundlegend ändern.

Christian Schablitzki

Strategy & Management Consultant · Agentic-AI-Experte für Finanzinstitute

Über 20 Jahre in Investmentbanking und Derivatehandel, anschließend mehr als 10 Jahre als Berater für Finanzinstitute. Aktuell Partner bei Infosys Consulting in Deutschland. Zertifiziert in Google AI, Generative AI Leader (Google Cloud) und IBM RAG and Agentic AI.

LinkedIn-Profil →