Kill Switch für KI-Agenten: Den gibt es längst, nur auf der falschen Ebene

Am 30. Juni 2026 hat Sarah Breeden, Deputy Governor for Financial Stability der Bank of England, auf dem Sintra-Forum der Europäischen Zentralbank einen Redebeitrag mit dem Titel „Agents of change" gehalten. Daraus wurde in der Berichterstattung eine Ankündigung: Die Bank of England erwäge einen marktweiten Kill Switch gegen KI-getriebene Marktzusammenbrüche. Die Wörter stimmen, sie stehen tatsächlich im Manuskript. Der Modus stimmt nicht. Und wer den Satz genau liest, findet darin eine Frage, die für ein Handelsdesk deutlich unbequemer ist als die Schlagzeile.

Der Unterschied zwischen einem Vorschlag und einer Forschungsfrage ist in diesem Fall die halbe Nachricht. Die andere Hälfte steht in einer delegierten Verordnung von 2018.

Was Sarah Breeden tatsächlich gesagt hat

Der Satz, um den sich alles dreht, lautet im Original: „That work can also explore mitigants: whether markets using AI agents are resilient enough; whether agents' objective functions could incorporate public policy objectives; and whether guardrails are needed, analogous to circuit breakers or kill switches that would limit or stop trading market-wide if faulty AI models cause market meltdown."

Kill Switch, Circuit Breaker und Market Meltdown stehen also wörtlich da, im selben Satz. Das ist keine Erfindung der Presse. Aber der Satz beginnt mit „That work can also explore" und stellt drei Fragen, von denen die dritte lautet, ob Leitplanken überhaupt nötig sind. Das ist der Konjunktiv einer Forschungsagenda, keine Ankündigung mit Zeitplan. „Die Bank of England führt einen Kill Switch ein" wäre falsch. „Die Bank of England bringt einen marktweiten Kill Switch offiziell auf die Forschungsagenda" trifft es.

Das Risiko, das sie beschreibt, ist präzise gefasst: „If AI agents respond similarly to the same prompts or triggers, they could amplify volatility in stress – especially if their objectives drift from original goals or public policy objectives, in a manifestation of the misalignment problem that can arise with some AI models." Nicht ein einzelner Agent läuft Amok. Viele Agenten reagieren gleich, weil sie ähnlich gebaut sind und dasselbe sehen.

Der Schalter, den es seit acht Jahren gibt

An dieser Stelle wird die Berichterstattung praktisch relevant falsch, denn sie suggeriert eine Lücke, die es nicht gibt.

Die delegierte Verordnung zu Artikel 17 der Finanzmarktrichtlinie MiFID II, in der Praxis als RTS 6 bekannt, regelt die Organisationsanforderungen an den algorithmischen Handel. Ihr Artikel 12 trägt die Überschrift Kill functionality. Der Wortlaut: „An investment firm shall be able to cancel immediately, as an emergency measure, any or all of its unexecuted orders submitted to any or all trading venues to which the investment firm is connected."

Das gilt seit 2018. Jede Wertpapierfirma mit algorithmischem Handel muss sofort und marktplatzübergreifend alle offenen Orders stornieren können, wahlweise auch selektiv nach Trader, Desk oder Kunde. Sie muss jederzeit zuordnen können, welcher Algorithmus welche Order verantwortet, und die Compliance-Funktion braucht direkten Zugriff auf diesen Schalter. Dazu kommen Preis- und Volumenlimits vor der Orderaufgabe sowie Tests der Algorithmen vor der Live-Schaltung.

Wer also fragt, warum es noch keinen Kill Switch für KI-Agenten gibt, stellt die falsche Frage. Es gibt ihn. Er hängt nur an der einzelnen Firma und stoppt deren eigene Orders. Was Sarah Breeden zur Debatte stellt, ist ein Schalter, der den Handel marktweit anhält. Und genau dort beginnt das Problem.

Warum die Marktebene etwas völlig anderes ist

Ein firmeneigener Notausschalter braucht drei Dinge, die jede Firma hat: Kenntnis der eigenen Orders, die Befugnis, sie zu stornieren, und eine Person, die den Knopf drückt. Ein marktweiter Ausschalter braucht dieselben drei Dinge über alle Teilnehmer hinweg. Nichts davon existiert.

Es fehlt die Instanz. Niemand ist heute befugt, den Handel wegen des Verhaltens von Modellen anzuhalten. Handelsplätze haben nach Artikel 48 MiFID II eigene Volatilitätsunterbrechungen zu kalibrieren, aber die enden an der Grenze des jeweiligen Marktplatzes und greifen je Instrument.

Es fehlt die Auslöselogik, und das ist der schwerere Teil. Alle bestehenden Unterbrechungen triggern auf den Preis. Bei Xetra hat jede Aktie einen weiten statischen Korridor um den Eröffnungskurs und einen engen dynamischen um den zuletzt festgestellten Kurs; verlässt der potenzielle Ausführungspreis den dynamischen Korridor, ersetzt eine Volatilitätsunterbrechung von mindestens 120 Sekunden den fortlaufenden Handel. In den Vereinigten Staaten arbeitet das Limit-Up-Limit-Down-Verfahren mit Bändern von fünf beziehungsweise zehn Prozent um den gleitenden Fünf-Minuten-Durchschnitt und pausiert fünf Minuten, wenn der Kurs 15 Sekunden außerhalb bleibt. Der marktweite Circuit Breaker auf den S&P 500 greift bei minus sieben, minus 13 und minus 20 Prozent.

Ein KI-Herden-Trigger müsste dagegen auf Verhalten auslösen: auf die Korrelation von Entscheidungen, nicht auf deren Preisfolge. Das ist keine Kalibrierungsfrage, das ist eine andere Messgröße. Wer bis zum Preisausschlag wartet, hat den Herdeneffekt nicht verhindert, sondern nur seine Folge gedämpft.

Bemerkenswert am US-Beispiel: Der marktweite Circuit Breaker ist seit seiner Reform nach dem Flash Crash von 2010 kein einziges Mal ausgelöst worden, auch nicht im März 2020. Ein Instrument, das nie greift, ist entweder gut kalibriert oder wirkungslos. Beides lässt sich kaum unterscheiden.

Was Sarah Breeden nicht gesagt hat

Zwei Punkte, die in der Rezeption verrutscht sind, gehören geradegerückt.

Erstens die Empirie. Sarah Breeden schreibt ausdrücklich: „In financial markets, evidence suggests that for now, trading firms mostly use autonomous AI for lower-risk operational tasks, such as research. But that could change quickly." Ihr Beleg dafür ist laut Fußnote ein Spotlight Review des FICC Markets Standards Board. Mehrere Berichte haben ihr dagegen eine Umfrage des Cambridge Centre for Alternative Finance zugeschrieben, nach der 52 Prozent der Finanzfirmen bereits agentische Systeme einsetzten, und daraus Schlagzeilen über autonome KI-Trader gemacht. Weder die Zahl noch die Quelle kommen in ihrem Manuskript vor. Die Zahl existiert, sie misst aber agentische KI im ganzen Haus, Kundenservice und Backoffice eingeschlossen, nicht autonome Handelsagenten. Die Schlagzeile dreht die Aussage der Rednerin um.

Zweitens die Zuständigkeit. Dass Agentic AI mit dieser Rede erstmals in den Blick der Finanzstabilitätsaufsicht gerate, ist nicht haltbar. Das Financial Stability Board hat AI-getriebene Marktkorrelation bereits im November 2024 als einen von vier systemischen Risikokanälen benannt, anderthalb Jahre vor Sintra, und hat im Juni 2026 eine Konsultation zu verantwortungsvoller AI-Nutzung vorgelegt. Sarah Breeden selbst beschreibt laufende Arbeit: „We are experimenting with the BIS Innovation Hub and the Bundesbank on simulation methods to understand which aspects of agent design could drive herding behaviour." Neu ist nicht das Thema, neu ist die Zuspitzung auf ein konkretes marktweites Instrument.

Die Gegenposition

Gegen einen marktweiten Ausschalter spricht ein Einwand, den Sarah Breeden im Manuskript nicht anspricht und der aus der Mikrostrukturforschung seit dem Flash Crash bekannt ist.

Ein Circuit Breaker verhindert keine Verkaufswelle, er verschiebt sie. Wer eine Schwelle näher kommen sieht, verkauft vorher, um vor der Pause noch auszusteigen. In der Literatur heißt dieser Effekt Magnet-Effekt, und er macht aus einer Schutzvorrichtung selbst einen Beschleuniger. Bei einem KI-Kill-Switch wäre das Problem potenziert: Sein Auslöser wäre per Definition ein Muster, das viele Agenten gleichzeitig erkennen könnten. Der Trigger würde damit selbst zum Herdensignal. Eine Vorrichtung gegen Gleichlauf, die Gleichlauf erzeugt, ist keine Lösung.

Und der stärkste Einwand gegen die ganze Geschichte kommt von der Rednerin selbst: Autonomes Handeln findet heute kaum statt. Ein Artikel, der Alarm schlägt, widerspricht seiner eigenen Quelle. Genau das macht die Rede aber interessant. Finanzstabilitätsaufsicht beschreibt üblicherweise Risiken, nachdem sie sich gezeigt haben. Hier beschreibt sie eines, bevor es existiert. Das ist selten genug, um es ernst zu nehmen.

Handlungsempfehlungen für die operative Praxis

Für Handelsdesks, Markets-COOs und die Aufsichtsfunktionen daneben ergeben sich vier Handlungsfelder.