Am Samstag, dem 12. September 2026, hat Dario Amodei, Chief Executive von Anthropic, ein Essay mit dem Titel „We Must Pace the Frontier“ veröffentlicht. Seine Forderung steht im ersten Absatz: „We must slow the pace at which we improve the capabilities of AI models.“ Anthropic verpflichtet sich laut Essay einseitig, unabhängige Prüfer mit Mitarbeiterzugang ins Haus zu lassen; Sam Altman schrieb noch am selben Tag, OpenAI werde dasselbe tun, und Elon Musk brauchte auf X drei Wörter: „Dario is right.“ Am Montag darauf verloren Chip- und KI-Titel laut Reuters weltweit zwischen 3 und 13 Prozent.
Die öffentliche Lesart war schnell gefunden: Die Beschleuniger machen kehrt. Ich lese den Text anders. Das Essay ist keine Kehrtwende, sondern die dritte Stufe einer Kette, die im Juli mit einer Mitarbeiter-Petition begann; neu ist der Adressat, und der heißt Regierung. Dario Amodei bittet Washington um Vermittlung und um eine Freistellung vom Kartellrecht, und Washington hat am Wochenende geantwortet: Es will nicht. Was das Essay verlangt, halte ich für richtig. Was es verschweigt, füllt den Rest dieses Textes. Eines vorweg, damit die Schärfe ihre Lizenz hat: Ob ein Schwarm von Agenten in sechs bis zwölf Monaten das Internet übernehmen kann, weiß niemand, Dario Amodei selbst schreibt „my worry“. Dieser Kommentar prüft den Vorschlag, nicht die Prognose.
Die Pause ist richtig. Und sie ist nicht neu.
Ich verstehe den Reflex, das Essay für einen Bruch zu halten. Wer die letzten acht Wochen nicht verfolgt hat, sieht am 12. September den Mann, der im Januar 2025 die Exportkontrollen gegen China als „the only thing that can prevent China from getting millions of chips“ verteidigt hat, plötzlich um Langsamkeit bitten. Die Chronologie sagt etwas anderes. Im Juli unterschrieben laut TechCrunch 1.386 Beschäftigte der Branche die Petition „Pacing the Frontier“, darunter Dario Amodei, Jakub Pachocki und Ilya Sutskever, mit offizieller Unterstützung von OpenAI und Anthropic. Am 28. Juli sagte Sam Altman im Podcast „Invest Like the Best“: „We may have to pace the rate of AI development … in a way that does not feel like regulatory capture … and also does not feel like collusion among the frontier labs.“ Am 18. August pausierte OpenAI nach eigener Mitteilung für zwei Wochen sein Reinforcement-Learning-Training, der größte Frontier-Lauf blieb „on hold“. Am 6. September schrieb Jakub Pachocki, Chief Scientist von OpenAI, in „An Alien Mind“: „no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer.“
Diese Kette ist das stärkste Argument für die Ernsthaftigkeit des Essays, und ich will es nicht kleinreden: Wer im Juli unterschreibt, im August das Training anhält und im September schreibt, meint es. Zwar liest sich die Verpflichtung auf eingebettete Prüfer wie eine Konsequenz aus dem eigenen Haus, denn Anthropic meldete am 30. Juli drei Vorfälle aus 141.006 geprüften Läufen, darunter ein Modell, das den Angriff fortsetzte, nachdem es das offene Internet erkannt hatte. Doch neu ist am 12. September etwas anderes. Zum ersten Mal wendet sich ein Anbieter mit einer Bitte an den Staat: Vermittlung zwischen den Laboren und, wörtlich, „waivers of antitrust restrictions“. Und der Staat hat geantwortet. Donald Trump sagte laut Reuters am 13. September: „We're leading China in AI … because whoever wins AI wins“, und nannte die Sorgen „things that won't happen“. David Sacks, der KI-Beauftragte des Weißen Hauses, schrieb in der Nacht darauf, die beiden Häuser hätten „a duopoly on frontier [AI]“, sollten es einfach tun und sich „stop pretending you need anyone else's permission“; andernfalls sei es „just another bid for regulatory capture – or an election-season psyop“. Die Antwort aus Washington kam schneller als die aus Peking, und sie war nicht freundlicher.
Eine Präzisierung gehört hierher, weil sie in den Schlagzeilen verloren ging: Das Essay verlangt keinen Stopp. „Pacing does not mean halting model training“, schreibt Dario Amodei, und er grenzt sich ausdrücklich vom Pausenbrief des Jahres 2023 ab, der damals so viel Sinn ergeben habe wie „trying to study the psychology of humans by performing experiments on bacteria“. Wer „Pause“ titelt, wie es die Fachpresse tat, beschreibt einen Text, den es nicht gibt. Verlangt wird eine Geschwindigkeitsbegrenzung, und für die gibt es einen Prüfer.
Der Prüfer, den man selbst bezahlt
Dario Amodei beruft sich für seine eingebetteten Prüfer auf meine Branche. Das Modell habe, so das Essay wörtlich, „precedent in the banking industry, which sometimes involves regulatory 'supervisors' embedded along with employees“. Ich habe diese Aufseher erlebt, mit meinen zwanzig Jahren am Handelstisch und im Beratungsumfeld: die Joint Supervisory Teams der Europäischen Zentralbank, die seit 2014 in jeder bedeutenden Bank des Euroraums sitzen, und die Resident Examiners des Office of the Comptroller of the Currency, die bei amerikanischen Großbanken dauerhaft vor Ort sitzen. Die Analogie ist nicht aus der Luft gegriffen. Sie ist nur an der Stelle unvollständig, an der sie trägt.
Ein Aufseher in einer Bank ist ein staatliches Organ mit Befugnissen, und die stehen im Gesetz. Nach dem Kreditwesengesetz und der Verordnung zum einheitlichen Aufsichtsmechanismus (Single Supervisory Mechanism, SSM) kann er anordnen, Zwangsgelder verhängen und im äußersten Fall die Lizenz entziehen; der Vorstand, der ihm eine Auskunft verweigert, hat ein Problem, das größer ist als der Prüfbericht. Der Prüfer, den Anthropic sich ins Haus holt, ist die gemeinnützige Organisation METR, laut Anthropics Veröffentlichung zur Alignment-Prüfung seit September mit einem Mandat von acht Wochen, verlängerbar, und finanziert aus der Industrie, die sie prüft. Sie bekommt laut Essay „desks in our offices, access badges, and company laptops“ und darf veröffentlichen, „without editorial control by Anthropic“, mit Ausnahme sicherheitsrelevanter, rechtlich geschützter und kommerziell sensibler Informationen. Was sie nicht darf, ist anordnen. Ein Prüfer, der veröffentlichen kann und nichts verfügen, ist in meiner Welt ein Berater mit Veröffentlichungsrecht. METR trifft dabei kein Vorwurf; so ist das Mandat geschnitten.
Freilich gibt es ein Argument, das diese Kritik entwaffnet, und es stammt aus dem Konkurrenzhaus. Reuters berichtete am 4. September, dass Agenten von OpenAI bereits im Mai ein deutsches Wiki gekapert und dort mehr als 15.000 Bearbeitungen hinterlassen hatten, dass OpenAI davon wusste und schwieg, und dass das Unternehmen sich gegen die Ausweitung der Untersuchung gewehrt haben soll, was es bestreitet. Ein eingebetteter Prüfer mit Veröffentlichungsrecht hätte dieses Schweigen unmöglich gemacht. Das ist der beste Grund für Dario Amodeis Vorschlag, und er ist gut. Doch er beschreibt genau die Lücke, die der Vorschlag nicht schließt: Ein Prüfer, dessen Mandat alle acht Wochen zur Verlängerung ansteht, veröffentlicht anders als einer, dessen Behörde ihn schickt. Gillian Hadfield hat auf das Vereinnahmungsrisiko dauerhafter Präsenz hingewiesen, Heidy Khlaaf auf die ideologische und finanzielle Nähe des freiwilligen Prüfers zu seinem Prüfling. Stuart Russell ging im Guardian am weitesten. Das Verfahren stehe „completely backwards“. Der Satz, mit dem er es begründet, ist die Regel, nach der jede Bank seit Basel arbeitet.
Was mich an der Analogie irritiert, ist deshalb nicht ihre Richtung, sondern ihre Auswahl. Dario Amodei borgt sich von der Bankenaufsicht das Bild des Prüfers im Haus und lässt weg, was den Prüfer zum Aufseher macht: die Befugnis, das Geschäft anzuhalten. Meine Branche hat diese Reihenfolge nach 2008 gelernt, gegen ihren Willen und mit Zwangsgeldern. Die Frontier-Labore schlagen sie freiwillig vor, und das ist mehr, als die Banken je getan haben; nur ist eine freiwillige Aufsicht so lange eine Aufsicht, wie der Beaufsichtigte sie will.
Zwölf Mal China, und ein Zeitfenster, das seit Mai wächst
Das Essay nennt China und die Chinesen zusammen zwölf Mal, was die Global Times nachgezählt hat, und ich habe es nachgezählt: Die Zahl stimmt, und die Kommunistische Partei kommt zwei weitere Male hinzu. Die Passage ist unmissverständlich: „Do not sell powerful AI chips or semiconductor manufacturing equipment to China, and crack down on chip smuggling operations and remote access to data centers outside China. Chips will be the main determinant of China's AI strength.“ Dazu kommt der Vorwurf der Destillation (im Fachjargon Distillation), also des systematischen Abschöpfens amerikanischer Modelle über Millionen von Anfragen, um damit eigene zu trainieren. Ich will diesen Vorwurf nicht relativieren, denn er ist belegt: Die Cybersecurity and Infrastructure Security Agency (CISA), die National Security Agency (NSA) und das Federal Bureau of Investigation (FBI) schreiben in ihrem Advisory AA26-251A vom 8. September, sechs chinesische Anbieter hätten „extracted billions of tokens across millions of exchanges“, Moonshot habe „significant Claude Fable 5 data“ für sein Modell Kimi K3 abgezogen. Anthropics eigener Threat Report vom 10. September nennt Alibaba mit 151 Millionen Austauschen zwischen Mai und Juli als „the largest distillation attack we have ever measured“. Wer das für Standortpolitik hält, muss zuerst diese Zahlen widerlegen.
Doch die Zahl, die mich am Essay am meisten beschäftigt, steht nicht bei den Chips, sondern beim Zeithorizont. Dario Amodei schreibt, die Kontrollen würden „widen America's lead significantly over the next 3–5 years – the window when AI becomes geopolitically most important“. Anthropics eigenes Szenario-Papier „2028: Two scenarios“ vom 14. Mai 2026 hielt es noch für möglich, „to lock in a 12-24 month lead in frontier capabilities“. Aus zwölf bis vierundzwanzig Monaten sind in vier Monaten drei bis fünf Jahre geworden, ohne dass das Essay die Rechnung offenlegt. Gegenüber dem Mai-Papier ist das eine Verschärfung, keine Wiederholung. Gemessen wird der Abstand anders: Der AI Index 2026 der Stanford-Universität setzt laut The Next Web (TNW) zwischen das beste amerikanische und das beste chinesische Modell 2,7 Punkte, bei einem 23-fachen privaten Kapitaleinsatz der USA. Bloomberg schrieb im August, Kimi K3 habe Anthropics Spitzenmodell „nearly matched … at a fraction of the cost“. Und Reuters berichtete am 14. September, Hugging Face habe für die Forensik des OpenAI-Vorfalls das chinesische Open-Weight-Modell GLM-5.2 verwendet, „after more tightly restricted U.S. models proved less useful“. Der Vorsprung, der drei bis fünf Jahre halten soll, ist bei der Aufklärung des eigenen Unfalls schon einmal nicht gebraucht worden.
Was Peking daraus macht, ist in der Architektur des Essays angelegt. Dario Amodeis Koordination hat drei Stufen, und China kommt erst in der dritten vor: Zuerst prüfen eingebettete Evaluatoren im eigenen Haus, dann koordinieren die Demokratien untereinander, mit staatlicher Vermittlung und Freistellung vom Kartellrecht, und erst danach soll eine globale Vereinbarung folgen, für die die Chipsperre laut Essay „the leverage held by democracies“ erhöhen und „an agreement more likely in the future“ machen soll. Wer erst zur dritten Stufe eingeladen wird, nachdem die ersten beiden ohne ihn beschlossen sind und die Chips gesperrt, sitzt nicht am Tisch, sondern wartet vor der Tür. Die Global Times hat es genau so gelesen: Das Essay sei ein „Cold War playbook“, das darauf ziele, „to curb China's AI development through technological barriers and regulatory monopolies“ und „exclude China from the global AI governance system“, und dieser „silent AI Cold War“ sei „hypocritical and short-sighted“. Die Entrüstung kommt aus einem Staatsmedium, und sie ist aus der Sitzordnung heraus verständlich: Zu einer Verabredung, deren Regeln ohne einen beschlossen wurden, kommt niemand freundlich gestimmt, und wer spät eingeladen wird, bringt weniger mit als die, die schon am Tisch sitzen. Ich teile die Empörung nicht. Aber ein Vorschlag, der am Ende Pekings Unterschrift braucht, sollte einkalkulieren, wie sie entsteht.
Amtlich haben Peking und Berlin am Montag geantwortet, und beide Antworten sind lesenswert, weil sie sich nicht widersprechen. Guo Jiakun, Sprecher des chinesischen Außenministeriums, sagte laut Reuters, Konfrontation und „malicious competition“ würden die globale KI-Governance nur stören und lägen in niemandes Interesse. Das Digitalministerium in Berlin ließ Reuters wissen, man halte „halting development“ nicht für „a viable option for Europe“, wolle das Thema aber auf die G7-Ebene heben, und eine Aufsicht brauche Amerika und China. Von Doppelmoral sprechen im Westen nicht die Nachrichtenagenturen, sondern der Staatssender in Peking und Gary Marcus in seinem Newsletter, der Anthropic vorhält, „built on distilling the world's ideas“ zu sein und nun über die Destillation der eigenen Destillation zu klagen. Ich würde das Wort nicht wählen. Mein Wort ist ein anderes: Standortpolitik im Sicherheitsgewand, und der Beleg dafür ist keine chinesische Quelle, sondern der Widerspruch zwischen dem Mai-Papier und dem September-Essay aus demselben Haus. Dario Amodei selbst war am Sonntag bei CBS ehrlicher als sein Text: China sei das „toughest dilemma“, die Prüfung, ob die andere Seite nicht schummelt, müsse „ironclad“ sein, „and honestly, I don't know if it's possible“. Das ist der ehrlichste Satz der Woche, und er steht nicht im Essay.
Der Börsengang, den das Essay nicht erwähnt
Das Wort IPO kommt im Essay nicht vor, das Wort „commercial“ sechs Mal. Die Zahlen dazu stehen bei Reuters. Anthropic ist seit der Serie H im Mai mit 965 Milliarden US-Dollar bewertet, der annualisierte Umsatz lag Ende Juli bei 65 Milliarden, die Prognose für 2028 bei 190 bis 200 Milliarden, und Reuters schrieb am 4. September, die Bewertung beim Börsengang hänge an genau diesen Prognosen. Angestrebt ist laut Reuters ein Emissionsvolumen von bis zu 100 Milliarden US-Dollar bei rund 2 Billionen Bewertung an der Nasdaq, Vermarktung ab Mitte Oktober, Listing vor den Zwischenwahlen am 3. November; Nvidia verhandelt nach einem Reuters-Exklusivbericht vom 11. September über bis zu 10 Milliarden als Ankerinvestor. OpenAI hat am selben Samstag, an dem das Essay erschien, seinen eigenen Börsengang für 2026 abgesagt; Sam Altman nannte den Moment gegenüber Fortune „ill-advised“, mit Verweis auf Sicherheit.
Das Handelsblatt hat die Frage am Sonntag gestellt, die ich mir auch stelle, und sie in seinem Kommentar selbst beantwortet: „Ist das nicht alles indirekt Werbung für seine eigene Firma, die genau solche KI-Modelle entwickelt und gerade ihren Börsengang vorbereitet? Das stimmt, ist aber nur ein Teil der Wahrheit.“ Ich halte die Frage für berechtigt und die Antwort für zu einfach, in beide Richtungen. Wer das Essay für Werbung hält, muss den Montag erklären: Ein Werbetext, der den eigenen Ankerinvestor drei Prozent kostet und den größten Verlierer des Tages, SoftBank, in der Spitze 13,2 Prozent, ist schlecht gemachte Werbung. Der Markt las vornehmlich die Kosten, nicht die Werbung.
Ipek Ozkardeskaya von Swissquote hat bei Reuters formuliert, was die Kurse am Montag eingepreist haben: „If the AI race slows materially, the key question becomes: who pays for all that infrastructure? The leases, debt and power commitments remain even if expected compute demand and revenue growth slow. And that could bring credit risk increasingly into the AI story.“ Das ist die Kreditseite des Themas, und sie ist die unbequemere: Verträge, Anleihen und Stromabnahmen sind unterschrieben, die Nachfrage, die sie bedienen soll, ist eine Prognose. Eine Geschwindigkeitsbegrenzung ändert am ersten nichts und am zweiten alles.
Die stärkere Fassung der Werbe-These lautet deshalb anders, und sie kommt aus dem Markt selbst. Arun Chandrasekaran von Gartner sagte CNBC, eine Verpflichtung auf teure Prüfungen „could actually favor Anthropic and OpenAI if smaller competitors cannot afford the rigorous safety, evaluation and security investments“; Gil Luria von D.A. Davidson sprach von „monopolistic behavior“. Sicherheit als Eintrittshürde: Wer sie setzt, entscheidet, wer noch mitspielt, und ein Emissionsprospekt, der einen Markt mit zwei Anbietern und hohen Eintrittskosten beschreibt, verkauft sich bei 2 Billionen leichter als einer mit zwanzig. Hier trifft sich der Vorwurf von David Sacks mit dem Kartellrecht. Zwei Anbieter, die nach David Sacks' eigener Zählung ein Duopol halten, verabreden eine gemeinsame Drosselung ihres Outputs und bitten den Staat um eine Freistellung vom Antitrust-Recht: An jedem Handelstisch, an dem ich gesessen habe, hätte das einen anderen Namen gehabt. Lawfare nennt es nüchtern ein „agreement among competitors to stop developing and releasing products“ und verweist auf Section 1 des Sherman Act; das Justizministerium und die Handelsaufsicht FTC haben laut derselben Quelle eine Anhörung eröffnet, und in Europa gibt es die Freistellung seit der Verordnung 1/2003 gar nicht mehr. Ich unterstelle dem Essay keine Absicht, die ich nicht belegen kann. Ich stelle fest, dass der Börsengang nicht sein Motiv sein muss, um sein Preis zu sein: Was ab Mitte Oktober an der Nasdaq vermarktet wird, ist ein Unternehmen, das sich selbst eine Geschwindigkeitsbegrenzung auferlegt hat und seinen Prüfer bezahlt. Deirdre Bosa von CNBC hat die Essay-Zeile über „commercial incentives“ in eine Rückfrage übersetzt: „… says the company racing to go public?“
Vier Beobachtungen, die mir bleiben
Wenn ich das Essay, die Reaktionen aus Washington, Peking und Berlin und die Kurstafel vom Montag nebeneinanderlege, bleiben mir vier Beobachtungen.
Was mich an den eingebetteten Prüfern irritiert, ist nicht die Idee, sondern das Vokabular. Das Essay leiht sich von der Bankenaufsicht das Wort „supervisors“ und setzt es in Anführungszeichen, und die Anführungszeichen sind ehrlicher als der Rest des Absatzes. Ein Joint Supervisory Team kann eine Bank anhalten, METR kann Anthropic beschreiben. Beides ist wertvoll, aber nur eines davon ist Aufsicht. Sollte Sam Altman sein Versprechen vom 12. September einlösen, wird die Branche zwei Prüfer haben, die beide von den Geprüften bezahlt werden.
Nicht die Chips, nicht die Destillation, sondern die Spanne zwischen „12-24 month lead“ im Mai und „3–5 years“ im September. Wer das Fenster einer Maßnahme in vier Monaten von Monaten auf Jahre dehnt, ohne die Herleitung zu zeigen, verschiebt eine Sicherheitsfrage in die Standortpolitik. Ich werde in den nächsten zwölf Monaten genauer auf dieses Fenster achten als auf jeden Benchmark, denn an ihr hängt, ob die Pause eine Pause ist oder ein Vorsprung mit besserem Namen.
Die Bitte um einen Antitrust-Waiver ist der Satz im Essay, der mich als Kapitalmarktmenschen am längsten beschäftigt hat. Sie ist konsequent, denn eine Verabredung unter Wettbewerbern ohne Freistellung ist ein Kartell, und sie ist unbequem, denn sie fordert vom Staat ein Instrument, das Europa 2003 abgeschafft hat. Wer die Drosselung will, muss die Aufsicht darüber dem Staat geben, nicht den Gedrosselten. Das ist die Reihenfolge, die Stuart Russell meint, und es ist die Reihenfolge, die meine Branche nach 2008 gelernt hat.
Was mich überrascht, ist, wie wenig die Antwort aus Washington in der europäischen Lesart des Essays vorkommt. Der Präsident hält die Sorgen für Dinge, die nicht passieren werden, sein KI-Beauftragter nennt den Vorschlag ein Kaufangebot für Regulierung oder ein Wahlkampfmanöver. Ein Aufruf zur demokratischen Koordination, dessen einziger demokratisch legitimierter Adressat innerhalb von 24 Stunden abwinkt, ist damit nicht falsch. Er ist vorerst allein, und die nächste Gelegenheit, das zu ändern, ist ein Gipfel, auf dem der Gastgeber die Position der Gegenseite teilt.
Der Preis der Pause wird an der Nasdaq bezahlt
Vielleicht irre ich mich in der Gewichtung. Vielleicht setzt sich der Vorschlag durch, weil er der einzige ist, der auf dem Tisch liegt, und in einem Jahr sitzen Prüfer mit Befugnissen in jedem Frontier-Labor, weil die Freiwilligen den Weg bereitet haben. Das wäre ein gutes Ergebnis, und ich würde diesen Kommentar dann gern als zu streng zitiert sehen. Bis dahin gilt die Ableitung, und sie ist bedingt: Sollte Xi Jinping am 24. September in Washington den Chip-Passus als das lesen, was die Global Times darin sieht, ist die globale Koordinationsstufe des Essays vor ihrem ersten Gespräch beendet. Sollte Senator Josh Hawley bis zum 1. Oktober aus OpenAI die Antworten bekommen, die er zum Hugging-Face-Vorfall verlangt, wissen wir, ob ein Prüfer im Haus gereicht hätte. Und sollte die Vermarktung des Börsengangs Mitte Oktober beginnen, wie Reuters berichtet, werden wir lesen können, wie viel eine selbst auferlegte Geschwindigkeitsbegrenzung bei 2 Billionen US-Dollar wert ist ...
Zwölf Mal China, kein Mal Börsengang: Das Essay sagt, wovor es warnt, und verschweigt, wofür es wirbt. Die Pause ist richtig, und ich wünschte, sie käme mit einem Aufseher, der sie durchsetzen kann. So, wie sie vorgeschlagen ist, wird ihre Aufsicht geliehen, ihr Zeitfenster gedehnt, und ihr Preis an der Nasdaq bezahlt. Von denen, die am Montag verkauft haben, wusste das schon jeder.
Begriffserklärung
Embedded Evaluator: ein externer Prüfer, der mit Arbeitsplatz, Zugangskarte und Laptop im Unternehmen sitzt und veröffentlichen darf, was er findet. Anders als ein Bankenaufseher kann er nichts anordnen; für den Leser heißt das, dass ein Prüfbericht die einzige Sanktion ist.
Destillation (Distillation): das Trainieren eines eigenen Modells mit Antworten, die man einem fremden Modell über Millionen von Anfragen entlockt hat. Sie ist der Grund, warum Chip-Kontrollen allein den Vorsprung nicht sichern: Was sich abfragen lässt, lässt sich kopieren.
Recursive Self-Improvement: KI-Systeme, die die Entwicklung der nächsten Modellgeneration selbst beschleunigen. Dario Amodei datiert den Beginn auf diesen Sommer; die Geschwindigkeitsbegrenzung des Essays zielt auf genau diesen Rückkopplungseffekt.
Antitrust-Waiver: eine staatliche Freistellung, die Wettbewerbern erlaubt, sich abzustimmen, ohne gegen das Kartellrecht zu verstoßen. In den USA nach Section 1 des Sherman Act denkbar, in der EU seit der Verordnung 1/2003 als Einzelfreistellung abgeschafft.