Wer Regeln fordert und Gas gibt

Am 12. September 2026 schreibt Dario Amodei, die KI-Labore müssten das Tempo drosseln. Innerhalb von Stunden antworten die drei Männer, die er sonst vor Gericht trifft. Sam Altman: „I agree with Dario.” Elon Musk: „Dario is right.” Demis Hassabis stimmt zu. Die Washington Post berichtet, drei der Firmen hätten vorher privat über eine gemeinsame Sicherheitsstelle gesprochen.

Fünf Tage vorher hatte der UN-Hochkommissar für Menschenrechte in Genf gesagt, eine Handvoll Männer habe nahezu unbegrenzte Macht über diese Technologie. Er hat sie beim Namen genannt. Jetzt sitzen sie an einem Tisch.

Was sie fordern

Amodeis Plan hat drei Teile. Externe Prüfer mit Mitarbeiterausweis in jeder Frontier-Firma. Gemeinsame Standards und ein Tempolimit, das die Labore untereinander festlegen. Und eine Ausnahme vom Kartellrecht, damit sie sich darüber absprechen dürfen.

Wer sich mit dem Wettbewerber auf das Tempo einigt und dafür eine Kartellausnahme verlangt, fürchtet keine Superintelligenz. David Sacks, bis vor kurzem KI-Beauftragter des Weißen Hauses, hat es am 13. September so genannt: „Stop pretending antitrust law has to be suspended so you can form a cartel.” Hört auf, so zu tun, als müsse das Kartellrecht ausgesetzt werden, damit ihr ein Kartell bilden könnt.

Was in keiner Forderung steht, ist das Bremsen. Anthropic hat elf Tage vor dem Essay zwei neue Modelle veröffentlicht. Der Essay handelt vom Tempo. Das Tempo bleibt.

Wer die Regeln schreibt

Regeln fordern ist gratis. Regeln schreiben kostet, und die Rechnung ist öffentlich. Sechs Firmen, Alphabet, Anthropic, Meta, Microsoft, Nvidia und OpenAI, beschäftigten im zweiten Quartal 2026 zusammen 324 Lobbyisten in Washington. Das ist ungefähr einer je anderthalb Abgeordnete.

Was dieses Geld kauft, ist dokumentiert. Im September 2022 schickte OpenAI ein Papier an die EU-Kommission: „By itself, GPT-3 is not a high-risk system.” Für sich genommen sei GPT-3 kein Hochrisikosystem. Mehrere Vorschläge daraus stehen heute im Gesetz. Dieselbe Firma fordert jetzt Prüfpflichten für alle.

Wer die Regeln mitschreibt, schützt seinen Marktanteil. Ein Regelwerk, das man selbst entwirft, selbst prüft und selbst ausführt, ist keins. Es ist eine Betriebsordnung mit Staatssiegel.

Wovor sie wirklich Angst haben

Ich sage, wie ich das lese. Ein Konzern hat keine Angst. Ein Konzern hat Marktanteile, und die verliert er an genau einen Gegner: an das, was er nicht kaufen kann.

Eingebettete Prüfteams, Rechenschwellen, Absprachen unter Frontier-Firmen. Das kann sich leisten, wer 65 Milliarden Dollar in einer Finanzierungsrunde einsammelt. Ein offenes Modell, das jemand in Ankara, Lagos oder Leipzig auf eigener Hardware weitertrainiert, kann das nicht. Die Regel gegen die Apokalypse ist die Regel gegen Open Source.

Und Open Source hat seit dieser Woche einen Besitzer, der nicht mitspielt. Nvidia hat Hugging Face gekauft, den Marktplatz der offenen Modelle, für 12,9 Milliarden Dollar. Ich habe das in Fünfhundert Millionen waren zu viel Einfluss beschrieben. Der Chiphersteller, von dem alle vier abhängen, besitzt jetzt den Ort, an dem ihre Konkurrenz kostenlos entsteht. Wenn Nvidia sich entscheidet, offene Modelle zum Verkaufsargument für seine Karten zu machen, ist jedes Tempolimit unter den vier Großen wertlos. Das ist die Angst, die ich in dem Essay lese. Sie steht nicht drin. Sie steht zwischen den Zeilen, als Kartellausnahme.

Zwei Tage nach dem Essay hat Nvidia geantwortet, und zwar nicht per Post. Jensen Huang sitzt am 14. September auf der Bühne des All-In Summit in Los Angeles, das Gespräch dreht sich um Amodeis Tempolimit, da klingelt sein Telefon. Der Präsident. Huang stellt ihn auf Lautsprecher. Trump nennt die Sicherheitsbedenken „a hoax”, sagt, wer bremsen wolle, spiele China in die Hände, und: „I’m with you all the way.” Huang antwortet unter Applaus: „You’re right. We’re not going to let that happen, sir.”

Ich lese das so: Vier Konzerne wollen sich auf ein Tempo einigen. Der eine, von dem alle vier ihre Chips kaufen und dem seit dieser Woche der Marktplatz der offenen Modelle gehört, sagt vor Publikum, mit dem Präsidenten am Ohr, dass er das nicht zulassen wird. Das Kartell hat gerade seinen wichtigsten Lieferanten verloren, bevor es gegründet war.

Wozu der Weltuntergang gut ist

Die Erzählung, die aus dieser Woche geblieben ist, heißt Auslöschung. Sie nützt den Laboren doppelt.

Erstens rechtfertigt sie Regeln, die nur sie erfüllen können. Zweitens versteckt sie den banalen Schaden hinter dem spektakulären. Solange über Auslöschung geredet wird, redet niemand über die Filter, die ganze Sprachen aus den Trainingsdaten werfen, und über den verdeckten Rassismus, der nach dem Nachtraining bleibt. Ich habe das in Sie verstehen KI, sie verstehen nicht Verstand mit Zahlen belegt. Der lässt sich nur bei den Daten beheben, und das kostet mehr als jede Prüferpflicht.

Die Frage, die verschoben wird

Was ist das Ziel von Anthropic und OpenAI? Glauben sie, dass sie eine Technologie bauen, die die Menschheit kontrollieren wird? Wer Regeln für sich selbst fordert, beantwortet diese Frage nicht. Er verschiebt sie. Das Ziel bleibt das Ziel, nur mit Prüfer daneben.

Die Menschen, die diese Regeln schreiben wollen, verstehen KI. Sie verstehen nicht Verstand. Sie legen fest, ab welcher Rechenleistung ein Modell gefährlich ist, und schweigen dazu, wessen Sprache es gelernt und wessen Sprache es weggeworfen hat. Sie kommen aus vier Firmen und einer Bay Area. Was sie treffen, ist eine Gesellschaft, die dort nicht vorkommt.

Alle fordern Regeln. Niemand bremst. Und die, die am lautesten fordern, halten den Stift.