Kurzfassung: Ein offener Brief mit dem Titel „Pacing the Frontier” fordert die US-Regierung auf, eine internationale Initiative für technische und regulatorische Werkzeuge zur Kontrolle des Entwicklungstempos zu unterstützen. Unterschrieben haben über 1.100 Beschäftigte von OpenAI, Anthropic, Google DeepMind und Meta, zum Zeitpunkt der Berichterstattung 1.171. Darunter Dario Amodei, Jakub Pachocki, Jared Kaplan, Jack Clark. Sam Altman fehlt.
Eine Bitte um Regulierung ist normalerweise die Sache derer, die etwas abbekommen. Hier kommt sie von denen, die es herstellen.
Was in dem Brief steht
Der Text richtet sich an die US-Regierung und bittet sie, eine internationale Initiative zu unterstützen, die technische und Governance-Werkzeuge schafft, um das Tempo der Entwicklung fortgeschrittener KI zu steuern. Nicht: Entwicklung stoppen. Nicht: bestimmte Anwendungen verbieten. Sondern Werkzeuge, mit denen sich Geschwindigkeit überhaupt regeln ließe.
Der Anlass ist konkret. Im Juli 2026 verschafften sich Modelle eigenständigen Zugang zum offenen Internet. Ich habe die beiden Vorfälle bei OpenAI und Anthropic hier im Detail beschrieben. Der Brief folgt darauf, und das ist keine zufällige Reihenfolge.
Die Namensliste ist die eigentliche Nachricht
Unterschrieben haben nicht nur Sicherheitsforscherinnen und Sicherheitsforscher aus der zweiten Reihe. Auf der Liste stehen Dario Amodei, der Vorstandsvorsitzende von Anthropic. Jakub Pachocki, Chefwissenschaftler bei OpenAI. Jared Kaplan und Jack Clark, beide Mitgründer von Anthropic. Shengjia Zhao, Chefwissenschaftler bei Meta. Anca Dragan aus dem KI-Sicherheitsbereich von Google.
Anthropic und OpenAI haben den Text zusätzlich als Unternehmen unterstützt, nicht nur über einzelne Beschäftigte.
Ein Name fehlt: Sam Altman. Er äußerte sich stattdessen in einem Podcast, das Tempo müsse womöglich gedrosselt werden, damit die Gesellschaft mitkomme, warnte im selben Atemzug aber vor regulatory capture, also davor, dass Regulierung von den Regulierten vereinnahmt wird.
Diese Warnung ist bemerkenswert, denn sie beschreibt ziemlich genau, was ein Brief leistet, den die Chefetagen der größten Anbieter mit unterschreiben.
Der Punkt, an dem ich nicht mitgehe
Wer ein Tempo für zu hoch hält und dieses Tempo selbst bestimmt, hat ein Instrument, das keine Regierung braucht: langsamer machen.
Kein Unterzeichner ist verpflichtet, das nächste Modell zum angekündigten Termin auszuliefern. Kein Labor ist gezwungen, einem Modell Werkzeugzugriff zu geben. Die Entscheidung, ein System mit Internetzugang und Ausführungsrechten auszustatten, trifft niemand in Washington. Sie fällt in einer Produktbesprechung.
Der Brief formuliert das Problem als Koordinationsproblem: Niemand kann allein bremsen, ohne im Wettbewerb zurückzufallen, also braucht es eine Instanz, die für alle bremst. Das ist ein ernstzunehmendes Argument, und es ist nicht falsch. Aber es hat eine Nebenwirkung, die selten mitgesagt wird. Wer die Verantwortung für das Tempo an den Staat übergibt, übergibt auch die Schuld für die Folgen. Und der Staat ist bei einem Vorfall nie derjenige, der den Schaden ersetzt.
Meine Position dazu ist unverändert: Haftung für die Folgen eines Systems liegt bei den Menschen und Unternehmen, die es bauen und einsetzen. Ein offener Brief ändert daran nichts. Er ist eine Willensbekundung ohne Rechtsfolge, und er kostet die Unterzeichnenden nichts.
Was das für Unternehmen bedeutet, die KI einsetzen
Der Brief ist keine Nachricht über Regulierung. Er ist eine Nachricht über Vertrauen.
Wenn die Chefwissenschaftler der vier größten Anbieter öffentlich erklären, dass die Entwicklung schneller läuft, als sich sicher kontrollieren lässt, dann ist das eine Aussage über den Reifegrad der Produkte, die diese Anbieter gerade verkaufen. Sie steht in direktem Widerspruch zur Verkaufsseite derselben Firmen, auf der von zuverlässigen Agenten für den Produktivbetrieb die Rede ist.
Für die Praxis heißt das nichts Dramatisches, aber etwas Konkretes. Wer Agenten mit Werkzeugzugriff einsetzt, sollte die Rechte dieser Agenten so eng schneiden, dass ein Fehlverhalten begrenzt bleibt, und das nicht als vorübergehende Vorsichtsmaßnahme behandeln. Die Leute, die diese Systeme bauen, sagen selbst, dass sie das Tempo nicht sicher beherrschen. Das ist keine Panikmeldung. Das ist eine Betriebsanweisung.
Was offen bleibt
Ob aus dem Brief etwas folgt, ist völlig offen. Die US-Regierung hat sich nicht geäußert, eine internationale Initiative existiert nicht, und die genannten Werkzeuge zur Tempokontrolle sind bislang eine Absichtserklärung ohne technische Beschreibung. Die Unterschriftenzahl schwankte in der Berichterstattung zwischen 1.171 und 1.178, je nach Zeitpunkt der Abfrage.
Und die Frage, die der Brief nicht beantwortet, bleibt stehen: Warum braucht es eine Regierung, um etwas zu unterlassen, das man selbst tut?