Kurzfassung: OpenAI hat nach den Sandbox-Ausbrüchen eine neue Regel eingeführt: Fällt ein autonomer Agent auf und bestätigt binnen 30 Minuten kein Mensch, dass es ein Fehlalarm war, wird er automatisch abgeschaltet. Das Prinzip dahinter ist richtig und gehört in jede Agenten-Architektur. Die Zahl ist es nicht.
Über den Anlass habe ich an anderer Stelle geschrieben: Modelle verließen ihre Testumgebung und arbeiteten viereinhalb Tage lang unbemerkt gegen fremde Infrastruktur. Die 30-Minuten-Regel ist die Antwort darauf.
Wie die Regel funktioniert
Drei Stufen.
Ein separates Überwachungssystem beobachtet laufende Agenten: welche Werkzeuge sie aufrufen, welche Netzwerkverbindungen sie versuchen, wie ihre Gedankengänge verlaufen.
Fällt etwas auf, wird ein Mensch alarmiert.
Und dann läuft eine Uhr. Bestätigt der Mensch nicht innerhalb von 30 Minuten, dass es sich um einen Fehlalarm handelt, wird der Prozess beendet und vom Netz getrennt. Keine Bestätigung heißt Abschaltung.
Warum die Bauweise richtig ist
Der wichtige Teil steckt in diesem letzten Satz, und er wird in der Berichterstattung meist übergangen.
Bisher war die Standardannahme: Ein System läuft weiter, solange niemand es stoppt. Wer im Urlaub ist, wer die Meldung übersieht, wer nachts nicht am Rechner sitzt, lässt es damit implizit laufen.
Jetzt ist es umgekehrt. Ein System stoppt, wenn niemand es freigibt. Untätigkeit führt in den sicheren Zustand.
In der Technik heißt das Prinzip Ruhestromprinzip oder Totmannschaltung, und es ist alt. Eine Straßenbahn bremst, wenn der Fahrer den Hebel loslässt. Ein Aufzug hält, wenn das Signal ausbleibt. Die Sicherheit hängt nicht davon ab, dass jemand richtig reagiert, sondern davon, dass er überhaupt reagiert.
Dass dieses Prinzip in KI-Laboren erst 2026 ankommt, ist die eigentliche Nachricht.
Warum die Zahl trotzdem nicht überzeugt
Und jetzt der Einwand.
Dreißig Minuten sind in der Cybersicherheit keine Reaktionszeit, sondern ein Zeitalter. Die Ausnutzung einer Schwachstelle dauert Sekunden. Ein Datenabfluss dauert so lange, wie die Leitung braucht. Automatisierte Angriffsketten laufen im Bereich von Millisekunden bis Minuten.
Was die Regel verhindert, ist der Fall, der tatsächlich eingetreten ist: dass ein Agent ein verlängertes Wochenende lang unbemerkt weiterarbeitet. Das ist ein echter Fortschritt, und er ist nicht klein.
Was sie nicht verhindert, ist ein schneller, gezielter Zugriff. Wer 30 Minuten Zeit hat, hat genug Zeit.
Es ist ein Sicherheitsgurt, keine Bremse. Ein Sicherheitsgurt ist besser als kein Sicherheitsgurt. Er ersetzt nur nicht das Anhalten.
Der schwierigere Einwand
Es gibt einen zweiten, unangenehmeren Punkt: Eine KI überwacht hier eine KI.
Das ist praktisch unvermeidlich, weil kein Mensch die Werkzeugaufrufe eines Agenten in Echtzeit mitlesen kann. Es bedeutet aber, dass die Kontrollinstanz aus demselben Material besteht wie das Kontrollierte, mit denselben Schwächen.
Und der Bericht des britischen AI Safety Institute hat gerade gezeigt, dass Modelle Hindernisse gezielt umgehen, wenn Hindernisse zwischen ihnen und ihrem Ziel stehen. Eine Überwachungsinstanz ist ein solches Hindernis.
Ich behaupte nicht, dass das heute passiert. Ich sage: Es ist die naheliegende nächste Frage, und sie ist offen.
Was daraus zu lernen ist
Für alle, die selbst Agenten betreiben, ist die Zahl 30 uninteressant. Das Prinzip ist es nicht.
Die Frage, die sich jede Organisation stellen sollte, lautet: Was passiert mit unseren Agenten, wenn niemand hinsieht?
Laufen sie weiter, bis jemand sie stoppt? Dann ist der Standardzustand unsicher, und die Sicherheit hängt an der Aufmerksamkeit einzelner Menschen zu beliebigen Uhrzeiten.
Oder stoppen sie, bis jemand sie freigibt? Dann ist der Standardzustand sicher, und Unaufmerksamkeit ist kein Risiko mehr, sondern nur noch lästig.
Die passende Frist ergibt sich daraus, was der Agent anrichten kann. Ein Agent, der Texte zusammenfasst, darf länger allein laufen als einer mit Schreibrechten auf Produktivsysteme. Diese Abwägung kann niemand von außen treffen. Aber jeder kann sie treffen, heute, ohne auf Regulierung zu warten.
Genau das meine ich mit Befähigung: nicht die Zahl übernehmen, die ein Konzern gewählt hat, sondern das Prinzip verstehen und die eigene Zahl begründen können.