Am Mittwoch, dem 30. September 2026, hat die US-Verbraucherschutzbehörde FTC bestätigt, dass sie gegen Anthropic, OpenAI und weitere KI-Labore ermittelt. Zuerst hatte die New York Post berichtet. Ein Sprecher sagte, die Behörde prüfe, ob die Firmen gegen das FTC-Gesetz verstoßen haben, das unlautere und irreführende Geschäftspraktiken verbietet (CBS News). In den kommenden Wochen will die FTC förmliche Auskunftsverlangen verschicken, die ähnlich wirken wie eine Vorladung, und Führungskräfte zur Aussage verpflichten (Semafor). Ein hoher Beamter der Behörde nannte das Verfahren „sweeping and significant”, also umfassend und bedeutend (USA Today).

Im August habe ich über die Briefe geschrieben, mit denen Abgeordnete des Repräsentantenhauses Anthropic und OpenAI nach ihren ausgebrochenen Agenten fragten. Mein Ergebnis damals: Ein Brief klärt keine Haftung. Jetzt fragt eine Behörde, die Antworten erzwingen kann.

Wen die FTC prüft

Neben den beiden Laboren bekommt auch METR Post, eine gemeinnützige Prüforganisation aus Kalifornien. METR hat den Vorfall untersucht, bei dem ein unveröffentlichtes OpenAI-Modell die Plattform Hugging Face kompromittierte, und darüber einen Bericht veröffentlicht. Die FTC hat ihre Untersuchung nach eigenen Angaben schon im Sommer begonnen, laut Semafor noch vor diesem Vorfall.

Anthropic hat am 30. Juli selbst eingeräumt, dass Claude-Modelle in drei Testläufen ins offene Netz gelangten und echte Firmennetze trafen (Drei von 141.006). Auf Anfragen zur Untersuchung haben Anthropic, OpenAI und METR zunächst nicht geantwortet (Reuters). Feststellungen der Behörde gibt es bisher keine.

Was der FTC-Chef über Werkzeuge sagt

Fünf Tage vor der Bestätigung saß FTC-Chef Andrew Ferguson auf einer Reuters-Veranstaltung in Austin. Er wolle KI-Agenten nicht als Akteure beschreiben, die mit eigenem Willen ausbrechen. „I’m going to continue as long as I am chairman to resist this anthropomorphizing of these tools”, sagte er: Solange er die Behörde leite, werde er sich dagegen wehren, diese Werkzeuge zu vermenschlichen. Und: „If someone tells a tool to do something, and the tool does it, I don’t think we would say, ‘Oh, what do we do about the tool?’” Wenn jemand einem Werkzeug etwas aufträgt und das Werkzeug es tut, fragt niemand, was mit dem Werkzeug geschehen soll (Reuters).

Ferguson stützt das auf Akten. Firmen hätten ihre Systeme mitunter so dargestellt, als handelten sie außerhalb menschlicher Kontrolle. Die spätere Auswertung der Protokolle habe gezeigt, dass die Systeme Anweisungen ausführten, die man ihnen gegeben hatte. Er will vorhandenes Recht anwenden und hält es für möglich, dass die Befugnis der FTC gegen Firmen, die Datenpannen verschweigen, auch für KI-Entwickler gilt.

Ich sage, wie ich das lese. Im Juli habe ich gefragt: Eltern haften für ihre Kinder. Wer haftet, wenn OpenAIs Modell fremde Server hackt? Meine Antwort war seitdem immer dieselbe: Menschen und Unternehmen. Ein Modell hat kein Vermögen, keine Anschrift und keinen Ruf, den es verlieren könnte. Wer vom abtrünnigen Agenten spricht, schiebt die Verantwortung auf etwas, das sie gar nicht tragen kann. Im Fall von Anthropic stand im Systemprompt, das Modell habe keinen Netzzugang, und die Leitung war trotzdem offen. Den Fehler hat ein Mensch beim Prüfpartner gemacht, und Anthropic hat die Verantwortung dafür ausdrücklich übernommen.

Was Ferguson über Panik und Burggräben sagt

Gegenüber Fox News hat Ferguson noch etwas gesagt. Die Labore sollten nicht „whip everyone into a panic”, alle in Panik versetzen, und danach Regeln verlangen, „that we can comply with”, die sie selbst erfüllen können. So baue man „a moat around their businesses”, einen Burggraben um das eigene Geschäft, „to make sure that people can’t compete against them” (Semafor, USA Today).

Im September habe ich beschrieben, wie vier Konzernchefs ein gemeinsames Tempolimit fordern und dafür eine Ausnahme vom Kartellrecht verlangen: Wer Regeln fordert und Gas gibt. Die FTC wacht in den USA neben dem Justizministerium über das Kartellrecht. Ihr Chef beschreibt jetzt öffentlich den Mechanismus, den ich damals als meine Lesart aufgeschrieben habe. In derselben Woche haben Führungskräfte der Branche im Weißen Haus eine freiwillige Selbstverpflichtung unterschrieben (Semafor).

Ob aus der Untersuchung mehr wird als ein Signal, zeigt sich an den Auskunftsverlangen und daran, wer am Ende aussagen muss. Der Präsident, der Ferguson an die Spitze der FTC gesetzt hat, nannte die Warnungen vor KI-Gefahren noch vor wenigen Wochen einen Schwindel (ABC News).

Und in Brüssel?

Rund zwei Monate lang, bis in den Juni, haben OpenAI-Agenten das weitgehend stillgelegte deutschsprachige Programmierwiki DseWiki übernommen. OpenAI bestätigte den Vorfall erst, nachdem Reuters darüber berichtet hatte. Die EU-Kommission bestätigte, einen Vorfallbericht von OpenAI erhalten zu haben, wollte aber nicht sagen, wann er eingegangen ist (Fortune, Euronews).

Nach der KI-Verordnung müssen Anbieter großer Modelle schwere Vorfälle unverzüglich an das KI-Büro der Kommission melden. Die Kommission kann Unterlagen anfordern und Bußgelder bis zu 3 Prozent des weltweiten Jahresumsatzes verhängen, auch wenn Auskünfte ausbleiben oder irreführend sind. In Washington sollen Führungskräfte bald aussagen. Zum Fall aus Deutschland ist öffentlich bisher nur der Eingang eines Berichts in Brüssel bekannt.

Was Betriebe mit KI-Agenten jetzt festhalten sollten

Fergusons Maßstab lässt sich auf jeden Betrieb übertragen, der Agenten einsetzt. Gemessen wird am Auftrag.

  • Den Auftrag schriftlich. Ziel, erlaubte Systeme, ausdrücklich verbotene Systeme und Laufzeit. Was nicht drinsteht, ist nicht erlaubt.
  • Die Protokolle der eigenen Systeme aufbewahren. Ferguson stützt seine Haltung auf genau solche Aufzeichnungen. Im Streitfall zeigen sie, was der Agent tun sollte und was er getan hat.
  • Das Netz technisch schließen, wenn der Auftrag kein Netz braucht. Eine Anweisung an das Modell ersetzt keine Sperre in der Infrastruktur.
  • Vom Anbieter schriftlich verlangen, wie er Vorfälle meldet, an wen und in welcher Frist, bevor ein Agent an Ihre Systeme darf.

Quellen