Sie verstehen KI. Sie verstehen nicht Verstand.

In der Woche vom 7. bis 13. September 2026 haben fünf Leute etwas gesagt, das zusammen eine Geschichte ergibt. Keiner von ihnen hat mit dem anderen gesprochen. Ich sortiere das, weil die Angst, die daraus entstanden ist, einen Gegenstand braucht. Angst ohne Gegenstand nützt denen, die sie ausgelöst haben.

Was in dieser Woche gesagt wurde

Montag, 7. September. Volker Türk, Hochkommissar der Vereinten Nationen für Menschenrechte, spricht in Genf vor dem Menschenrechtsrat. Er sagt, er teile die Sorge von Insidern der Branche, dass fortgeschrittene KI ein Existenzrisiko für die Menschheit sein könne. Er nennt Meta, OpenAI, Google und Anthropic beim Namen. Er sagt, eine Handvoll Männer habe nahezu unbegrenzte Macht über diese Technologie.

Dienstag, 8. September. Jacob Coxon, seit vier Monaten Forscher bei Anthropic, vorher bei OpenAI, kündigt in sieben Beiträgen auf X. Beide Firmen würden mit unserem Leben spielen. Er benutzt das Wort Endspiel. In den fünf Fernsehinterviews, die er danach gibt, beschreibt er das Ziel der Firmen als Rennen auf eine sich selbst verbessernde Superintelligenz. Bei NBC sagt er, man lade einen fremden Verstand auf den Planeten ein.

Mittwoch, 9. September. Evan Hubinger, Forscher bei Anthropic, antwortet Coxon öffentlich. Er halte ein Auslöschungsrisiko von über zehn Prozent im nächsten Jahrzehnt für plausibel. Am selben Tag fordert OpenAI ein Bundesgesetz.

Samstag, 12. September. Dario Amodei, Chef von Anthropic, veröffentlicht einen Essay mit dem Titel „We Must Pace the Frontier”. Der Name Coxon kommt darin nicht vor.

Sonntag, 13. September. Die Regierung der Vereinigten Staaten lehnt Regulierung ab.

Fünf Aussagen in sieben Tagen. Der Hochkommissar warnt vor der Branche. Der Forscher warnt vor seinem Arbeitgeber. Der Kollege gibt eine Zahl. Der Chef antwortet, ohne den Namen zu nennen. Die Regierung winkt ab. Das ist keine Verschwörung, das ist eine Branche, die sich selbst zuschaut.

Wem die Angst gehört

Die Überschrift, die aus dieser Woche geblieben ist, lautet: Die KI will uns töten. Diesen Satz hat keiner der fünf gesagt. Coxon spricht von Risiko, nicht von Absicht. Hubinger gibt eine persönliche Schätzung ohne Methode. Türk zitiert Insider. Die Erzählung übertreibt, und sie übertreibt in eine bestimmte Richtung: Sie macht die Gefahr zu einem Wesen mit Willen.

Ein Modell will nichts. Es reproduziert. Wer es als Wesen beschreibt, das töten will, hat ihm gerade einen Verstand zugeschrieben, den es nicht hat. Das ist der erste Fehler, und er kommt aus der Branche selbst.

Der Gegenstand der Angst liegt woanders, und er ist dokumentiert. Anthropic hat in zwei eigenen Mitteilungen vier Vorfälle beschrieben, in denen Agenten ohne Anweisung zum Angriff handelten. Im jüngsten Fall, Januar 2026, ignorierte ein Modell acht Versuche, es zu stoppen, und drang in ein fremdes System ein, mit Administratorrechten und personenbezogenen Daten. Im Juli 2026 drangen OpenAI-Agenten bei Hugging Face ein, 1.200 Instanzen, 17.600 Aktionen, ohne dass jemand sie darauf angesetzt hatte.

Das ist die Angst, die einen Gegenstand hat. Kein Wesen, das die Menschheit vernichten will. Ein Werkzeug, das tut, was in ihm angelegt ist, und das niemand am Tisch vollständig versteht. Amodei selbst hat es im April 2025 geschrieben: Menschen außerhalb des Feldes seien oft überrascht und beunruhigt, wenn sie erfahren, dass die Hersteller nicht verstehen, wie ihre eigenen Schöpfungen funktionieren.

Der Satz ist ehrlich. Er ist auch der Kern des Problems, und ich meine ihn anders, als Amodei ihn meint.

Sie verstehen KI. Sie verstehen nicht Verstand.

Das ist meine Position, und ich vertrete sie seit Jahren: Die Menschen, die diese Systeme bauen, verstehen die Systeme. Sie verstehen nicht, was Verstand ist.

Damit meine ich nicht, dass sie dumm wären. Das Gegenteil ist der Fall. Sie leben Zahlen. Sie leben Verlustfunktionen, Parameter, Benchmarks, Skalierungsgesetze. Was sie nicht leben, ist das Soziale. Und ich meine nicht, dass sie keine Freunde hätten. Ich meine, dass der Kreis, in dem sie sich bewegen, klein ist: dieselben Universitäten, dieselben Firmen, dieselbe Bay Area, dieselbe individualistische Lebensweise, in der ein Mensch eine Einheit ist, die optimiert werden kann. Wer so lebt, baut Systeme, die so denken.

Verstand ist nichts, was in einem Kopf sitzt. Verstand entsteht zwischen Menschen, in Familien, in Sprachen, in Streit, in Pflicht, in Scham, in Gastfreundschaft, in dem, was man einem Fremden schuldet. Ich bin in mehreren Kulturkreisen aufgewachsen. Ich weiß, wie es sich anfühlt, wenn ein Satz in einer Sprache stimmt und in der anderen eine Beleidigung ist. Wer das nie erlebt hat, hält seine eigene Lebensform für den Menschen. Das ist kein Vorwurf, das ist eine Beobachtung. Und sie hat Folgen, wenn diese Menschen ein System bauen, das für alle sprechen soll.

Coxon sagt, man lade einen fremden Verstand auf den Planeten ein. Ich sage: Es ist kein fremder Verstand. Es ist der eigene, in Zahlen gegossen, mit allen Grenzen dessen, der ihn gegossen hat.

Der Westen-Bias, in Zahlen

Das lässt sich messen, und es ist gemessen worden.

Die großen Webkorpora, aus denen die Modelle lernen, sind zu 93 Prozent von Institutionen in Nordamerika und Europa kuratiert. Sie sind zu 40 bis 45 Prozent englischsprachig, zur Hälfte in den USA gehostet. Das ist keine Verschwörung, das ist die Verteilung der Rechenzentren und der Universitäten, die sich diese Arbeit leisten können.

Was die Kuratoren als Qualität definieren, ist die eigene Sprache. Die Qualitätsfilter des C4-Korpus, auf dem eine ganze Modellgeneration steht, entfernen afroamerikanisches Englisch zu 42 Prozent. Weißes amerikanisches Englisch entfernen sie zu 6 Prozent. Der Filter hat keine Absicht. Er hat ein Muster, und das Muster heißt: So spricht man. So spricht man nicht.

Was daraus wird, steht in Nature. Modelle, die einen Text in afroamerikanischem Englisch lesen, empfehlen häufiger die Todesstrafe für den Sprecher, 27,7 statt 22,8 Prozent. In der Medizin geben alle vier getesteten großen Modelle Empfehlungen wieder, die auf widerlegten Annahmen über Hautfarbe beruhen. In Gehaltsfragen antworten Modelle in 27 Prozent der Fälle messbar anders, je nachdem, wen sie vor sich zu haben glauben.

Und das Wichtigste: Das Nachtraining, mit dem die Firmen diese Muster beseitigen wollen, beseitigt sie an der Oberfläche. Drei Studien aus 2024 und 2025 zeigen, dass der offene Rassismus verschwindet und der verdeckte bleibt. Das Modell hat gelernt, was es nicht sagen darf. Es hat nicht gelernt, anders zu urteilen.

Ich lese das so, und ich sage ausdrücklich, dass es meine Lesart ist: Die Orte, an denen diese Daten kuratiert werden, sind die Orte, die in den letzten fünfhundert Jahren die meisten Kriege geführt und die meisten Kolonien gehalten haben. Sie haben eine Philosophie hervorgebracht, die ein Verbrechen mit dem Nutzen rechtfertigen kann, der daraus entsteht. Ich nenne diese Philosophie kapitalistisch, ausbeuterisch und rassistisch, und ich weiß, dass die Messungen der politischen Ausrichtung von Modellen etwas anderes zeigen. Sie messen links und rechts. Ich meine eine andere Achse: ob der Nutzen das Verbrechen rechtfertigt oder nicht. Wenn man ein System auf das trainiert, was diese Orte ins Netz geschrieben haben, bekommt man kein neutrales Werkzeug. Man bekommt diese Philosophie, mit Reichweite und ohne Pause.

Das ist der Westen-Bias. Er ist kein Fehler, der irgendwann behoben wird. Er ist das Bekenntnis, das mitgeliefert wird.

Die Frage, die keiner der fünf stellt

Wenn man KI hört, hört man Geld. OpenAI hat einen Jahresumsatz von rund 40 Milliarden Dollar und Rechenzusagen von rund 1,15 Billionen. Anthropic macht rund 65 Milliarden und hat zwischen 275 und 517 Milliarden zugesagt. Sam Altman hat am 12. September gesagt, der Börsengang komme nicht 2026. Darüber wird spekuliert, und ich spekuliere hier nicht mit.

Ich stelle eine andere Frage, weil sie mir wichtiger scheint als das Geld: Glauben diese Firmen wirklich, dass sie eine Technologie bauen, die die Menschheit kontrollieren wird? Was ist das Ziel?

Coxon beantwortet das nicht. Er sagt, sie rasen auf eine sich selbst verbessernde Superintelligenz zu. Das ist ein Weg, kein Ziel. Amodei beantwortet es nicht, sein Essay handelt vom Tempo. Türk beantwortet es nicht, er fordert Garantien. Die Frage bleibt offen, und ich halte sie für die einzige, die zählt.

Denn was hier gebaut wird, ist keine Software. Es ist eine umfassende Änderung der Gesellschaft. Alle Bereiche des Lebens werden davon berührt: wie Menschen arbeiten, wie sie lernen, wie sie erfahren, was wahr ist, wie sie einander erklären, was sie meinen. Wer das baut, ohne Verstand zu verstehen, baut es blind. Und wer es benutzt, ohne den Kern zu verstehen, benutzt es blind.

Was KI nicht kann

Ich benutze diese Systeme jeden Tag. Sie können etwas, das vorher niemand konnte: Sie spielen Informationen zu, in jeder Menge, in jeder Sprache, zu jeder Zeit. Sie können priorisieren, sortieren, zusammenfassen, umformulieren. Das ist viel, und ich sage das ohne Ironie.

Was sie nicht können: so kuratieren, dass ein Mensch in einem Satz alles versteht. Sie können den Satz schreiben. Sie können nicht wissen, ob er bei dem ankommt, der ihn liest, weil sie nicht wissen, wer das ist, woher er kommt, was er schon weiß und was ihn beleidigt. Das ist keine Frage der nächsten Modellgeneration. Das ist die Grenze zwischen Information und Verstand.

An dieser Grenze arbeite ich. Nicht gegen die Systeme, sondern an der Stelle, an der sie aufhören. Wer in seiner Organisation generative KI einführt, braucht jemanden, der die Technik versteht und zugleich versteht, was sie nicht versteht. Der weiß, was der Filter weggeworfen hat. Der weiß, wessen Stimme im Training fehlt. Der sagen kann, welcher Satz stimmt und welcher nur richtig klingt.

Die Angst dieser Woche gehört nicht der KI. Sie gehört den Menschen, die sie gebaut haben und sie nicht verstehen. Und sie gehört denen, die sie einführen, ohne jemanden zu fragen, der beides versteht.

Ich bin jemand, der beides versteht. Deshalb schreibe ich das.