AI Literacy ist kein Vokabeltest

Warum ich bei Bias hellhörig werde

Ich begrüße jede Initiative, die KI-Kompetenz systematisch vermittelt. Hochschulen haben hier eine Verantwortung, gerade wenn Studierende später in regulierten oder gesellschaftlich sensiblen Feldern arbeiten. AI Literacy gehört für mich selbstverständlich in jedes Curriculum.

Gerade deshalb schaue ich genauer hin, wenn Kompetenz über Prüfungsformate operationalisiert wird. Denn dort zeigt sich, welches Verständnis von KI implizit vermittelt wird. Wird KI als sozio-technisches System verstanden oder als technisches Artefakt mit klar abgrenzbaren Eigenschaften.

Der Denkfehler: Bias als saubere Kategorie

In vielen didaktischen Formaten wird Bias über Typologien vermittelt. Algorithmic Bias, Sampling Bias, Gender Bias, Racial Bias, Social Bias. In der Prüfung sollen Fallbeispiele dann einer Kategorie zugeordnet werden. Das wirkt strukturiert und prüfbar. Es suggeriert Klarheit.

Der Fehler liegt nicht in der Existenz dieser Begriffe. Typologien sind analytisch sinnvoll. Der Fehler liegt in der impliziten Annahme, Verzerrungen seien trennscharf klassifizierbar.

In realen KI-Systemen überlagern sich Verzerrungen. Ein Datensatz kann historisch gewachsene Ungleichheiten enthalten. Diese können geschlechtsspezifisch geprägt sein. Gleichzeitig kann die Datenerhebung bestimmte Bevölkerungsgruppen systematisch unterrepräsentieren. Das Modell selbst kann durch Optimierungsentscheidungen bestimmte Muster verstärken. Was hier entsteht, ist kein isolierter Bias-Typ, sondern ein Geflecht struktureller, datenseitiger und algorithmischer Effekte.

Wenn eine Prüfung eindeutige Schubladenzuordnungen verlangt, wird diese Komplexität unsichtbar gemacht.

Konkrete Folgen im Gesundheitswesen

Gerade im medizinischen Kontext wird deutlich, warum diese Vereinfachung problematisch ist. Gender Bias in KI-Systemen entsteht selten allein auf Modellebene. Medizinische Leitlinien, klinische Studien und historische Datensätze basieren über Jahrzehnte hinweg häufig auf männlich dominierten Stichproben. Symptome von Frauen wurden teilweise anders dokumentiert oder weniger ernst genommen. Bestimmte Krankheitsverläufe wurden primär an männlichen Referenzwerten orientiert. Diese Verzerrung ist so stark, dass man die westlich-moderne Medizin schon fast als “Männermedizin” bezeichnen könnte.

Wenn ein KI-System auf solchen Daten trainiert wird, reproduziert es diese Strukturen. Der Bias liegt dann nicht nur im Algorithmus, sondern in der gesamten Wissensbasis, auf der das System aufbaut. Eine saubere Zuordnung zu einer einzelnen Bias-Kategorie greift hier zu kurz. Es handelt sich um ein Zusammenspiel aus strukturellem, datenseitigem und potenziell algorithmischem Bias.

Wer nur die richtige Vokabel auswählt, versteht diesen Zusammenhang nicht automatisch.

Was AI Literacy stattdessen leisten sollte

Der EU AI Act spricht nicht von Begriffssicherheit, sondern von angemessener Kompetenz im Umgang mit Risiken. Das impliziert Kontextverständnis, die Fähigkeit zur kritischen Einordnung und ein Bewusstsein für Wechselwirkungen zwischen Technik, Organisation und Gesellschaft.

AI Literacy bedeutet daher, dass man KI in seiner Funktionalität konzeptionell begreift. Erst dann kann man Stärken und Schwächen erkennen. Erst dann versteht man warum es so wichtig ist Verantwortung nicht an den Algorithmus zu delegieren, sondern die konzeptionelle Funktionsweise des Systems mit zu berücksichtigen.

Begriffe sind notwendig. Aber sie sind Werkzeuge, keine Endpunkte.

Eine begrenzte, aber wichtige Einsicht

Wenn wir AI Literacy auf Terminologiewissen reduzieren, erzeugen wir Scheinsicherheit. Studierende lernen, Bias korrekt zu benennen, aber nicht zwingend, ihn im Kontext zu analysieren.

Gerade bei Hochrisiko-KI im Gesundheitswesen ist das zu wenig. Dort geht es nicht um richtige Antworten im Multiple-Choice-Format, sondern um verantwortungsfähige Urteilsbildung.

AI Literacy beginnt für mich dort, wo wir aufhören, nur Vokabeln abzufragen, und anfangen, Zusammenhänge zu verstehen.