Kurzfassung: Schatten-KI entsteht, wenn Beschäftigte KI-Werkzeuge dienstlich nutzen, die das Unternehmen weder geprüft noch freigegeben hat. Die Datenschutzkonferenz geht davon aus, dass das in vielen Unternehmen und Behörden bereits Realität ist. Erkennen lässt sich Schatten-KI am besten durch Fragen statt durch Überwachen: eine Befragung, ein Blick auf Abrechnungen und Erweiterungen, ein gemeinsames Inventar. Eingefangen wird sie nicht durch ein Verbot, sondern durch eine freigegebene Alternative, klare Regeln für Eingaben und einen Meldeweg ohne Sanktion.

Was mit Schatten-KI gemeint ist

Der Begriff, englisch Shadow AI, lehnt sich an die bekannte Schatten-IT an. Gemeint sind KI-Werkzeuge, die im Arbeitsalltag laufen, ohne dass jemand im Unternehmen sie geprüft hat. Typische Fälle:

  • ein privates Konto bei einem Chatbot, in das Angebote, E-Mails oder Protokolle kopiert werden,
  • Übersetzungs- und Schreibdienste im Browser,
  • Browser-Erweiterungen, die Seiten zusammenfassen oder Formulare ausfüllen,
  • KI-Funktionen, die mit einem Update in vorhandene Software kommen und nie beschafft wurden.

Hinter fast allen Fällen steht derselbe Grund: Das Werkzeug spart Zeit, und ein freigegebener Weg fehlt. Schatten-KI ist deshalb weniger eine Frage der Disziplin als ein Hinweis darauf, wo ein Bedarf im Unternehmen noch keine Antwort hat.

Warum fehlender Überblick ein Datenschutzproblem ist

Die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz beschreibt das Muster ausdrücklich. Ohne klare Regelungen bestehe das Risiko, dass Beschäftigte KI-Anwendungen eigenmächtig und unkontrolliert nutzen. Davon sei derzeit in vielen Unternehmen und Behörden auszugehen.

Drei Punkte machen das heikel:

Kein Vertrag mit dem Anbieter. Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, verlangt Artikel 28 DSGVO einen Vertrag. Bei einem privaten Konto gibt es keinen zwischen Unternehmen und Anbieter. OpenAI etwa nennt in seiner EU-Datenschutzrichtlinie für Personen mit Wohnsitz im EWR OpenAI Ireland als Verantwortlichen und regelt Inhalte aus Geschäftsangeboten getrennt über Kundenverträge.

Training mit Eingaben. Bei persönlichen Konten mit ChatGPT Free, Plus oder Pro ist das Teilen von Daten für das Modelltraining laut OpenAI-Hilfe standardmäßig aktiviert und lässt sich abschalten. Ob einzelne Beschäftigte das getan haben, weiß im Unternehmen niemand.

Keine Nachweise. Nach Artikel 5 Absatz 2 DSGVO muss der Verantwortliche die Einhaltung der Datenschutzgrundsätze nachweisen können. Für Werkzeuge, von denen er nichts weiß, gelingt das nicht.

Hinzu kommt der Schutz der Beschäftigten selbst. Die Datenschutzkonferenz rät, für die berufliche Nutzung Geräte und Konten des Arbeitgebers bereitzustellen, weil bei privaten Konten Profile zu einzelnen Beschäftigten entstehen können.

Erkennen, ohne zu überwachen

Der naheliegende Reflex ist eine technische Auswertung, etwa von Netzwerkprotokollen. Sie ist selten der beste Anfang. Solche Auswertungen verarbeiten Daten der Beschäftigten. Wo ein Betriebsrat besteht, bestimmt er nach § 87 Absatz 1 Nummer 6 BetrVG bei technischen Einrichtungen mit, die Verhalten oder Leistung überwachen können, und nach der Rechtsprechung des Bundesarbeitsgerichts genügt die objektive Eignung.

Ergiebiger sind vier Wege, die ohne Überwachung auskommen:

  1. Eine kurze, anonyme Befragung. Welche Werkzeuge nutzen Sie, wofür, und welche Art von Angaben geben Sie ein? Wer vorher zusagt, dass die Antworten keine Folgen haben, bekommt ehrlichere Antworten.
  2. Abrechnungen und Spesen. Abonnements für KI-Dienste tauchen oft in Kreditkartenabrechnungen oder Auslagen auf.
  3. Erweiterungen und angebundene Anwendungen. Die IT kann prüfen, welche Browser-Erweiterungen auf dienstlichen Geräten installiert und welche Drittanwendungen an dienstliche Konten angebunden sind.
  4. Neue Funktionen in vorhandener Software. Versionshinweise der eingesetzten Programme zeigen, wo KI-Funktionen hinzugekommen sind.

Das Ergebnis gehört in ein Verzeichnis, das ab dann gepflegt wird. Eine Vorlage ist das KI-Inventar, gebaut für Gesundheitseinrichtungen und auf andere Branchen übertragbar. Der Datenschutzbeauftragte gehört von Anfang an dazu: Die Datenschutzkonferenz empfiehlt, ihn stets einzubinden, wenn Entscheidungen über KI-Anwendungen vorbereitet oder getroffen werden.

Einfangen: Alternative, Regeln, Meldeweg

Ein Verbot ohne Alternative kann dazu führen, dass die Nutzung unsichtbar wird, statt aufzuhören. Wirksamer sind vier Bausteine.

Eine freigegebene Alternative. Ein Werkzeug mit Unternehmenskonto, Vertrag zur Auftragsverarbeitung und abgeschaltetem Training. Die Datenschutzkonferenz nennt als Beispiel für datenschutzfreundliche Voreinstellungen, Konten so einzurichten, dass Eingaben nicht für das Training verarbeitet und keine Eingabe-Historie über die Sitzung hinaus gespeichert wird.

Regeln für Eingaben. Beschäftigte brauchen eine schnelle Antwort auf die Frage, welche Angabe in welches System darf. Die Datenampel für KI-Eingaben bewertet dafür die Eingabe zusammen mit dem Ziel. Ein System, das nicht freigegeben ist oder bei dem die Freigabe unklar ist, steht auf Rot, unabhängig vom Inhalt. Die Beispiele stammen aus dem Gesundheitswesen, die Regel lässt sich übertragen.

Ein Meldeweg ohne Sanktion. Wer ein nicht freigegebenes Werkzeug genutzt hat oder nutzen möchte, meldet es, und die Meldung allein löst keine arbeitsrechtliche Maßnahme aus. So formuliert es Paragraf 4 der Muster-KI-Nutzungsrichtlinie. Wer wissen will, was im Haus läuft, muss das Melden einfacher machen als das Verbergen. Wie eine solche Richtlinie in Kraft gesetzt wird, beschreibt der Beitrag zur Einführung einer KI-Richtlinie.

Schulung. Artikel 4 der KI-Verordnung verlangt in der Fassung der Verordnung (EU) 2026/1744 von Betreibern Maßnahmen, die die Entwicklung der KI-Kompetenz ihres Personals unterstützen. Private Konten, Trainingseinstellungen und der Meldeweg gehören in jede Einweisung.

Wenn bereits Daten eingegeben wurden

Eine Bestandsaufnahme bringt gelegentlich Fälle ans Licht, in denen Kunden- oder Beschäftigtendaten in ein privates Konto geflossen sind. Ob darin eine Verletzung des Schutzes personenbezogener Daten liegt, ist eine Frage des Einzelfalls. Liegt eine vor, sieht Artikel 33 DSGVO eine Meldung an die Aufsichtsbehörde unverzüglich und möglichst binnen 72 Stunden vor, nachdem sie bekannt wurde, es sei denn, sie führt voraussichtlich nicht zu einem Risiko für die Rechte und Freiheiten natürlicher Personen. Diese Einordnung gehört deshalb zeitnah zum Datenschutzbeauftragten. Für die meldende Person sollte der Vorgang folgenlos bleiben, sonst bleibt der Meldeweg beim nächsten Mal leer.

Ein Bestand, der aktuell bleibt

Schatten-KI verschwindet nicht durch eine einmalige Aktion. Neue Dienste und neue Funktionen in vorhandener Software kommen laufend hinzu. Das Inventar braucht deshalb eine Person, die es pflegt, Anfragen zu neuen Werkzeugen prüft und Meldungen beantwortet.

Wer diese Aufgabe nicht neben dem Tagesgeschäft erledigen kann, kann sie einem externen KI-Beauftragten übertragen, der Inventar, Freigaben und Meldeweg betreut. Für die Einweisung der Teams eignet sich die KI-Schulung für Mitarbeiter.

Dieser Beitrag beschreibt die Rechtslage allgemein und ersetzt keine Rechtsberatung im Einzelfall.