Kurzfassung: KI-Compliance bedeutet, die Pflichten aus der KI-Verordnung, dem AI Act, und den angrenzenden Gesetzen für die eigenen KI-Anwendungen zu kennen und einzuhalten. Welche Pflichten gelten, hängt von zwei Fragen ab: Ist das Unternehmen Anbieter oder Betreiber, und in welche Risikostufe fällt die Anwendung? Für Unternehmen, die ChatGPT, Copilot oder KI-Funktionen in Fachsoftware nutzen, stehen heute drei Punkte im Vordergrund: Maßnahmen zur KI-Kompetenz, der Ausschluss verbotener Praktiken und die Transparenzpflichten. Die Pflichten für Hochrisiko-Systeme gelten nach dem Omnibus ab Dezember 2027 oder August 2028.

Die erste Frage: Anbieter oder Betreiber?

Die KI-Verordnung unterscheidet nach Rollen. Anbieter ist nach Artikel 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit.

Die meisten Unternehmen im Mittelstand sind Betreiber: Sie setzen Werkzeuge ein, die andere entwickelt haben. Wer dagegen eine eigene KI-Anwendung baut und unter eigenem Namen an Kunden gibt, kann selbst Anbieter sein. Die Pflichten der Anbieter reichen deutlich weiter.

Vier Risikostufen

Die EU-Kommission beschreibt die Verordnung mit vier Stufen:

  • Unannehmbares Risiko: Diese Praktiken sind nach Artikel 5 verboten. Dazu gehören unter anderem Social Scoring, das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken und die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen. Die Verbote gelten seit dem 2. Februar 2025. Mit dem Omnibus kamen Verbote für KI zur Erzeugung nicht einvernehmlicher intimer Darstellungen und von Darstellungen sexuellen Kindesmissbrauchs hinzu, die ab dem 2. Dezember 2026 gelten.
  • Hohes Risiko: Dazu zählen Anwendungen in den Bereichen nach Anhang III, etwa KI-Systeme, die für die Einstellung oder Auswahl von Bewerbern oder für Entscheidungen über Beförderung und Kündigung verwendet werden sollen. Hinzu kommt KI als Teil regulierter Produkte nach Anhang I.
  • Transparenzrisiko: Hier gelten Kennzeichnungs- und Informationspflichten nach Artikel 50.
  • Minimales Risiko: Für diese Anwendungen führt die Verordnung keine eigenen Regeln ein.

Maßgeblich ist der Einsatzzweck, nicht allein das Werkzeug. Ein Assistent, der Pressetexte entwirft, ist anders einzuordnen als ein System, das Bewerbungen vorsortiert.

Was Betreiber heute umsetzen

Für Betreiber ohne Hochrisiko-Anwendungen lassen sich die aktuellen Pflichten auf wenige Punkte bringen:

  1. KI-Kompetenz nach Artikel 4. Seit der neuen Fassung durch die Verordnung (EU) 2026/1744 ergreifen Betreiber Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Niveau einzelner Personen müssen sie nicht garantieren. Details im Beitrag zur KI-Schulungspflicht.
  2. Verbote ausschließen. Kein eingesetztes Werkzeug darf in eine Praxis nach Artikel 5 fallen. Für Arbeitgeber ist vor allem das Verbot der Emotionserkennung am Arbeitsplatz relevant.
  3. Transparenz nach Artikel 50. Betreiber legen offen, wenn sie mit KI Deepfakes erzeugen. Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, sind als KI-erzeugt offenzulegen, außer sie wurden menschlich geprüft oder redaktionell kontrolliert und eine Person oder Stelle trägt die Verantwortung. Mehr dazu im Beitrag zur Kennzeichnung nach Artikel 50.

Neben der KI-Verordnung gilt der Datenschutz. Die Datenschutzkonferenz geht in ihrer Orientierungshilfe zu KI und Datenschutz davon aus, dass beim Einsatz von KI-Anwendungen vielfach eine Datenschutz-Folgenabschätzung erforderlich sein wird. Sie empfiehlt außerdem, Beschäftigten für die berufliche Nutzung betriebliche Geräte und Konten bereitzustellen. Wo ein Betriebsrat besteht, ist er in der Regel ebenfalls beteiligt, siehe Betriebsrat und KI.

Wenn eine Anwendung als Hochrisiko gilt

Setzt ein Unternehmen ein Hochrisiko-System ein, kommen die Betreiberpflichten nach Artikel 26 hinzu. Betreiber

  • verwenden das System entsprechend der Betriebsanleitung,
  • übertragen die menschliche Aufsicht Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis,
  • sorgen, soweit sie die Eingabedaten kontrollieren, dafür, dass diese der Zweckbestimmung entsprechen,
  • überwachen den Betrieb, informieren bei Risiken unverzüglich den Anbieter oder Händler und die Marktüberwachungsbehörde und setzen die Verwendung aus,
  • bewahren automatisch erzeugte Protokolle, soweit sie diese kontrollieren, mindestens sechs Monate auf,
  • informieren als Arbeitgeber vor der Inbetriebnahme am Arbeitsplatz die Arbeitnehmervertreter und die betroffenen Beschäftigten.

Diese Pflichten gelten für Anwendungen nach Anhang III ab dem 2. Dezember 2027 und für KI in Produkten nach Anhang I ab dem 2. August 2028. Aussagen, nach denen die Hochrisiko-Pflichten bereits seit August 2026 greifen, sind damit überholt.

Bußgelder und Aufsicht

Die Höchstbeträge nach Artikel 99 hängen von der verletzten Pflicht ab:

  • Verbotene Praktiken nach Artikel 5: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
  • Pflichten unter anderem von Anbietern nach Artikel 16, Betreibern nach Artikel 26 und Transparenzpflichten nach Artikel 50: bis zu 15 Millionen Euro oder 3 Prozent.
  • Unrichtige, unvollständige oder irreführende Angaben auf Auskunftsersuchen von Behörden oder notifizierten Stellen: bis zu 7,5 Millionen Euro oder 1 Prozent.

Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Artikel 99 Absatz 6 jeweils der niedrigere Betrag. Zentrale Aufsichtsbehörde in Deutschland ist nach dem KI-MIG die Bundesnetzagentur, mehr dazu im Beitrag Wer den AI Act in Deutschland durchsetzt.

KI-Compliance als laufende Aufgabe

KI-Compliance ist kein einmaliges Projekt. Neue Werkzeuge kommen hinzu, bestehende erhalten neue Funktionen, und der Rechtsrahmen ändert sich, wie der Omnibus gezeigt hat. Praktikabel ist ein fester Kreislauf: ein Verzeichnis aller KI-Anwendungen mit Zweck und Risikostufe, eine benannte Zuständigkeit, dokumentierte Schulungen und eine Prüfung jedes neuen Werkzeugs vor der Einführung. Als Vorlage für das Verzeichnis eignet sich das KI-Inventar, das für Gesundheitseinrichtungen entwickelt wurde und sich auf andere Branchen übertragen lässt.

Diese Aufgaben lassen sich intern verteilen oder an einen externen KI-Beauftragten übergeben, der Verzeichnis, Einstufung und Prüfung neuer Werkzeuge laufend führt. Für einen kompakten Überblick auf Leitungsebene gibt es das KI-Briefing für die Geschäftsführung.

Dieser Beitrag beschreibt die Rechtslage allgemein und ersetzt keine Rechtsberatung im Einzelfall.