Die Entscheidung dieser Lektion

Sie rekonstruieren den Rahmen um das Chat-System: Wer prüft Ausgaben, wer gibt Aktionen frei, was wird protokolliert und wer trägt Verantwortung? Das Ergebnis ist ein Kontroll- und Bewertungsplan und eine Teamregel, die auf eine Seite passt.

Das Bauteil im Chat-System

Kontrolle ist kein einzelner Button in der Oberfläche. Sie besteht aus technischen Begrenzungen, nachvollziehbaren Tests und organisatorischen Zuständigkeiten. Ein Produkt kann Teile davon unterstützen; die Verantwortung der Organisation kann es nicht übernehmen.

Der Rahmen, nicht der Deckel

In vielen Schaubildern liegt „Governance” als oberste Schicht auf dem Stapel. Das führt in die Irre. Kontrolle ist kein Arbeitsschritt am Ende, sondern eine Perspektive auf jede der vier anderen Schichten:

  • Anwendung: Wer darf diesen Anwendungsfall überhaupt nutzen?
  • Orchestrierung: Wer gibt Ergebnisse frei, bevor sie verbindlich werden?
  • Kontext: Wer entscheidet über erlaubte und verbotene Quellen?
  • Modell & Betrieb: Wer prüft Verträge und Rechenorte?

Deshalb zeichnet der KI-Architekturkompass die Kontrolle als Rahmen um die vier operativen Schichten, nicht als fünfte Karte obendrauf.

Die drei Bausteine des Kontrollplans

Erstens: Freigaben. Für jeden Anwendungsfall ist eine Person benannt, die Ergebnisse fachlich prüft, bevor sie gelten. Der Grundsatz dahinter: Die KI liefert in diesem Einstiegsszenario Entwürfe, Menschen treffen Entscheidungen. Software übernimmt keine organisatorische oder rechtliche Zuständigkeit; Verantwortlichkeiten bleiben deshalb in der Organisation klar benannt.

Zweitens: Stichproben und Bewertung. Einmal im Quartal werden einige KI-gestützte Ergebnisse gezielt geprüft: Stimmen die Inhalte? Wurden die erlaubten Quellen genutzt? Passt der Aufwand noch zum Nutzen? Wenn ein Modell oder Werkzeug gewechselt wird, wird diese Prüfung vorgezogen, denn ein neues Modell kann sich in denselben Aufgaben anders verhalten.

Drittens: Eine kurze, sichtbare Dokumentation. Kein Ordner voller Richtlinien, sondern zwei Dinge: die Ein-Seiten-Teamregel (was ist erlaubt, was ist verboten, wer gibt frei) und ein einfaches Register, in dem steht, welche Anwendungsfälle mit welchen Werkzeugen laufen und wer wann geschult wurde.

Diese Dokumentation hat auch eine rechtliche Seite: Artikel 4 des EU AI Act verlangt von Anbietern und Betreibern von KI-Systemen, nach besten Kräften ein ausreichendes Maß an KI-Kompetenz der beteiligten Personen sicherzustellen, passend zu deren Vorwissen, Rolle, Nutzungskontext und betroffenen Personen. Ein bestimmtes Zertifikat ist nicht vorgeschrieben. Die Erläuterungen der EU-Kommission nennen interne Aufzeichnungen über Schulungen und andere Leitmaßnahmen als mögliche Dokumentation; sie garantieren allein jedoch noch keine Konformität. Das Register hält nachvollziehbar fest, was Ihr Team für den konkreten Einsatz gelernt hat. Hinweis zum Stand Juli 2026: Die Kommission hat im Digital-Omnibus Änderungen an Artikel 4 vorgeschlagen; bis zu einer beschlossenen Änderung bleibt der geltende Verordnungstext maßgeblich.

Schatten-KI: Der Rahmen schlägt das Verbot

Die unsichtbarste Gefahr ist nicht das geregelte System, sondern das ungeregelte daneben: private Konten, in denen längst gearbeitet wird. Verbote verschieben diese Nutzung nur weiter ins Verborgene. Wirksam ist der bessere erlaubte Weg: ein freigegebenes Werkzeug, eine klare Ein-Seiten-Regel und die offene Ansage, dass Fragen erwünscht sind. Wer den erlaubten Weg bequem macht, trocknet die Schatten-KI aus.

Das Praxisbeispiel

Die Praxis am Lindenplatz beschließt ihren Kontrollplan: Die QM-Verantwortliche gibt alle Arbeitsanweisungen frei. Die Praxismanagerin zieht pro Quartal drei KI-gestützte Dokumente für eine Stichprobe. Die Teamregel passt auf eine Seite und hängt im Sozialraum: erlaubtes Werkzeug, erlaubte Aufgaben, die vier verbotenen Quellen, keine Patientendaten, Freigabe durch QM. Im Register stehen der Anwendungsfall, das Werkzeug, das Datum der Teamschulung und die Namen der Teilnehmenden.

Aus dem Vorfall aus Lektion 1 ist damit ein System geworden: Die Mitarbeiterin, die damals heimlich den Telefonleitfaden überarbeitet hat, arbeitet jetzt im erlaubten Rahmen weiter und ihre Erfahrung fließt ins Team.

Der typische Fehler

Governance als Papierberg oder gar nicht. Die eine Organisation schreibt eine 30-Seiten-Richtlinie, die niemand liest und die nach drei Monaten veraltet ist. Die andere regelt nichts und hofft. Beide Wege enden gleich: Das Team entscheidet im Zweifel selbst. Wirksam ist die kleinste Regelung, die die vier Fragen beantwortet und sichtbar bleibt.

Kontrollfrage

Was gehört mindestens auf die Ein-Seiten-Teamregel?

Antwort anzeigen

Vier Dinge: das freigegebene Werkzeug samt erlaubten Aufgaben, die verbotenen Daten und Quellen (insbesondere keine Patientendaten und keine Personalunterlagen), die Person, die Ergebnisse freigibt, und die Ansprechperson für Fragen und neue Anwendungsideen. Alles Weitere ist Ausbau, nicht Pflicht.

Ihr Canvas-Eintrag

Füllen Sie das Feld Kontroll- und Bewertungsplan aus: Freigabeperson, Prüfrhythmus für Stichproben und den Ort, an dem Teamregel und Register liegen.