§ 1 Zweck und Geltungsbereich
- Diese Richtlinie regelt, wie in [Einrichtung] KI-Systeme eingesetzt werden.
- Sie gilt für alle Mitarbeiterinnen und Mitarbeiter sowie für Personen, die im Auftrag der Einrichtung mit dem Betrieb oder der Nutzung solcher Systeme befasst sind, einschließlich Honorarkräften, Auszubildenden und beauftragten Dienstleistern.
- Sie gilt für die dienstliche Nutzung, unabhängig vom verwendeten Gerät.
Warum so Der Personenkreis ist bewusst weiter gefasst als das eigene Personal, weil Artikel 4 KI-VO auch Personen nennt, die im Auftrag mit den Systemen befasst sind. Der Zusatz zum Gerät schließt die häufigste Lücke: dienstliche Nutzung auf privaten Geräten.
§ 2 Was als KI-System gilt
- Als KI-System im Sinne dieser Richtlinie gilt jedes System, das aus Eingaben Ausgaben wie Texte, Zusammenfassungen, Übersetzungen, Bilder, Empfehlungen oder Entscheidungsvorschläge erzeugt.
- Erfasst sind auch Funktionen, die in bereits genutzte Software eingebaut sind, etwa Assistenzfunktionen in Textverarbeitung, E-Mail, Praxis- oder Krankenhausinformationssystemen.
Warum so Die eingebauten Funktionen sind der blinde Fleck fast aller Richtlinien. Sie werden nicht beschafft, sondern erscheinen mit einem Update. Wer nur an ChatGPT denkt, regelt den kleineren Teil des tatsächlichen Einsatzes.
§ 3 Freigegebene Systeme
- Dienstlich genutzt werden dürfen ausschließlich die in der Anlage 1 aufgeführten Systeme.
- Die Anlage 1 nennt je System den Anbieter, den Einsatzzweck, den Ort der Verarbeitung, die zulässigen Datenarten und die Rollen, die es nutzen dürfen.
- Die Anlage 1 wird von [Funktion] geführt und mindestens [Zeitraum] überprüft.
Warum so Die Anlage ist derselbe Bestand, den Baustein 2 des Schulungskonzepts erhebt. Beide Dokumente sollten dieselbe Liste benutzen, sonst driften Schulung und Richtlinie auseinander. Der Ort der Verarbeitung steht bewusst in der Liste und nicht in einer Klausel, weil er je System verschieden ist.
§ 4 Nicht freigegebene Systeme und Meldung
- Systeme, die nicht in Anlage 1 stehen, dürfen dienstlich nicht genutzt werden.
- Wer ein solches System bereits genutzt hat oder nutzen möchte, meldet dies an [Funktion]. Eine Meldung nach dieser Klausel führt für sich genommen zu keiner arbeitsrechtlichen Maßnahme.
- [Funktion] entscheidet über die Aufnahme in Anlage 1 und teilt die Entscheidung mit Begründung mit.
Warum so Der zweite Satz ist die wichtigste Klausel des ganzen Dokuments. Ein Verbot ohne sanktionsfreie Meldung erzeugt keine Sicherheit, sondern Schweigen: Die Nutzung hört nicht auf, sie wird nur unsichtbar. Wer wissen will, was im Haus wirklich läuft, muss das Melden billiger machen als das Verbergen.
Wenn eine sanktionsfreie Meldung nicht durchsetzbar ist
Ersetzen Sie den zweiten Satz durch: „Eine Meldung, die vor einer Beanstandung erfolgt, wird bei der Bewertung des Vorgangs zugunsten der meldenden Person berücksichtigt.“ Das ist schwächer, aber immer noch wirksamer als eine reine Verbotsklausel.
§ 5 Welche Angaben eingegeben werden dürfen
- In ein freigegebenes System dürfen nur die Datenarten eingegeben werden, die für dieses System in Anlage 1 als zulässig ausgewiesen sind.
- Ohne ausdrückliche Ausweisung in Anlage 1 gilt: Namen, Geburtsdaten, Anschriften, Versicherten- und Fallnummern, Bilder von Personen sowie Angaben zu Gesundheit, Diagnosen oder Behandlungen werden nicht eingegeben.
- Der Verzicht auf den Namen allein macht eine Angabe nicht zulässig, wenn die Person sich aus dem Zusammenhang bestimmen lässt.
Warum so Der dritte Satz greift den häufigsten Irrtum auf. Eine seltene Diagnose mit Altersangabe und Station kann eine Person eindeutig bestimmen, auch ohne Namen. Die Klausel ist als Voreinstellung formuliert: Was nicht ausdrücklich erlaubt ist, bleibt außen vor. Die umgekehrte Bauweise, eine Verbotsliste, ist nie vollständig.
§ 6 Schweigepflicht
- Die Schweigepflicht nach Paragraf 203 StGB und die berufsrechtlichen Pflichten gelten bei der Nutzung von KI-Systemen unverändert.
- Die Weitergabe von Angaben an ein System, das nicht in Anlage 1 als für diese Datenarten zulässig ausgewiesen ist, ist eine Offenbarung im Sinne dieser Pflichten.
Warum so Die Klausel schafft keine neue Pflicht, sie benennt eine bestehende. Das ist Absicht: Wer eine Eingabe als Offenbarung liest statt als Bedienvorgang, entscheidet anders. Paragraf 203 Absatz 3 StGB regelt die Einbindung sonstiger mitwirkender Personen. Die Einordnung eines konkreten Anbieters gehört in die Prüfung vor der Freigabe, nicht in die Richtlinie.
§ 7 Prüfung der Ausgabe vor der Verwendung
- Eine Ausgabe eines KI-Systems ist ein Entwurf. Vor der Verwendung prüft die Person, die sie verwendet, sie auf sachliche Richtigkeit und Vollständigkeit.
- Die Prüfung erfolgt anhand der zugrunde liegenden Unterlagen, nicht anhand der Ausgabe selbst.
- Ausgaben, die in eine Behandlungsentscheidung, in die Dokumentation oder in eine Mitteilung nach außen eingehen, werden von der fachlich verantwortlichen Person geprüft.
Warum so Der zweite Satz benennt die eigentliche Schwierigkeit. Eine sprachlich sichere Zusammenfassung wirkt geprüft, weil sie flüssig ist. Ohne Rückgriff auf die Quelle prüft man nur die Formulierung.
§ 8 Verantwortung
- Die Verantwortung für ein Arbeitsergebnis bleibt bei der Person, die es verwendet oder weitergibt.
- Der Einsatz eines KI-Systems begründet keine Entlastung und verändert bestehende Dokumentationspflichten nicht.
Warum so Kurz und ohne Einschränkung formuliert, weil jede Relativierung an dieser Stelle als Zuständigkeitsverschiebung gelesen wird.
§ 9 Kennzeichnung
- Texte und Materialien, die überwiegend von einem KI-System erzeugt wurden und nach außen gehen, werden als solche gekennzeichnet, sofern sie nicht vor der Weitergabe inhaltlich überarbeitet und fachlich verantwortet wurden.
- Im Umgang mit Patientinnen und Patienten wird offengelegt, wenn ein System unmittelbar mit ihnen interagiert.
- Interne Entwürfe müssen nicht gekennzeichnet werden.
Warum so Die Ausnahme im ersten Satz ist entscheidend, sonst müsste jede stilistisch geglättete E-Mail gekennzeichnet werden und die Regel wird nicht befolgt. Der zweite Satz nimmt die Offenlegung gegenüber natürlichen Personen aus Artikel 50 KI-VO auf, formuliert als Hauspflicht.
§ 10 Systeme, die selbstständig handeln
- Systeme, die über das Erzeugen von Ausgaben hinaus selbstständig Aktionen ausführen, etwa Dateien ändern, Nachrichten versenden, Termine buchen oder auf andere Systeme zugreifen, bedürfen einer gesonderten Freigabe.
- Für sie wird in Anlage 1 zusätzlich festgehalten, auf welche Systeme und Daten sie zugreifen dürfen und welche Aktionen eine vorherige Bestätigung durch eine Person erfordern.
- Ein Zugriff auf Bestände mit Patientendaten wird nur erteilt, wenn Umfang und Zweck schriftlich festgelegt sind.
Warum so Ein System, das nur Text erzeugt, kann falsch liegen. Ein System mit Schreib- und Versandrechten kann Schaden anrichten, bevor jemand hinsieht. Die beiden Fälle gehören deshalb nicht in dieselbe Freigabe. Die Bestätigungspflicht je Aktionsart ist die wirksamste Einzelmaßnahme.
§ 11 Meldung von Vorfällen
- Auffällige, falsche oder benachteiligende Ausgaben, unbeabsichtigte Eingaben schützenswerter Angaben sowie Ausfälle werden an [Funktion] gemeldet.
- Meldungen werden [Zeitraum] ausgewertet. Das Ergebnis fließt in die Anlage 1 und in die nächste Schulungsrunde ein.
Warum so Der zweite Satz schließt den Kreis zum Schulungskonzept. Ohne ihn ist der Meldeweg ein Postfach. Was im Alltag schiefgeht, ist der beste Hinweis darauf, welcher Schulungsinhalt fehlt.
§ 12 Befähigung
- Vor der ersten dienstlichen Nutzung eines freigegebenen Systems erhalten die betroffenen Personen eine Einweisung, die sich an ihrer Rolle orientiert.
- Umfang, Inhalte und Nachweis richten sich nach dem Schulungskonzept der Einrichtung.
Warum so Die Richtlinie legt hier bewusst keine Stundenzahl fest und verweist auf das Schulungskonzept, damit beide Dokumente nicht getrennt veralten. Weder die KI-VO noch das deutsche Durchführungsgesetz nennen einen Umfang.
§ 13 Geltung, Änderung und Überprüfung
- Diese Richtlinie tritt am [Datum] in Kraft.
- Sie wird mindestens [Zeitraum] überprüft, außerdem anlassbezogen bei der Aufnahme eines neuen Systems, bei einem Anbieterwechsel, nach einem Vorfall und bei Änderungen der Rechtslage.
- Änderungen werden mit Datum und Fassung festgehalten.
- Bestehende Mitbestimmungsrechte bleiben unberührt.
Warum so Der letzte Satz gehört in jede Fassung, die in einer Einrichtung mit Betriebs- oder Personalrat gilt. Eine Richtlinie zur Nutzung technischer Systeme berührt regelmäßig Mitbestimmungstatbestände, und ein Muster kann diese Prüfung nicht vorwegnehmen.