Worum es geht

RAG klingt technisch, folgt aber einem einfachen Ablauf, den Sie aus dem Alltag kennen: nachschlagen, das Passende heraussuchen, mit der Frage zusammenlegen, antworten. Diese Lektion geht die vier Schritte einmal langsam durch.

Die Formel

Wissensbasis  = gespeichertes Wissen
Retrieval     = Suche und Auswahl
Augmentation  = Einbau in die Anfrage
Generation    = Antwort des Modells

Schritt 1: Die Wissensbasis. Ausgewählte Dokumente Ihrer Organisation werden in einem durchsuchbaren Speicher abgelegt: Arbeitsanweisungen, Handbücher, Leitfäden. Wichtig ist das Wort ausgewählt. Was hier hineinkommt, entscheidet später über jede Antwort.

Schritt 2: Der Abruf. Stellt jemand eine Frage, sucht das System zuerst in der Wissensbasis nach den Stellen, die zur Frage passen. Es liest also nicht alles, sondern wählt aus, ähnlich wie Sie im Handbuch nicht jede Seite lesen, sondern das Kapitel aufschlagen, das Sie brauchen.

Schritt 3: Der Einbau. Die gefundenen Stellen werden mit der Frage zu einer einzigen Anfrage an das Modell zusammengesetzt. Sinngemäß: „Hier ist die Frage, und hier sind drei Auszüge aus unseren Unterlagen. Antworte auf dieser Grundlage.”

Schritt 4: Die Antwort. Das Modell formuliert die Antwort aus den mitgelieferten Stellen. Gute Systeme zeigen dabei die Quellen an, damit nachprüfbar bleibt, worauf sich die Antwort stützt.

Der Kernsatz zum Einordnen: RAG ist nicht einfach Kontext. RAG ist Kontextproduktion. Alle Dokumente Ihrer Organisation sind möglicher Kontext. Die abgerufenen Stellen sind der aktivierte Kontext. Und das System entscheidet bei jeder Frage neu, was aktiviert wird.

Das Praxisbeispiel

Die Praxis am Lindenplatz aus dem Kompass-Kurs hat ihre QM-Dokumente und den Telefonleitfaden in eine kleine Wissensbasis gelegt. Eine Medizinische Fachangestellte fragt: „Was mache ich, wenn ein Patient dreimal unentschuldigt nicht erschienen ist?” Das System findet den Abschnitt aus der Arbeitsanweisung Terminwesen, gibt ihn dem Modell mit, und die Antwort zitiert den tatsächlichen Praxisablauf statt einer Erfindung. Mit Quellenangabe, sodass die Kollegin bei Zweifeln direkt im Original nachlesen kann.

Der typische Fehler

RAG mit einem schlauen Modell verwechseln. Wenn die Antworten schlecht sind, wird oft ein besseres Modell gefordert. Meistens liegt das Problem aber in Schritt 1 und 2: Die Wissensbasis enthält veraltete Dokumente, oder der Abruf findet die falschen Stellen. Das beste Modell der Welt kann aus falschen Fundstellen keine richtige Antwort machen.

Kontrollfrage

Ein RAG-System antwortet auf eine Ablauffrage mit einer veralteten Regelung. Woran kann das liegen, obwohl das Modell „das neueste” ist?

Antwort anzeigen

An den Schritten vor dem Modell: In der Wissensbasis liegt noch die alte Fassung des Dokuments, oder der Abruf hat die alte statt der neuen Fassung gefunden. Das Modell formuliert nur, was ihm mitgegeben wird. Deshalb gehört zur RAG-Pflege, alte Versionen zu entfernen, nicht nur neue hinzuzufügen.