Retrieval Augmented Generation (RAG)

Wie RAG funktioniert

1. Dokumente aufbereiten: Handbücher, Wartungsanleitungen oder FAQ werden in Abschnitte zerlegt und als Embeddings in einer Vektordatenbank gespeichert.
2. Passende Stellen finden: Zu einer Frage sucht das System die inhaltlich ähnlichsten Abschnitte.
3. Antwort erzeugen: Das Sprachmodell erhält die Frage zusammen mit diesen Abschnitten und formuliert daraus eine Antwort, idealerweise mit Quellenangabe.

Beispiel aus der Industrie

Ein Servicetechniker fragt: „Welches Anzugsdrehmoment gilt für die Lagerdeckel der Baureihe X?“ Ein RAG-Assistent findet die Stelle in der Wartungsanleitung, nennt den Wert und verlinkt auf das Dokument. Ohne RAG würde ein allgemeines Sprachmodell entweder passen müssen oder einen plausibel klingenden, aber falschen Wert erfinden.

Grenzen

RAG ist nur so gut wie die zugrunde liegenden Dokumente. Veraltete, widersprüchliche oder schlecht gegliederte Unterlagen führen auch zu schlechten Antworten. Zudem müssen Zugriffsrechte beachtet werden: Nicht jeder Mitarbeitende darf jedes Dokument sehen. RAG reduziert Halluzinationen, schließt sie aber nicht vollständig aus.