Retrieval-Augmented Generation ergänzt eine Modellanfrage durch zuvor abgerufene Informationen.
Beispiel aus der Praxis
Ein Support-Agent sucht passende interne Dokumente und verwendet diese als Kontext. Quellenprüfung und Zugriffsrechte bleiben notwendig.
Abruf und Antwort getrennt betrachten
Zuerst werden geeignete Informationen gesucht, anschließend verarbeitet das Modell diese zusammen mit der Frage. Eine falsche Antwort kann deshalb bereits durch unpassende Treffer entstehen, selbst wenn der Text sprachlich überzeugend wirkt.
Den Wissensbestand pflegen
Prüfe, ob veraltete Dokumente ausgeschlossen und Änderungen zeitnah berücksichtigt werden. Ein Testfall sollte auch Fragen enthalten, für die es keine freigegebene Quelle gibt. Dann muss die fehlende Grundlage sichtbar bleiben.