RAG-Systeme

Über die Leistung

Retrieval-Augmented Generation verbindet ein Sprachmodell mit dem eigenen Dokumentenbestand: Zur Laufzeit werden passende Textstellen gesucht und der Anfrage beigelegt. Das Modell antwortet dann aus diesen Stellen und kann sie benennen. Der schwierige Teil ist nicht das Modell, sondern die Zerlegung: Zu große Abschnitte verwässern die Suche, zu kleine verlieren den Zusammenhang. Grenze: RAG reduziert Halluzinationen deutlich, schaltet sie aber nicht ab. Wenn die Suche nichts Passendes findet, antwortet das Modell trotzdem – sofern man es nicht ausdrücklich anweist, das zuzugeben.

Was dazugehört

Kurz gesagt

Antworten aus dem eigenen Dokumentenbestand, mit nachvollziehbarer Quelle