Retrieval-Augmented Generation (RAG) Retrieval-Augmented Generation verbindet ein Sprachmodell mit einer Suche über eigene Dokumente: Zur Laufzeit werden passende Textstellen gesucht und der Anfrage beigelegt, das Modell antwortet daraus und kann die Fundstellen nennen. Neue Dokumente wirken sofort, ohne dass etwas trainiert werden müsste. RAG ist in den meisten Fällen die richtige Antwort auf die Anforderung, dass ein System das eigene Wissen kennen soll.
Die Zerlegung in Abschnitte entscheidet mehr über die Qualität als das Modell
Kombinierte Vektor- und Stichwortsuche liefert bessere Treffer als Vektoren allein
Findet die Suche nichts, antwortet das Modell trotzdem – sofern nicht anders angewiesen
Bedeutung in der Praxis
Die häufigste Verwechslung in KI-Projekten: Feinjustierung statt Retrieval. Fine-Tuning verändert das Verhalten eines Modells, nicht sein Wissen. Wer will, dass ein System die eigenen Handbücher kennt, braucht RAG.
Der aufwendige Teil ist nicht der Anschluss an das Modell, sondern die Aufbereitung: Wie werden Dokumente zerlegt, wie werden Tabellen behandelt, was passiert mit Fassungen unterschiedlichen Datums?
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.