Guardrails Guardrails sind vorgeschaltete und nachgelagerte Prüfungen, die ein KI-System davon abhalten sollen, unerwünschte Eingaben zu verarbeiten oder unerwünschte Ausgaben auszuliefern. Dazu gehören Format- und Schemaprüfungen, Sperrlisten, Klassifikatoren und der Abgleich einer Antwort mit ihrer Quelle. Sie ergänzen die Anweisung an das Modell, ersetzen sie aber nicht.
Kurz-Fakten
Wirken vor der Verarbeitung (Eingabe) und danach (Ausgabe)
Am zuverlässigsten sind harte Prüfungen wie ein Schema oder ein Wertebereich
Klassifikatoren haben selbst eine Fehlerquote und müssen bewertet werden
Zu strenge Regeln führen zu Verweigerungen bei harmlosen Anfragen
Bedeutung in der Praxis
Der wirksamste Guardrail ist meist der unspektakulärste: Die Antwort muss einem festen Datenschema entsprechen, sonst wird sie verworfen und neu angefordert. Das fängt einen großen Teil der Ausreißer ab, ohne dass ein zweites Modell nötig wäre.
Jede Regel braucht eine Messung. Ohne Zahlen zu Fehlalarmen und Durchrutschern ist ein Filter nur ein gutes Gefühl.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.