Halluzinationen eindämmen

Über die Leistung

Ein Sprachmodell erfindet nicht aus Bosheit, sondern weil Weitermachen sein einziges Verhalten ist. Gegenmittel wirken gestaffelt: Quellen mitgeben, das Zugeben von Unwissen ausdrücklich erlauben, die Antwort gegen die Quelle prüfen lassen und regelmäßig Stichproben ziehen. Zusammen senkt das die Fehlerquote erheblich. Grenze: Auf null kommt keine dieser Maßnahmen. Wo eine falsche Angabe unmittelbar schadet – Dosierungen, Fristen, Preise – braucht es einen Menschen dazwischen, keine bessere Anweisung.

Was dazugehört

Kurz gesagt

Erfundene Angaben messbar senken – abschalten lassen sie sich nicht