Halluzination Als Halluzination bezeichnet man eine Ausgabe eines KI-Systems, die plausibel formuliert, aber sachlich falsch oder frei erfunden ist. Sie entsteht nicht als Störung, sondern als Folge der Funktionsweise: Ein Sprachmodell erzeugt das jeweils wahrscheinlichste nächste Textstück und hat keinen Prüfschritt gegen die Wirklichkeit. Besonders anfällig sind Quellenangaben, Zahlen, Zitate und Personennamen.
Kurz-Fakten
Folgt aus der Funktionsweise, nicht aus einem Fehler im Modell
Erfundene Quellen und Aktenzeichen sind ein typisches Muster
Retrieval mit Quellenangabe senkt die Häufigkeit deutlich
Auf null bringt sie kein bekanntes Verfahren
Bedeutung in der Praxis
Wirksam sind vier Maßnahmen zusammen: Quellen mitgeben, das Zugeben von Unwissen ausdrücklich erlauben, die Antwort gegen die Quelle prüfen lassen und regelmäßig Stichproben ziehen.
Wo eine falsche Angabe unmittelbar schadet – Dosierungen, Fristen, Preise –, gehört ein Mensch dazwischen. Das ist keine Übergangslösung, sondern der derzeitige Stand der Technik.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.