Temperature Temperature ist ein Einstellwert, der steuert, wie stark ein Sprachmodell bei der Auswahl des nächsten Tokens vom wahrscheinlichsten abweicht. Niedrige Werte liefern gleichförmige, vorhersehbare Ausgaben, höhere Werte mehr Abwechslung und mehr Fehler. Für Auswertungen und Klassifikationen gehört der Wert nach unten, für Textentwürfe kann er höher stehen.
Kurz-Fakten
Übliche Spanne: 0 bis etwa 2, je nach Anbieter
Bei 0 wird nahezu immer das wahrscheinlichste Token gewählt
Auch bei 0 sind Antworten in der Praxis nicht exakt reproduzierbar
Wirkt anders als Top-p, wird aber häufig damit verwechselt
Bedeutung in der Praxis
Der dritte Punkt überrascht viele: Selbst bei Temperature 0 liefern gehostete Modelle nicht Zeichen für Zeichen dasselbe Ergebnis. Wer Reproduzierbarkeit braucht, muss die Ausgabe festhalten, nicht auf eine Einstellung vertrauen.
Ein zu hoher Wert ist eine häufige und leicht behebbare Ursache für erfundene Angaben in Auswertungsaufgaben.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.