Kontextfenster Das Kontextfenster ist die Menge an Text, die ein Sprachmodell bei einer Anfrage gleichzeitig berücksichtigen kann – gemessen in Token und einschließlich der eigenen Antwort. Was nicht hineinpasst, existiert für das Modell nicht. Große Fenster lösen das Problem nicht vollständig, weil Angaben in der Mitte langer Eingaben schlechter berücksichtigt werden als solche am Anfang oder Ende.
Kurz-Fakten
Umfasst Systemanweisung, Verlauf, mitgegebene Quellen und Antwort
Aktuelle Modelle reichen von einigen Tausend bis über eine Million Token
Angaben in der Mitte werden nachweislich schwächer gewichtet
Jedes Token im Fenster wird bei jedem Aufruf bezahlt
Bedeutung in der Praxis
Aus dem dritten Punkt folgt eine einfache Regel: Das Wichtigste gehört an den Anfang oder ans Ende, nie in die Mitte. Die übliche Reihenfolge ist Anweisung, Quellen, Frage.
Ein großes Kontextfenster ersetzt keine Suche, es verschiebt den Zeitpunkt, zu dem man eine braucht – und macht jede Anfrage teurer.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.