Leistungen in Sprachmodelle – kostenlos finden, vergleichen, beauftragen.
Ein Sprachmodell sagt das nächste Token voraus. Alles, was darüber hinaus beeindruckt, ist eine Folge dieser einen Fähigkeit – und alles, was schiefgeht, auch. Wer das im Kopf behält, trifft bessere Entscheidungen darüber, wofür sich ein Modell eignet.
In der Praxis lösen die ersten beiden Wege den weit überwiegenden Teil der Fälle. Feinjustierung lohnt, wenn ein bestimmter Stil, ein festes Ausgabeformat oder eine sehr spezielle Domänensprache reproduzierbar gebraucht wird. Für „das Modell soll unsere Handbücher kennen" ist sie das teurere und schlechtere Werkzeug.
Halluzinationen lassen sich verringern, nicht abschalten. Jedes Verfahren in diesem Themenfeld nennt auf seiner Seite, welche Fehlerart es reduziert – und welche es unberührt lässt.
Retrieval-Augmented Generation verbindet ein Sprachmodell mit dem eigenen Dokumentenbestand: Zur Laufzeit werden passende Textstellen gesucht und der Anfrage beigelegt. Das Modell antwortet dann aus diesen Stellen und kann sie benennen. Der schwieri…
Ein Sprachmodell erfindet nicht aus Bosheit, sondern weil Weitermachen sein einziges Verhalten ist. Gegenmittel wirken gestaffelt: Quellen mitgeben, das Zugeben von Unwissen ausdrücklich erlauben, die Antwort gegen die Quelle prüfen lassen und regel…
Verglichen wird nicht anhand veröffentlichter Bestenlisten, sondern an den eigenen Aufgaben. Ein Modell, das in allgemeinen Vergleichstests vorn liegt, kann bei einer speziellen Auswertung schlechter abschneiden als ein kleineres und deutlich günsti…
Feinjustierung verändert das Verhalten eines Modells: Tonfall, Ausgabeformat, Umgang mit Fachsprache. Sie eignet sich, wenn eine bestimmte Form reproduzierbar gebraucht wird und Beispiele im Prompt dafür zu teuer werden. Sparsame Verfahren wie LoRA …
Große Kontextfenster verleiten dazu, einfach alles mitzugeben. Das kostet bei jedem Aufruf und verschlechtert häufig das Ergebnis: Angaben in der Mitte eines sehr langen Kontexts werden schlechter berücksichtigt als solche am Anfang oder Ende. Sinnv…