Kurz-Fakten

  • Übliche Größen liegen zwischen 384 und 3072 Dimensionen
  • Ähnlichkeit wird meist über den Kosinus zwischen zwei Vektoren gemessen
  • Embeddings verschiedener Modelle sind nicht miteinander vergleichbar
  • Ein Modellwechsel erfordert die Neuberechnung des gesamten Index

Bedeutung in der Praxis

Der letzte Punkt wird regelmäßig übersehen und ist im Betrieb teuer: Wer das Embedding-Modell wechselt, muss den kompletten Bestand neu einlesen. Bei Millionen Dokumenten ist das ein Projekt, kein Konfigurationsschritt.

Embeddings bilden Ähnlichkeit ab, nicht Wahrheit. Zwei Sätze mit gegenteiliger Aussage können sehr nah beieinanderliegen – ein häufiger Grund für schlechte Treffer in RAG-Systemen.

Verwandte Begriffe