Fairness Fairness beschreibt die Anforderung, dass ein KI-System Personengruppen nicht ungerechtfertigt ungleich behandelt. Es gibt mehrere formale Definitionen – gleiche Trefferquote, gleiche Fehlerquote, gleiche Vorhersagegüte –, die sich nachweislich nicht gleichzeitig erfüllen lassen. Welche gelten soll, ist eine Entscheidung der Organisation, keine Frage der Technik.
Kurz-Fakten
Mehrere Definitionen, die einander mathematisch widersprechen
Gemessen wird durch getrennte Kennzahlen je Gruppe
Testfälle mit vertauschten Merkmalen decken Auffälligkeiten auf
Die Festlegung gehört dokumentiert und begründet
Bedeutung in der Praxis
Weil sich die Kriterien widersprechen, ist die einzig belastbare Vorgehensweise, die gewählte Definition schriftlich festzuhalten und zu begründen. Ein Bericht, der „fair" behauptet, ohne zu sagen wonach, ist wertlos.
Inhaber von SEO NW in Bertingen. Arbeitet an der Schnittstelle von Suchmaschinenoptimierung und angewandter künstlicher Intelligenz: Prompt Engineering, Retrieval-Augmented Generation und die Frage, unter welchen Bedingungen ein Sprachmodell einen Inhalt übernimmt und der richtigen Quelle zuschreibt.