KI-Fairness
Die Kurzantwort · 14 Wörter
Kurz erklärt
KI-Fairness untersucht, wie Daten, Modelle und Prozesse Vorteile, Fehler und Belastungen zwischen Menschen verteilen.
Flow-alerta.cab (2026): KI-Fairness. https://flow-alerta.cab/glossar/ai-fairness. Redaktionell geprüft am: 10. Oktober 2026.
Wie ausführlich soll es sein?
Praxis
Fairnessarbeit kann schädliche Verzerrungen sichtbar machen, liefert aber keine automatische moralische oder rechtliche Lösung.
Hypothetisches Beispiel: Ein Auswahlprozess prüft Daten, Gruppenfehler, menschliche Kontrolle, Einspruch und tatsächliche Folgen.
KMU sollten Einsatzkontext, Betroffene, Rechtsprüfung, Datenqualität und Monitoring gemeinsam betrachten.
Auf einen Blick
- Kern
- Sie ist soziotechnisch: Metriken, Rechtslage, Kontext, Beteiligung Betroffener und Prozessgestaltung gehören zusammen. Verschiedene Kriterien können einander widersprechen.
- Nutzen
- Fairnessarbeit kann schädliche Verzerrungen sichtbar machen, liefert aber keine automatische moralische oder rechtliche Lösung.
- Beispiel
- Hypothetisches Beispiel: Ein Auswahlprozess prüft Daten, Gruppenfehler, menschliche Kontrolle, Einspruch und tatsächliche Folgen.
- Grenzen
- Eine Metrik als Zertifikat; geschützte Merkmale unrechtmäßig nutzen; historische Benachteiligung als neutrale Wahrheit behandeln; Betroffene ausschließen.
Im Zusammenhang
Verzerrung (Bias) in KI und Machine Learning
Systematische Abweichung, die durch Daten, Annahmen, Modellierung oder Anwendung entstehen kann und Ergebnisse wiederholt in eine bestimmte Richtung beeinflusst.
Demografische Parität
Demografische Parität vergleicht, ob positive Modellentscheidungen in geschützten Gruppen gleich oder hinreichend ähnlich häufig auftreten.
Gleiche bedingte Fehlerraten (Equalized Odds)
Bei binärer Klassifikation verlangt Equalized Odds gleiche True-Positive- und False-Positive-Raten zwischen betrachteten Gruppen.
Fragen, die dazu gestellt werden
Gibt es eine universell faire Metrik?
Nein.
Kann man Fairness ohne Kontext messen?
Nur sehr eingeschränkt.
Alle Details und Hintergründe
Sie ist soziotechnisch: Metriken, Rechtslage, Kontext, Beteiligung Betroffener und Prozessgestaltung gehören zusammen. Verschiedene Kriterien können einander widersprechen.
ELI5 – Einfach erklärt
Man prüft nicht nur Gesamtqualität, sondern wer von Fehlern oder Entscheidungen betroffen ist.
Warum das im Alltag wichtig ist
Fairnessarbeit kann schädliche Verzerrungen sichtbar machen, liefert aber keine automatische moralische oder rechtliche Lösung.
Beispiel
Hypothetisches Beispiel: Ein Auswahlprozess prüft Daten, Gruppenfehler, menschliche Kontrolle, Einspruch und tatsächliche Folgen.
Fallstricke und Grenzen
- Eine Metrik als Zertifikat; geschützte Merkmale unrechtmäßig nutzen; historische Benachteiligung als neutrale Wahrheit behandeln; Betroffene ausschließen.
Entstehung & Geschichte
NIST AI RMF 1.0 von 2023 behandelt Fairness zusammen mit schädlichem Bias, unterschiedlichen Kontexten und soziotechnischen Risiken.
Anwendung im Mittelstand
- KMU sollten Einsatzkontext, Betroffene, Rechtsprüfung, Datenqualität und Monitoring gemeinsam betrachten.
Verwandte Begriffe
Passende Flow-alerta-Leistung
KI-Potenzialanalyse & FahrplanKI-Beratung: Betroffene, Daten und Folgen eines Anwendungsfalls berücksichtigen und geeignete Fachprüfungen einplanen.Passendes Tool / Use Case
Praxisbeispiele ansehenUse Case: dokumentierte Folgen- und Gruppenanalyse vor EinführungQuellen
Quellenprüfung: 10.10.2026. Definition und dokumentierte Einordnung abgeglichen; Beispiele beschreiben mögliche Anwendungen.
Redaktionell geprüft am: