Was ist KI-Bias?
KI-Bias tritt auf, wenn maschinelle Lernsysteme systematisch unfaire Ergebnisse für bestimmte Gruppen produzieren. Biases können aus Trainingsdaten, Modelldesign oder dem Einsatzkontext entstehen.
Quellen von Bias
Wo Bias in KI-Systeme eindringt.
Trainingsdaten
Historische Biases in den Daten werden vom Modell gelernt.
Label-Bias
Menschliche Annotatoren führen ihre eigenen Biases ein.
Selektions-Bias
Trainingsdaten repräsentieren nicht die Einsatzpopulation.
Mess-Bias
Proxies, die zur Messung verwendet werden, kodieren Bias.
Arten von Bias
Häufige Kategorien von Bias in KI-Systemen.
Stereotypisierung
Verstärkung schädlicher Stereotypen über Gruppen.
Auslöschung
Unterrepräsentation oder Ignorieren bestimmter Gruppen.
Unterschiedliche Auswirkung
Verschiedene Ergebnisse für verschiedene Gruppen.
Minderungsstrategien
Ansätze zur Reduzierung von Bias.
Diverse Daten
Sicherstellen, dass Trainingsdaten alle relevanten Gruppen repräsentieren.
Bias-Audit
Systematisch auf Bias über demografische Gruppen hinweg testen.
Fairness-Einschränkungen
Fairness-Metriken in das Training einbeziehen.
Gruppenfehlerraten untersuchen
Prüfe einen konstruierten Datensatz und die Folgen eines gemeinsamen Schwellwerts.
Fehlerraten vergleichen statt „Fairness“ bewerten
Konstruierter Datensatz: zwei Gruppen mit je sechs Fällen. Scores und Referenzergebnisse sind sichtbar. Verändere den gemeinsamen Entscheidungsschwellwert und vergleiche Fehler. Die Referenzlabels gelten hier als korrekt; in der Praxis müssen Labelqualität und Gruppenauswahl eigens geprüft werden.
Gruppe A
| Score | Referenz positiv | Ausgewählt |
|---|---|---|
| 90 | Ja | Ja |
| 70 | Ja | Ja |
| 40 | Ja | Nein |
| 60 | Nein | Ja |
| 30 | Nein | Nein |
| 10 | Nein | Nein |
- Richtig-Positiv-Rate
- 2/3 = 67%
- Falsch-Positiv-Rate
- 1/3 = 33%
- Auswahlrate
- 3/6 = 50%
Gruppe B
| Score | Referenz positiv | Ausgewählt |
|---|---|---|
| 80 | Ja | Ja |
| 50 | Ja | Ja |
| 20 | Ja | Nein |
| 70 | Nein | Ja |
| 40 | Nein | Nein |
| 10 | Nein | Nein |
- Richtig-Positiv-Rate
- 2/3 = 67%
- Falsch-Positiv-Rate
- 1/3 = 33%
- Auswahlrate
- 3/6 = 50%
TPR = ausgewählte Positive / alle Referenzpositiven. FPR = ausgewählte Negative / alle Referenznegativen. Auswahlrate = Ausgewählte / alle Fälle. Keine einzelne Rate entscheidet über Fairness; Zweck, Folgen, Unsicherheit und Datenerhebung müssen mitbetrachtet werden.
Wichtige Erkenntnisse
- 1Bias wird oft von Trainingsdaten geerbt
- 2Verschiedene Fairness-Metriken können in Konflikt stehen – wähle sorgfältig
- 3Regelmäßiges Auditing ist essentiell für eingesetzte Systeme
- 4Bias-Minderung ist ein fortlaufender Prozess, keine einmalige Lösung