Diskriminierung (KI)

Diskriminierung durch KI tritt auf, wenn ein KI-System unfaire oder nachteilige Entscheidungen trifft, die bestimmte Gruppen von Menschen aufgrund ihrer Merkmale (z.B. Geschlecht, Ethnie, Alter) benachteiligen.

Kategorie: Risiken, Grenzen & Bias

Diese Diskriminierung kann direkt durch explizite Merkmale oder indirekt durch Korrelationen mit sensiblen Attributen entstehen und ist oft ein Ergebnis von Bias in den Trainingsdaten oder im Modell selbst.