Automatisierte Diskriminierung
Die systematische Benachteiligung oder Ungleichbehandlung von Personen oder Gruppen durch KI-Systeme, oft unbeabsichtigt und resultierend aus verzerrten Daten oder Algorithmen.
Kategorie: Risiken, Grenzen & Bias
Automatisierte Diskriminierung entsteht, wenn KI-Modelle Muster in Daten lernen, die soziale Ungleichheiten oder Vorurteile widerspiegeln, und diese dann in ihren Entscheidungen reproduzieren oder sogar verstärken. Dies kann in Bereichen wie Kreditvergabe, Einstellungsprozessen, Strafjustiz oder medizinischer Diagnostik auftreten.
Synonyme / Tags
- Algorithmen-Diskriminierung
- Automated Discrimination AI
- KI-Benachteiligung
Die ganze Definition im Member Hub braucht ein kostenloses Konto.