Diskriminierungsrisiko durch KI-Algorithmen
Dieses Risiko beschreibt die Möglichkeit, dass KI-Algorithmen unbeabsichtigt oder systemisch bestimmte Gruppen von Menschen aufgrund von Merkmalen wie Geschlecht, Herkunft oder Alter benachteiligen. Solche Diskriminierungen können durch verzerrte Trainingsdaten oder algorithmische Vorurteile entstehen.
Kategorie: Recht, Ethik & Compliance
KI-Algorithmen lernen aus den Daten, mit denen sie trainiert werden. Wenn diese Daten bereits historische oder gesellschaftliche Ungleichheiten widerspiegeln, können die KI-Modelle diese Verzerrungen (Bias) übernehmen und sogar verstärken. Dies führt zu diskriminierenden Ergebnissen, die weitreichende ethische und rechtliche Konsequenzen haben können.
Synonyme / Tags
- Algorithmen-Bias-Risiko
- AI Discrimination Risk
- Fairness-Risiko KI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.