Ethische Schieflage (KI)
Das Auftreten von moralisch oder gesellschaftlich unerwünschten Ergebnissen oder Verhaltensweisen eines KI-Systems, oft bedingt durch implizite Vorurteile in Daten oder Algorithmen.
Kategorie: Risiken, Grenzen & Bias
Eine ethische Schieflage in KI-Systemen entsteht, wenn die zugrunde liegenden Daten oder die Designentscheidungen der Entwickler unbewusst oder unbeabsichtigt gesellschaftliche Vorurteile oder normative Annahmen widerspiegeln. Dies kann zu unfairen, diskriminierenden oder anderweitig problematischen Entscheidungen führen, die bestimmte Gruppen benachteiligen oder ethische Prinzipien verletzen. Es erfordert eine sorgfältige Analyse der Datenquellen, der Modellarchitektur und der potenziellen Auswirkungen auf alle Stakeholder.
Synonyme / Tags
- Moralischer Bias in KI
- Ethical Imbalance AI
- KI-Ethikproblem
Die ganze Definition im Member Hub braucht ein kostenloses Konto.