Bias-Verstärkung (KI)
Der Prozess, bei dem ein KI-System bestehende Vorurteile oder Ungleichheiten, die in den Trainingsdaten vorhanden sind, nicht nur widerspiegelt, sondern in seinen Ausgaben und Entscheidungen verstärkt.
Kategorie: Risiken, Grenzen & Bias
Bias-Verstärkung ist ein kritisches Problem, da es zu einer Eskalation von Diskriminierung und Ungerechtigkeit führen kann. Ein KI-Modell, das auf verzerrten Daten trainiert wurde, kann die Häufigkeit oder Intensität dieser Verzerrungen in seinen Vorhersagen erhöhen und somit soziale Ungleichheiten zementieren.
Synonyme / Tags
- KI-Voreingenommenheitsverstärkung
- AI Bias Amplification
- Bias-Eskalation KI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.