Daten-Bias

Daten-Bias bezeichnet systematische Verzerrungen oder Ungleichgewichte in den Trainingsdaten, die dazu führen können, dass ein Modell bestimmte Gruppen oder Merkmale bevorzugt oder benachteiligt.

Kategorie: Risiken, Grenzen & Bias

Solche Verzerrungen können unbeabsichtigt durch die Art und Weise entstehen, wie Daten gesammelt, ausgewählt oder annotiert werden. Ein Modell, das auf verzerrten Daten trainiert wurde, wird diese Verzerrungen lernen und reproduzieren.