Feedback-Loop-Bias (KI)
Eine Form von Bias, bei der die Outputs eines KI-Systems die Trainingsdaten für zukünftige Iterationen beeinflussen, wodurch ursprüngliche Verzerrungen verstärkt werden und sich selbst aufrechterhalten.
Kategorie: Risiken, Grenzen & Bias
Feedback-Loop-Bias ist ein sich selbst verstärkender Mechanismus. Wenn ein KI-System Entscheidungen trifft, die wiederum die Daten beeinflussen, die zur Neuschulung oder Aktualisierung des Modells verwendet werden, können anfängliche Verzerrungen in den Daten oder im Modell im Laufe der Zeit exponentiell verstärkt werden. Dies führt zu einem Teufelskreis, in dem das System immer stärker in eine bestimmte Richtung voreingenommen wird.
Synonyme / Tags
- AI Feedback Loop Bias
- Rückkopplungs-Bias KI
- Self-Reinforcing Bias AI
Die ganze Definition im Member Hub braucht ein kostenloses Konto.