Weight Decay
Eine Regularisierungstechnik, die während des Trainings angewendet wird, um Overfitting zu reduzieren, indem ein kleiner Betrag zum Wert der Gewichte bei jeder Aktualisierung des Optimierers subtrahiert wird.
Kategorie: Training, Daten & Fine-Tuning
Weight Decay, auch bekannt als L2-Regularisierung, ist eine Methode, um die Komplexität eines Modells zu steuern und dessen Generalisierungsfähigkeit zu verbessern. Sie funktioniert, indem sie die Gewichte des Modells bestraft, die zu groß werden.
Synonyme / Tags
- L2-Regularisierung
- Gewichtsverfall
- Weight Regularization
Die ganze Definition im Member Hub braucht ein kostenloses Konto.