Loss Landscape
Die Loss Landscape (Verlustlandschaft) ist eine geometrische Darstellung der Loss-Funktion eines KI-Modells in Bezug auf seine Parameter. Sie visualisiert, wie sich der Verlust ändert, wenn sich die Modellparameter ändern.
Kategorie: Training, Daten & Fine-Tuning
Das Verständnis der Loss Landscape ist entscheidend für das Training von neuronalen Netzen. Optimierer wie der Gradientenabstieg navigieren durch diese Landschaft, um zu einem Minimum zu gelangen. Eine flache Loss Landscape deutet auf eine gute Generalisierungsfähigkeit hin, während eine zerklüftete Landschaft mit vielen lokalen Minima das Training erschweren kann. Die Form der Landschaft hängt von der Architektur des Modells, der Aktivierungsfunktion und der Loss-Funktion ab.
Synonyme / Tags
- Verlustlandschaft
- Error Surface
Die ganze Definition im Member Hub braucht ein kostenloses Konto.