Adaptives Batching
Eine Technik im Training von KI-Modellen, bei der die Batch-Größe dynamisch während des Trainings angepasst wird, um Ressourcen optimal zu nutzen oder die Konvergenz zu verbessern.
Kategorie: Training, Daten & Fine-Tuning
Adaptives Batching ist eine fortgeschrittene Methode im Training von neuronalen Netzen, bei der die Größe der Datenpakete (Batches), die in jedem Trainingsschritt verarbeitet werden, nicht statisch festgelegt, sondern dynamisch angepasst wird. Diese Anpassung kann auf verschiedenen Kriterien basieren:
Synonyme / Tags
- Dynamic Batch Size
- Flexible Batching
Die ganze Definition im Member Hub braucht ein kostenloses Konto.