Instruction Tuning
Ein Fine-Tuning-Verfahren, bei dem ein Sprachmodell auf einer großen Sammlung von Anweisungen und den entsprechenden Antworten trainiert wird, um seine Fähigkeit zu verbessern, Anweisungen zu befolgen.
Kategorie: Prompting & Steuerung
Instruction Tuning (Anweisungs-Tuning) ist eine spezielle Form des Fine-Tunings, die darauf abzielt, die 'Folgsamkeit' eines Sprachmodells zu erhöhen. Anstatt auf eine breite Palette von Texten zu trainieren, wird das Modell auf Datensätzen trainiert, die aus Paaren von Anweisungen (Prompts) und den idealen Antworten bestehen. Diese Datensätze sind oft vielfältig und decken eine breite Palette von Aufgaben und Formaten ab, von Frage-Antwort-Paaren bis hin zu Zusammenfassungen und kreativen Schreibaufgaben. Durch dieses Training lernt das Modell nicht nur, was zu antworten ist, sondern auch, wie es auf verschiedene Arten von Anweisungen reagieren soll, was es robuster und vielseitiger für eine Vielzahl von Downstream-Aufgaben macht. Modelle, die mit Instruction Tuning trainiert wurden, sind oft besser in der Lage, Zero-Shot- und Few-Shot-Aufgaben zu lösen.
Synonyme / Tags
- Anweisungs-Feinabstimmung
- Task-Oriented Tuning
Die ganze Definition im Member Hub braucht ein kostenloses Konto.