Top-P (Nucleus Sampling)

Top-P, auch bekannt als Nucleus Sampling, ist ein Parameter zur Steuerung der Textgenerierung in Sprachmodellen, der eine Teilmenge der wahrscheinlichsten nächsten Tokens auswählt. Das Modell wählt dann zufällig ein Token aus dieser Teilmenge, deren kumulierte Wahrscheinlichkeit den Top-P-Wert überschreitet.

Kategorie: Prompting & Steuerung

Top-P bietet eine flexible Kontrolle über die Diversität der Generierung: