Repetition Penalty (LLM)

Die Repetition Penalty ist ein Parameter in Sprachmodellen, der die Wahrscheinlichkeit, dass bereits generierte Tokens erneut ausgewählt werden, reduziert oder erhöht. Sie dient dazu, die Wiederholung von Wörtern oder Phrasen in der Ausgabe zu steuern und die Kohärenz zu verbessern.

Kategorie: Prompting & Steuerung

Die Repetition Penalty ist besonders nützlich, um die Qualität der generierten Texte zu verbessern: