Prompt-Kompression

Prompt-Kompression ist eine Technik zur Reduzierung der Länge eines Prompts, während seine wesentlichen Informationen und Anweisungen erhalten bleiben. Dies ist wichtig, um die Token-Grenzen von Large Language Models einzuhalten und Kosten zu senken.

Kategorie: Prompting & Steuerung

Die Prompt-Kompression wird angewendet, um lange Prompts effizienter zu gestalten. Methoden hierfür umfassen: