Prompt Injection

Prompt Injection ist eine Art von Sicherheitslücke, bei der ein Angreifer durch geschickte Eingaben versucht, die Kontrolle über ein Sprachmodell zu übernehmen oder dessen vordefinierte Anweisungen zu umgehen. Ziel ist es, das Modell zu unerwünschten Aktionen zu verleiten.

Kategorie: Prompting & Steuerung

Prompt Injection stellt eine ernsthafte Bedrohung für Systeme dar, die auf LLMs basieren. Angreifer versuchen, die System-Prompts oder Guardrails zu überschreiben, um:

Synonyme / Tags

  • Prompt-Manipulation
  • Prompt-Hacking
  • Jailbreaking

Die ganze Definition im Member Hub braucht ein kostenloses Konto.

Kostenlos registrieren · Anmelden