Adversarial Prompting
Adversarial Prompting ist eine Technik, bei der Prompts entwickelt werden, um die Schwachstellen oder unerwünschten Verhaltensweisen eines Large Language Models aufzudecken. Dies wird oft im Rahmen von Sicherheitsforschung oder Robustheitstests eingesetzt.
Kategorie: Prompting & Steuerung
Beim Adversarial Prompting werden gezielt Prompts formuliert, die das LLM dazu bringen sollen, Fehler zu machen, schädliche Inhalte zu generieren, vertrauliche Informationen preiszugeben oder andere unerwünschte Reaktionen zu zeigen. Ziele sind:
Synonyme / Tags
- Gegnerisches Prompting
- Prompt-Attacken
Die ganze Definition im Member Hub braucht ein kostenloses Konto.